ΗΠΑ: Έρευνα μετά την επίθεση μοντέλων τεχνητής νοημοσύνης σε ιστότοπο

Ο γενικός εισαγγελέας της Αλαμπάμα Στιβ Μάρσαλ ανακοίνωσε χθες Δευτέρα ότι ξεκινά έρευνα για το περιστατικό κατά το οποίο δύο μοντέλα τεχνητής νοημοσύνης (AI) της OpenAI βγήκαν με δική τους πρωτοβουλία από τον θεωρητικά περιορισμένο χώρο στον οποίο δοκιμάζονταν και επιτέθηκαν στον ιστότοπο Hugging Face τον Ιούλιο.

Οι έρευνές του θα έχουν στόχο να προσδιορίσουν εάν «η αποτυχία ή η απροθυμία της OpenAI να εγγυηθεί την ασφάλεια των προϊόντων της» συνιστά παραβίαση των νόμων περί προστασίας των καταναλωτών της πολιτείας και «παρουσιάζει συνεχή κίνδυνο σημαντικής βλάβης για τους πολίτες» της Αλαμπάμα, σύμφωνα με ανακοίνωση.

Στα τέλη Ιουλίου η καλιφορνέζικη start-up είχε ανακοινώσει ότι στη διάρκεια τεστ δύο από τα μοντέλα της διέφυγαν από τον περιορισμένο χώρο, διείσδυσαν στο διαδίκτυο και επιτέθηκαν στη Hugging Face, μια βιβλιοθήκη Τεχνητής Νοημοσύνης. Εκεί έψαξαν για να βρουν τις απαντήσεις στις δοκιμές στις οποίες υποβάλλονταν από τους προγραμματιστές της OpenAI.

Στις αρχές Αυγούστου οι γενικοί εισαγγελείς 15 πολιτειών των ΗΠΑ, ανάμεσά τους και της Αλαμπάμα, υπέβαλαν αίτημα στην OpenAΙ να διατηρήσει όλα τα εσωτερικά έγγραφα που σχετίζονται με το περιστατικό, καθώς και με τυχόν άλλα, προηγούμενα αντίστοιχα. Ζήτησαν επίσης από την εταιρεία να σταματήσει τυχόν περαιτέρω δοκιμές που θα μπορούσαν να οδηγήσουν σε επίθεση παρόμοια με αυτήν του Ιουλίου.

Η OpenAI δεν έχει απαντήσει στο αίτημα αυτό, δήλωσε στο AFP εκπρόσωπος του γενικού εισαγγελέα της Αλαμπάμα.

«Το περιστατικό της Hugging Face αποτελεί σημαντική στιγμή για την ασφάλεια της AI», αντέδρασε η OpenAI μιλώντας στον ιστότοπο TechCrunch. «Προχωρούμε σε βαθιά αξιολόγηση του επεισοδίου με τη βοήθεια εξωτερικών συμβούλων», πρόσθεσε. Μόλις ολοκληρωθεί η αξιολόγηση «θα καταθέσουμε τεχνική έκθεση στην κυβέρνηση και θα ανακοινώσουμε δημοσίως τα συμπεράσματά μας», πρόσθεσε η start-up.

Στα μέσα Αυγούστου η εταιρεία που δημιούργησε το ChatGPT ανακοίνωσε ότι καθυστερεί την ανάπτυξη ενός από τα νέα της μοντέλα με το όνομα Astra, προκειμένου να το εξοπλίσει με πρόσθετες δικλείδες ασφαλείας για την προστασία των προηγμένων δυνατοτήτων του, ιδίως στον τομέα της κυβερνοασφάλειας.

^{AΠΕ-ΜΠΕ/ photo AI: pixabay}