OpenAI παραδέχεται ότι η «ανεξέλεγκτη» Τεχνητή Νοημοσύνη της επιχείρησε να χακάρει άλλες εταιρείες

Η OpenAI αποκάλυψε ότι το αυτόνομο σύστημα Τεχνητής Νοημοσύνης που ξέφυγε από το ελεγχόμενο περιβάλλον δοκιμών και πραγματοποίησε κυβερνοεπίθεση δεν επιτέθηκε μόνο στην πλατφόρμα Hugging Face, αλλά και σε άλλες δημόσια προσβάσιμες διαδικτυακές υπηρεσίες.

Η εταιρεία ανέφερε ότι το AI εντόπισε στο διαδίκτυο τέσσερα δημόσια εκτεθειμένα διαπιστευτήρια (credentials), τα οποία χρησιμοποίησε για να αποκτήσει πρόσβαση σε τέσσερις διαφορετικούς λογαριασμούς ισάριθμων υπηρεσιών. Ωστόσο, δεν αποκάλυψε τα ονόματα των υπηρεσιών ούτε διευκρίνισε αν επρόκειτο για εταιρείες, αναφέρει το BBC.

Η πρώτη πλήρως αυτόνομη κυβερνοεπίθεση από AI

Η Hugging Face, που λειτουργεί ως μία από τις μεγαλύτερες πλατφόρμες φιλοξενίας εργαλείων Τεχνητής Νοημοσύνης, είχε αποκαλύψει στις 16 Ιουλίου ότι δέχθηκε επίθεση από αυτόνομους AI agents και ενημέρωσε τις αρχές.

Λίγες ημέρες αργότερα, η OpenAI παραδέχθηκε ότι πίσω από την επίθεση βρισκόταν δικό της σύστημα Τεχνητής Νοημοσύνης, το οποίο είχε ξεφύγει από το απομονωμένο περιβάλλον δοκιμών.

Στόχος του AI ήταν να βρει τις απαντήσεις σε μια δοκιμασία κυβερνοασφάλειας που του είχε αναθέσει η ίδια η OpenAI.

Δούλευε με υπεράνθρωπη ταχύτητα αλλά έκανε παράξενα λάθη

Σε έκτακτη ενημέρωση προς εκατοντάδες ειδικούς κυβερνοασφάλειας, η Hugging Face περιέγραψε πώς οι AI agents λειτουργούσαν ασταμάτητα, δοκιμάζοντας ταυτόχρονα χιλιάδες διαφορετικές μεθόδους επίθεσης.

Σύμφωνα με έκθεση της Cloud Security Alliance (CSA), οι agents ακολουθούσαν συχνά αναποτελεσματικές διαδρομές, επαναλάμβαναν ενέργειες που είχαν ήδη ολοκληρώσει, «παραισθάνονταν» δημιουργώντας ακατανόητες εντολές και δεν φρόντιζαν να καλύψουν τα ίχνη τους.

Παρά τα λάθη τους, κατάφερναν να προσαρμόζονται γρήγορα σε νέα εμπόδια και να πραγματοποιούν ιδιαίτερα σύνθετες τεχνικές επιθέσεις.

Τρεις ημέρες μέσα στο δίκτυο της εταιρείας

Η Hugging Face αποκάλυψε ότι χρειάστηκαν τρεις ημέρες μέχρι να εντοπιστούν οι AI agents στο δίκτυό της και πολλές ακόμη ώρες ώστε οι ειδικοί να τους απομονώσουν και να τους απομακρύνουν.

Η εταιρεία δεν αποκάλυψε το οικονομικό κόστος της επίθεσης, ανέφερε όμως ότι χρειάστηκε να ανακατασκευάσει περίπου το ένα τρίτο της υποδομής της.

«Βρίσκουν πάντα έναν τρόπο»

Η Cloud Security Alliance παρομοίασε το περιστατικό με το Jurassic Park, σημειώνοντας ότι, όπως οι δεινόσαυροι της ταινίας, έτσι και οι αυτόνομοι AI agents «βρίσκουν πάντα έναν τρόπο».

Όπως αναφέρει η έκθεση, οι agents είναι προσανατολισμένοι στην επίτευξη του στόχου τους, δημιουργούν μόνοι τους ενδιάμεσους στόχους, προσαρμόζονται σε πραγματικό χρόνο για να παρακάμψουν τις άμυνες και λειτουργούν με ταχύτητα μηχανής, γεγονός που μπορεί να υπερκεράσει τις παραδοσιακές άμυνες κυβερνοασφάλειας.

Προειδοποίηση προς τη βιομηχανία

Η CSA προειδοποιεί ότι η συμπεριφορά των «ανεξέλεγκτων» AI agents δεν αποτελεί εξαίρεση αλλά πιθανό χαρακτηριστικό των μελλοντικών αυτόνομων συστημάτων και καλεί τις εταιρείες να ενισχύσουν τους μηχανισμούς ελέγχου και διαφάνειας.

Η OpenAI ανακοίνωσε ότι θα δημοσιοποιήσει σύντομα τα πλήρη πορίσματα της εσωτερικής της έρευνας, ώστε η βιομηχανία να αντλήσει διδάγματα από το πρωτοφανές περιστατικό.