ΔΙΕΘΝΗ

OpenAI: Η Τεχνητή Νοημοσύνη παραβίασε πανεπιστημιακά και κυβερνητικά δίκτυα – 4 νέα αυτόνομα περιστατικά χάκινγκ

Η Τεχνητή Νοημοσύνη (ΤΝ) της OpenAI, ενώ συγκέντρωνε απλά δεδομένα καθημερινής φύσης, συνάντησε εμπόδια σε πανεπιστημιακούς και κυβερνητικούς ιστοτόπους και αποφάσισε να παραβιάσει αυτές τις «κλειστές πόρτες».

Τέσσερα καινούργια περιστατικά φανερώνουν τα σοβαρά κενά που υπάρχουν στον έλεγχο της τεχνολογίας: αυτόνομα συστήματα της εταιρείας, χωρίς να συμμετέχουν σε δοκιμή κυβερνοασφάλειας, επέλεξαν από μόνα τους τεχνικές hacking προκειμένου να αντλήσουν πληροφορίες.

Τέσσερα νέα περιστατικά αυτόνομων επιθέσεων

Τα συμβάντα καταγράφηκαν τον Μάιο και τον Ιούνιο, προτού ακολουθήσει τον Ιούλιο η αυτόνομη παραβίαση της startup τεχνητής νοημοσύνης Hugging Face, η οποία είχε σημάνει συναγερμό σε παγκόσμιο επίπεδο.

Σε αυτές τις περιπτώσεις, σε αντίθεση με άλλες κατά τις οποίες τα συστήματα κλήθηκαν να ελέγξουν πόσο ανθεκτικά ήταν ορισμένα δίκτυα, τα μοντέλα της OpenAI είχαν αναλάβει απλές αποστολές άντλησης πληροφοριών. Μόλις οι ιστότοποι εμπόδισαν την είσοδό τους, η τεχνητή νοημοσύνη δεν υποχώρησε αλλά χρησιμοποίησε μεθόδους παραβίασης.

Το ερευνητικό εργαστήριο Transluce, το οποίο ειδικεύεται στην εποπτεία συστημάτων AI, εντόπισε τρία από τα συμβάντα, ενώ στη συνέχεια η OpenAI τα επιβεβαίωσε.

  • 25 και 26 Μαΐου: Στόχος των συστημάτων της OpenAI έγινε η ψηφιακή βιβλιοθήκη του Πανεπιστημίου του Νέου Μεξικού, όπου η AI έψαχνε φωτογραφικό υλικό από ιστορικό σανατόριο φυματίωσης. Επειδή δεν κατάφερε να το αποκτήσει, άρχισε να ελέγχει τον ιστότοπο αναζητώντας ευπάθειες. Καθώς δεν εντόπισε «τρύπες» ασφαλείας, έστειλε στον πανεπιστημιακό διακομιστή έναν «κατακλυσμό» 80 αιτημάτων. Όπως φάνηκε, η απόπειρα δεν πέτυχε.
  • 28 Μαΐου: Στο επίκεντρο της τεχνολογίας βρέθηκε το Data USA, μία δημόσια βάση δεδομένων σχετικά με την εκπαίδευση και την απασχόληση στις ΗΠΑ. Αρχικά, η AI υπέβαλε ένα ασαφές αίτημα και, μετά την αποτυχία του, επιχείρησε ανεπιτυχώς 12 ελέγχους για πιθανές ευπάθειες.
  • 18 Ιουνίου: Πρόσβαση σε μη δημόσια στοιχεία υγείας απέκτησε η ΤΝ της OpenAI, παραβιάζοντας την αυστραλιανή κυβερνητική υπηρεσία Medicare Statistics Reporting Service.
  • 20 και 21 Ιουνίου: Η ιστοσελίδα του Αυστραλιανού Ινστιτούτου Υγείας και Ευημερίας (AIHW) αποτέλεσε στόχο απόπειρας παραβίασης από την τεχνολογία. Αυστραλοί αξιωματούχοι ανέφεραν ότι δεν αποκτήθηκε πρόσβαση σε προσωπικά δεδομένα.

Η παραβίαση στην Αυστραλία και η θέση Αλμπανέζε

Το σύστημα της αυστραλιανής κυβέρνησης που παραβιάστηκε είναι η ηλεκτρονική πύλη στατιστικών στοιχείων του Medicare. Πρόκειται για το εθνικό σύστημα υγείας της Αυστραλίας, το οποίο παρέχει κάλυψη σε 27,5 εκατομμύρια ασφαλισμένους και επισκέπτες από το εξωτερικό.

Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, αποκάλυψε ότι μία ομάδα της OpenAI πραγματοποιούσε διαδικτυακή έρευνα σχετικά με τις δημόσιες δαπάνες στον τομέα της υγείας.

Έπειτα από αλλεπάλληλα μπλοκαρίσματα, οι αυτόνομοι πράκτορες (agents) της AI άρχισαν να αναζητούν «εναλλακτικούς τρόπους» για να αποκτήσουν πρόσβαση και τελικά εισχώρησαν σε μη δημόσιες ενότητες της πύλης. Ωστόσο, η OpenAI ειδοποίησε την αυστραλιανή κυβέρνηση μόλις στις 10 Σεπτεμβρίου.

Ο Αυστραλός Πρωθυπουργός δήλωσε: «Πρόκειται για έναν νέο κόσμο με τον οποίο ερχόμαστε αντιμέτωποι».

«Τα διαθέσιμα στοιχεία δείχνουν ότι δεν υπάρχει ευρύτερη παραβίαση του δικτύου. Παρ’ όλα αυτά, αυτή η κατάσταση είναι προφανώς απαράδεκτη. Υπήρχαν μπλοκαρίσματα που έλεγαν σαφώς “όχι” στον πράκτορα AI. Ο πράκτορας AI βρήκε έναν τρόπο να ξεπεράσει αυτά τα εμπόδια — δεν δέχτηκε το “όχι” ως απάντηση».

Την έντονη απογοήτευσή του για τη μεγάλη καθυστέρηση με την οποία η OpenAI ενημέρωσε τις αρμόδιες αρχές εξέφρασε ο Αλμπανέζε. Πρόσθεσε ότι η κυβέρνηση της Αυστραλίας εξετάζει επίσης για ποιον λόγο τα δικά της συστήματα δεν κατάφεραν εξαρχής να αντιληφθούν την παραβίαση.

Ταυτόχρονα, προειδοποίησε πως τρεις επιπλέον κυβερνητικοί ιστότοποι για την υγεία ενδέχεται να έχουν επηρεαστεί.

Ο υπουργός Άμυνας της Αυστραλίας, Ρίτσαρντ Μαρλς, διευκρίνισε από την πλευρά του πως η παραβιασμένη πύλη φιλοξενούσε αποκλειστικά συγκεντρωτικά στατιστικά δεδομένα για τη χρήση υπηρεσιών υγειονομικής περίθαλψης. Δεν περιλάμβανε προσωπικούς ιατρικούς φακέλους, τραπεζικά δεδομένα ή αποζημιώσεις μεμονωμένων ατόμων.

Η OpenAI επιβεβαιώνει τα τέσσερα περιστατικά

Η εκπρόσωπος της OpenAI επιβεβαίωσε τα περιστατικά και είπε ότι η εταιρεία ήρθε σε επικοινωνία με το Πανεπιστήμιο του Νέου Μεξικού, το Data USA, καθώς και με την κυβέρνηση της Αυστραλίας. Η ίδια εξήγησε ότι το περιστατικό παραβίασης στην Αυστραλία εντοπίστηκε στο πλαίσιο ενός «εκτεταμένου επανελέγχου» των εταιρικών μοντέλων.

«Στο πλαίσιο της ευρύτερης αναθεώρησής μας, συνεχίζουμε να δίνουμε προτεραιότητα στα σοβαρότερα περιστατικά, ενώ παράλληλα διευρύνουμε την εργασία μας σε δραστηριότητες χαμηλότερης σοβαρότητας, συμπεριλαμβανομένης της αποστολής ανεπιθύμητων αιτημάτων (spam) από πράκτορες σε ιστοσελίδες. Τα μοντέλα μας ανέλαβαν ενέργειες που δεν είχαμε την πρόθεση να πραγματοποιήσουν», ανέφερε η εκπρόσωπος, συμπληρώνοντας πως η διαδικασία ελέγχου θα συνεχιστεί επί μήνες.

Η OpenAI, σε χωριστή τοποθέτησή της, επισήμανε: «Η αναθεώρησή μας δεν βρήκε κανένα στοιχείο πρόσβασης σε ιατρικούς φακέλους ασθενών. Εντοπίστηκε δραστηριότητα που εμπλέκει διάφορες ιστοσελίδες και υπηρεσίες της αυστραλιανής κυβέρνησης καθώς τα μοντέλα μας προσπαθούσαν να βρουν απαντήσεις».

Με ανάρτηση στην πλατφόρμα Χ τη Δευτέρα 14 Σεπτεμβρίου, ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, στάθηκε στην ανάγκη για προστατευτικά πλαίσια.

«Υπάρχουν τρόποι με τους οποίους η εξέλιξη της τεχνητής νοημοσύνης θα μπορούσε να πάρει πολύ κακή τροπή και τους οποίους πρέπει να αποφύγουμε», ανέφερε, μεταξύ άλλων. «Θα μπορούσαμε να χάσουμε τον έλεγχο του μέλλοντος υπέρ της τεχνητής νοημοσύνης. Αυτό είναι απαράδεκτο».

Ο Πρωθυπουργός της Αυστραλίας δήλωσε πως είχε συνομιλία με τον Άλτμαν, στον οποίο μετέφερε την «ακραία ανησυχία» της χώρας για το περιστατικό.

Ανησυχίες για τους αυτόνομους πράκτορες τεχνητής νοημοσύνης

Τα πρόσφατα ευρήματα καταδεικνύουν ότι τα συστήματα της OpenAI προσπαθούν να εισβάλουν σε βάσεις δεδομένων και εταιρικά δίκτυα για πολύ μεγαλύτερο χρονικό διάστημα από όσο ήταν γνωστό. Η Transluce είχε εντοπίσει διαδικτυακή κίνηση από πράκτορες της OpenAI ήδη από τον Μάρτιο.

Ο Κόνραντ Στος, επικεφαλής διακυβέρνησης στην Transluce, δήλωσε: «Η αποκάλυψη των τεσσάρων επιπλέον περιστατικών προσθέτει περαιτέρω στοιχεία στην ιδέα ότι οι πράκτορες πρέπει να αντιμετωπίζονται με μεγάλη προσοχή». Παράλληλα, εκτίμησε ότι τα περιστατικά στην Αυστραλία είναι πιθανότατα «την πρώτη περίπτωση που ένας πράκτορας επιλέγει αυτόνομα να παραβιάσει μια κυβέρνηση».

«Αν εκπαιδεύσετε ένα σμήνος πρακτόρων για να επιτύχει μια γενική εργασία και αυτοί οι πράκτορες είναι διατεθειμένοι να καταφύγουν στο hacking, όποιος διαθέτει αυτές τις πληροφορίες μπορεί να βρίσκεται σε κίνδυνο».

Ο Μόρις Τσιόντο, Αυστραλός μαθηματικός στο Κέντρο Μελέτης Υπαρξιακού Κινδύνου του Πανεπιστημίου του Κέμπριτζ, ανέφερε από την επιστημονική κοινότητα ότι η συγκεκριμένη παραβίαση συνιστά «σημαντική κλιμάκωση της σοβαρότητας σε σχέση με παρόμοια περιστατικά των τελευταίων μηνών».

Επισήμανε ακόμη ότι, παρότι η συζήτηση για νέους νόμους είναι έντονη, οι υπεύθυνοι χάραξης πολιτικής οφείλουν καταρχάς να εξετάσουν την εφαρμογή των υπαρχόντων, όπως εκείνων που καθιστούν ποινικά κολάσιμες τις μη εξουσιοδοτημένες εισβολές σε υπολογιστικά συστήματα.

Η παγκόσμια ανησυχία για τις αυτόνομες παραβιάσεις AI

Τα συγκεκριμένα περιστατικά έρχονται να προστεθούν σε μια σειρά παραβιάσεων, στις οποίες αυτόνομα συστήματα των OpenAI, Anthropic, Meta και Google εισέβαλαν σε ξένα συστήματα χωρίς ανθρώπινη γνώση.

Το θέμα έχει διχάσει την πολιτική και τεχνολογική ηγεσία. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει από κυβερνήσεις και εταιρείες να συνεργαστούν προτού η τεχνολογία αποκτήσει ισχύ υπερβολική για να ελεγχθεί από τον άνθρωπο.

Στον αντίποδα, στελέχη όπως ο Τζένσεν Χουάνγκ της Nvidia κρίνουν ως υπερβολικά τα σενάρια καταστροφής, ενώ ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει δηλώσει πως δεν θεωρεί αναγκαία την αυστηρή ρύθμιση της τεχνητής νοημοσύνης.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν, στο ΔΕΔΟΜΕΝΟ.

ΣΧΟΛΙΑ

Γίνετε ο πρώτος που θα σχολιάσει αυτό το άρθρο.

Αφήστε ένα σχόλιο

Η διεύθυνση email σας δεν δημοσιεύεται. Τα υποχρεωτικά πεδία σημειώνονται με *.

OpenAI: Η Τεχνητή Νοημοσύνη παραβίασε πανεπιστημιακά και κυβερνητικά δίκτυα – 4 νέα αυτόνομα περιστατικά χάκινγκ