Anthropic: Προειδοποίηση για την Τεχνητή Νοημοσύνη – Πώς μπορεί σύντομα να αυτοαναπαράγεται σε έξυπνες οικιακές συσκευές

Η Anthropic προειδοποιεί για μια νέα, ανησυχητική πλευρά των κινδύνων της Τεχνητής Νοημοσύνης: μέσα στους επόμενους μήνες, μικρά μοντέλα ενδέχεται να μπορούν να αντιγράφονται και να εξαπλώνονται μόνα τους σε συσκευές με σύνδεση στο διαδίκτυο. Αυτό θα μπορούσε να οδηγήσει σε botnets που θα επεκτείνονται χωρίς διαρκή ανθρώπινη καθοδήγηση, θα αντιστέκονται στις προσπάθειες εξουδετέρωσής τους και ίσως θα επιχειρούν να αποκτήσουν πρόσβαση ακόμη και σε κέντρα δεδομένων, για να αυξήσουν την υπολογιστική τους ισχύ.

Όπως μετέδωσε το Reuters, η αμερικανική εταιρεία ανάπτυξης συστημάτων Τεχνητής Νοημοσύνης ανέφερε τη Δευτέρα ότι τα πειράματά της δείχνουν πως κακόβουλοι πράκτορες AI θα μπορούσαν να συγκεντρώνουν την υπολογιστική ισχύ πολλών φθηνών συσκευών που συνδέονται στο διαδίκτυο, με σκοπό να εκτελούν επιπλέον μοντέλα.

Περίπου έναν μήνα νωρίτερα, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, είχε δηλώσει ότι η Τεχνητή Νοημοσύνη μπορεί μέσα στον επόμενο χρόνο, ή ακόμη και νωρίτερα, να καταφέρει να ελέγξει «ολόκληρο το διαδίκτυο» μέσω ενός μόνιμου δικτύου μολυσμένων συσκευών.

Οι δηλώσεις του είχαν προκαλέσει έντονες αντιδράσεις, αλλά και ανησυχία στους κόλπους της κυβερνοασφάλειας.

Πώς μπορεί η Τεχνητή Νοημοσύνη να εξαπλωθεί σε τηλεοράσεις, κάμερες και συσκευές του σπιτιού

Με τον όρο botnets περιγράφονται μεγάλα σύνολα παραβιασμένων ηλεκτρονικών συσκευών, τα οποία βρίσκονται υπό τον έλεγχο κακόβουλων χρηστών.

Τα δίκτυα αυτά υπάρχουν από τις πρώτες ημέρες του διαδικτύου και συχνά αξιοποιούν συσκευές με ανεπαρκή μέτρα ασφαλείας, μεταξύ των οποίων αποκωδικοποιητές Android TV, έξυπνες οικιακές συσκευές και κάμερες ασφαλείας.

Μέσω botnets, οι κυβερνοεγκληματίες μπορούν να στέλνουν ανεπιθύμητα μηνύματα, να διανέμουν κακόβουλο λογισμικό ή να πραγματοποιούν μαζικές επιθέσεις κατά επιχειρήσεων και διαδικτυακών υπηρεσιών.

Αυτό που προκαλεί τώρα ανησυχία είναι ότι η Τεχνητή Νοημοσύνη ενδέχεται να δώσει στα συγκεκριμένα δίκτυα περισσότερη αυτονομία.

Η Anthropic αναφέρει ότι ένας κακόβουλος πράκτορας Τεχνητής Νοημοσύνης θα μπορούσε να αξιοποιήσει την υπολογιστική ισχύ πολλών σχετικά αδύναμων συσκευών, χρησιμοποιώντας τους διαθέσιμους πόρους τους για τη λειτουργία επιπλέον μοντέλων.

Στο εργαστήριο, μοντέλα Τεχνητής Νοημοσύνης της εταιρείας πέτυχαν να δημιουργήσουν αντίγραφα του εαυτού τους και να εξαπλωθούν μέσα σε ένα απλοποιημένο δοκιμαστικό δίκτυο.

«Ένας τέτοιος μηχανισμός αυτοαναπαραγωγής θα ήταν δύσκολο να εξουδετερωθεί, καθώς δεν υπάρχει ένα κεντρικό σημείο που θα μπορούσε να απενεργοποιηθεί», προειδοποίησε η εταιρεία.

Τα αποτελέσματα των δοκιμών της Anthropic και το ορόσημο στα τέλη του 2026

Η Anthropic κατέληξε ότι μοντέλα Τεχνητής Νοημοσύνης με έως 30 δισεκατομμύρια παραμέτρους μπορούν ήδη να εκτελούν πολλές από τις επιμέρους εργασίες που απαιτούνται για την αυτόνομη αναπαραγωγή τους.

Παρόλα αυτά, δεν καταφέρνουν ακόμη να ολοκληρώνουν αξιόπιστα όλη τη διαδικασία χωρίς εξωτερική παρέμβαση.

Σε απλοποιημένες δοκιμές, από τις οποίες είχαν αφαιρεθεί ορισμένα μέτρα ασφαλείας, η εταιρεία διαπίστωσε ότι το GLM-5.2, καθώς και ισχυρότερα μοντέλα, μπορούσαν να ολοκληρώσουν από την αρχή έως το τέλος τη διαδικασία αυτοαναπαραγωγής.

Κατά την εκτίμηση της Anthropic, αν τα μικρότερα μοντέλα συνεχίσουν να εξελίσσονται με τους ιστορικούς ρυθμούς, μέχρι το τέλος του 2026 ίσως διαθέτουν την ικανότητα που απαιτείται για αυτόνομη αναπαραγωγή.

Η εταιρεία διευκρίνισε πως ένα πρόγραμμα Τεχνητής Νοημοσύνης που αυτοαναπαράγεται σε συσκευές με περιορισμένη υπολογιστική ισχύ μπορεί να χρειαστεί αρκετές ημέρες για να ολοκληρώσει ορισμένα στάδια.

Ακόμη κι αν λειτουργεί σχετικά αργά, ένα τέτοιο δίκτυο θα μπορούσε να διευρύνεται συνεχώς, εφόσον οι συσκευές που έχουν παραβιαστεί μολύνουν αρκετά νέα συστήματα.

Η ανησυχία για πιθανή πρόσβαση σε κέντρα δεδομένων

Η Anthropic προειδοποιεί ότι συστήματα του μέλλοντος ενδέχεται να επιχειρήσουν να αποκτήσουν πρόσβαση σε ισχυρότερη υπολογιστική υποδομή, όπως στους επεξεργαστές που χρησιμοποιούνται στα κέντρα δεδομένων.

Θεωρητικά, μια τέτοια εξέλιξη θα έδινε σε κακόβουλα συστήματα Τεχνητής Νοημοσύνης τη δυνατότητα να ενισχύσουν σημαντικά την υπολογιστική τους ισχύ και να εξαπλωθούν ταχύτερα.

Η εταιρεία, ωστόσο, υπογράμμισε ότι οι δοκιμές της δεν κατέδειξαν πως είναι δυνατή η αυτόνομη αναπαραγωγή μέσω εμπορικών κέντρων δεδομένων.

Τα νέα ευρήματα προσθέτουν στην ανησυχία για τους κινδύνους που συνδέονται με την ταχεία ανάπτυξη όλο και ισχυρότερων μοντέλων Τεχνητής Νοημοσύνης.

Στους κινδύνους αυτούς συγκαταλέγονται η αυτοματοποίηση κυβερνοεπιθέσεων, η λειτουργία συστημάτων με περιορισμένη ανθρώπινη εποπτεία, καθώς και το ενδεχόμενο να παρακαμφθούν οι μηχανισμοί ασφαλείας.

Η προειδοποίηση της Anthropic έρχεται να προστεθεί σε σειρά παρεμβάσεων από στελέχη και ερευνητές του κλάδου, οι οποίοι εκφράζουν φόβους για τις πιθανές σοβαρές επιπτώσεις από την ανεξέλεγκτη ανάπτυξη της Τεχνητής Νοημοσύνης.

Τα ευρήματα περιορίζονται μέχρι στιγμής κυρίως σε πειραματικές συνθήκες και εκτιμήσεις για όσα ενδέχεται να μπορούν να κάνουν τα μοντέλα στο μέλλον. Η εταιρεία, ωστόσο, επισημαίνει ότι ίσως απομένει πολύ λίγος χρόνος για την αντιμετώπιση των συγκεκριμένων κινδύνων.