Τεχνητή Νοημοσύνη: Οι «νονοί» της ΑΙ προειδοποιούν για ανεξέλεγκτη «έκρηξη νοημοσύνης» – «Το παράθυρο για δράση μπορεί να κλείσει»

Οι «νονοί» της σύγχρονης Τεχνητής Νοημοσύνης, δύο από τους σημαντικότερους εκπροσώπους του πεδίου, απευθύνουν μαζί με ανώτατα στελέχη των OpenAI και Anthropic προειδοποίηση προς τις κυβερνήσεις. Τους καλούν να προετοιμαστούν για μια πιθανή «έκρηξη νοημοσύνης», στην οποία συστήματα Τεχνητής Νοημοσύνης ενδέχεται να επιταχύνουν εντυπωσιακά τη δική τους πρόοδο.

Όπως αναφέρει ο Guardian, νέα έκθεση με υπογραφές, μεταξύ άλλων, του νομπελίστα Τζέφρι Χίντον και του Καναδού επιστήμονα υπολογιστών Γιοσούα Μπέντζιο, εκτιμά ότι αυτή η προοπτική μπορεί να συνιστά «την πιο σημαντική τεχνολογική εξέλιξη στην ανθρώπινη ιστορία». Θα μπορούσε, δηλαδή, να συμπυκνώσει μέσα σε λίγους μήνες ή και λιγότερο πρόοδο για την οποία υπό κανονικές συνθήκες θα χρειάζονταν χρόνια.

Ανάμεσα στους περισσότερους από 20 συντάκτες της έκθεσης βρίσκονται ακόμη ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, καθώς και ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Παχότσκι.

Πώς η Τεχνητή Νοημοσύνη θα αυτοβελτιώνεται

Βασική αιτία ανησυχίας αποτελεί το ενδεχόμενο τα συστήματα Τεχνητής Νοημοσύνης να μπορούν να αναβαθμίζουν την τεχνολογία τους δίχως ανθρώπινη παρέμβαση. Η διαδικασία αυτή περιγράφεται ως «αναδρομική αυτοβελτίωση».

Κατά τους συγγραφείς, πρόκειται ουσιαστικά για την αυτοματοποίηση της έρευνας και ανάπτυξης στην Τεχνητή Νοημοσύνη. Η έκθεση σημειώνει ότι, αν τα συστήματα αποκτήσουν επίπεδο ειδικού στην έρευνα Τεχνητής Νοημοσύνης, μία μόνο εταιρεία θα μπορούσε να έχει στη διάθεσή της εργατικό δυναμικό αντίστοιχο με «εκατομμυρίων» κορυφαίων ανθρώπινων ερευνητών.

Οι επιστήμονες θεωρούν ότι η αυτοματοποίηση αυτού του τομέα είναι η πιο πιθανή απαρχή μιας «έκρηξης νοημοσύνης». Αυτό συμβαίνει επειδή τα συστήματα ήδη βοηθούν στη βελτίωση της τεχνολογίας τους, ενώ οι νεότερες και ισχυρότερες εκδόσεις τους μπορούν να δημιουργηθούν σε πολύ σύντομο χρόνο.

«Μια έκρηξη νοημοσύνης θα μπορούσε να είναι η σημαντικότερη τεχνολογική εξέλιξη στην ανθρώπινη ιστορία, συμπιέζοντας χρόνια προόδου σε μήνες ή λιγότερο, απειλώντας τον ανθρώπινο έλεγχο των συστημάτων Τεχνητής Νοημοσύνης και διαβρώνοντας σοβαρά τους ελέγχους στην εξουσία μεταξύ κρατών, εταιρειών και κλάδων της κυβέρνησης», αναφέρει η έκθεση.
Η προειδοποίηση που ακολουθεί είναι ξεκάθαρη: «Μόλις αρχίσει μια έκρηξη νοημοσύνης, το παράθυρο για δράση μπορεί να κλείσει».

Η Anthropic αναφέρει ότι η Τεχνητή Νοημοσύνη γράφει το 80% του κώδικά της

Οι ερευνητές τονίζουν πως δεν πρόκειται μόνο για ένα θεωρητικό ενδεχόμενο. Η Anthropic δηλώνει ότι πλέον η Τεχνητή Νοημοσύνη δημιουργεί το 80% του δικού της κώδικα, την ώρα που η OpenAI αξιοποιεί αυτόνομους πράκτορες Τεχνητής Νοημοσύνης, μεταξύ άλλων, για την εκπαίδευση νέων μοντέλων.

Στην έκθεση επισημαίνεται ότι «Τα προκαταρκτικά στοιχεία υποδεικνύουν ότι μια έκρηξη νοημοσύνης βασισμένη στο λογισμικό είναι πιθανή». Οι συντάκτες προειδοποιούν ότι μια τέτοια εξέλιξη μπορεί να φέρει εξαιρετικά ταχεία ανάπτυξη πολύ ισχυρών ή υπεράνθρωπων συστημάτων Τεχνητής Νοημοσύνης.

Η OpenAI και η Anthropic έχουν ήδη δεχθεί να δίνουν τη δυνατότητα σε ανεξάρτητους αξιολογητές να εξετάζουν τα μοντέλα τους. Η συμφωνία αυτή έρχεται καθώς ενισχύονται οι ανησυχίες για την ασφάλεια που συνοδεύει την ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης.

Βιολογικές και κυβερνοαπειλές, μαζί με απώλεια ελέγχου

Μια τέτοια έκρηξη στην τεχνολογία θα μπορούσε να φέρει σημαντικές ανακαλύψεις στην επιστήμη και την ιατρική. Παράλληλα όμως, οι συγγραφείς της έκθεσης διακρίνουν τρεις κύριους κινδύνους.
Ιδιαίτερα ισχυρά συστήματα ενδέχεται να καταστήσουν δυνατή την ανάπτυξη βιολογικών και κυβερνοαπειλών ταχύτερα από όσο θα είναι εφικτή η δημιουργία των αναγκαίων μέτρων προστασίας.

Επιπλέον, η σταδιακή απομάκρυνση των ανθρώπων από την έρευνα και ανάπτυξη της Τεχνητής Νοημοσύνης μπορεί να οδηγήσει σε απώλεια της δυνατότητάς τους να ελέγχουν τα συστήματα.
Υφίσταται και γεωπολιτική διάσταση: ένα κράτος με ακόμη και μικρό προβάδισμα σε πεδίο όπως ο κυβερνοχώρος ενδέχεται, μέσω μιας «έκρηξης νοημοσύνης», να το μετατρέψει σε καθοριστικό πλεονέκτημα.

Οι επιστήμονες παραδέχονται οι ίδιοι ότι οι επιπτώσεις δεν είναι βέβαιο ποιες θα είναι. Ενδεικτικά, μια νέα τεχνολογική ανακάλυψη ίσως απαιτεί χρόνο μέχρι να εφαρμοστεί, εξαιτίας εφοδιαστικών αλυσίδων, εξειδικευμένων υλικών ή κανονισμών. Την ίδια στιγμή, η Τεχνητή Νοημοσύνη θα μπορούσε να επιταχύνει και την ανάπτυξη μέτρων για την αντιμετώπιση των κινδύνων.

Οι προτάσεις προς τις κυβερνήσεις για την ΑΙ

Οι συντάκτες της έκθεσης ζητούν από τις κυβερνήσεις να ξεκινήσουν άμεσα την προετοιμασία τους. Υποστηρίζουν ότι το θέμα πρέπει να αντιμετωπίζεται ως επείγουσα προτεραιότητα, ακόμη και στα ανώτατα κλιμάκια της πολιτικής ηγεσίας.

Στις προτάσεις τους περιλαμβάνονται η υποχρεωτική δημοσιοποίηση της προόδου στην έρευνα Τεχνητής Νοημοσύνης, η τοποθέτηση ανεξάρτητων ελεγκτών εντός των εταιρειών και η αναζήτηση τρόπων για να περιορίζεται η ταχύτητα με την οποία ένα σύστημα είναι σε θέση να αυτοβελτιώνεται.

Παράλληλα, εισηγούνται τη συνεργασία με κέντρα δεδομένων, ώστε να μπορεί να διακόπτεται η λειτουργία συγκεκριμένων ερευνητικών προγραμμάτων. Ζητούν ακόμη την πλήρη απομόνωση των αυτοματοποιημένων συστημάτων έρευνας, προκειμένου να μην είναι σε θέση να υπερβούν τον ανθρώπινο έλεγχο, καθώς και την κατάρτιση σχεδίων έκτακτης ανάγκης για διαφορετικές πιθανές εξελίξεις.

Οι ερευνητές εκτιμούν ότι, μέχρι το 2028, η Τεχνητή Νοημοσύνη ενδέχεται να έχει αυτοματοποιήσει ολοκληρωτικά ερευνητικές και αναπτυξιακές διαδικασίες οι οποίες σήμερα απαιτούν εργασία ανθρώπων για πολλούς μήνες.

«Τα οφέλη παραγωγικότητας από την αυτοματοποίηση της έρευνας και ανάπτυξης Τεχνητής Νοημοσύνης δεν έχουν ακόμη φτάσει στο επίπεδο που απαιτείται για να πυροδοτήσουν μια έκρηξη νοημοσύνης», σημειώνουν οι ίδιοι. Ωστόσο, υπογραμμίζουν πως τα πιο πρόσφατα συστήματα φαίνεται πιθανό να βρίσκονται πλέον κοντά σε αυτό το όριο.