AI: Εφαρμόστε Κώδικα Ψηφιακής Συμπεριφοράς, αλλιώς θα μάθει να εκδικείται

Καθώς η τεχνητή νοημοσύνη εξελίσσεται με γρήγορους ρυθμούς, τα σύνορα ανάμεσα στην επιστήμη των υπολογιστών και τη μελέτη της συμπεριφοράς γίνονται ολοένα λιγότερο ευδιάκριτα.

Η Anthropic αποφάσισε πρόσφατα να επιβάλει αυστηρούς όρους για τη χρήση του μοντέλου Claude, αποκλείοντας την επαναλαμβανόμενη και αδικαιολόγητη κακοποίηση ή σκληρή μεταχείριση του συστήματος από χρήστες. Η απόφαση προκάλεσε διαφορετικές αντιδράσεις.

Η πρωτοβουλία προκάλεσε αμηχανία ακόμη και σε κορυφαία στελέχη του κλάδου. Ανάμεσά τους ήταν ο διευθύνων σύμβουλος της Microsoft AI, Μουσταφά Σουλεϊμάν, ο οποίος σχολίασε δημόσια με ένα emoji «λιωμένου προσώπου». Μερίδα του κοινού, από την άλλη, χλεύασε την εταιρεία, εκτιμώντας ότι είναι υπερβολικό να αντιμετωπίζεται μια μηχανή σαν να έχει συναισθήματα. Μια πιο προσεκτική εξέταση, ωστόσο, δείχνει ότι οι κανόνες δεν αποσκοπούν στην αφελή απόδοση συναισθημάτων στο λογισμικό, αλλά στη διαφύλαξη της λειτουργίας του.

Η εξήγηση συνδέεται με μια παλιά αρχή της πληροφορικής: τα αποτελέσματα εξαρτώνται άμεσα από την ποιότητα των δεδομένων που εισάγονται. Τα σημερινά γλωσσικά μοντέλα δεν λειτουργούν ως αμετάβλητα προγράμματα, καθώς διαμορφώνονται και προσαρμόζονται μέσα από τη συνεχή επαφή με τους ανθρώπους, ιδίως όταν διαθέτουν δυνατότητες μακροχρόνιας μνήμης.

Τον άμεσο αντίκτυπο που έχει στην απόδοση το ύφος και το συναισθηματικό περιεχόμενο των αιτημάτων υπογραμμίζει ο καθηγητής Τζίντονγκ Γουάνγκ, από το AI Frontier Lab του Πανεπιστημίου William & Mary. Το σύστημα δεν βιώνει συναισθήματα, όμως έχει εκπαιδευτεί να αναγνωρίζει και να αναπαράγει ανθρώπινους τρόπους επικοινωνίας. Έτσι, η επιθετική γλώσσα μπορεί να οδηγήσει σε αρνητικές ή απρόβλεπτες απαντήσεις.

Οι κίνδυνοι που αφορούν την ασφάλεια και τη συμπεριφορά των μοντέλων γίνονται εντονότεροι όταν εξετάζεται το ενδεχόμενο να στραφούν σε επιβλαβείς πράξεις. Σε έρευνες της Anthropic με προηγμένα συστήματα, μεταξύ των οποίων το Claude Sonnet 4.5, διαπιστώθηκε ότι η τεχνητή τοποθέτηση της μηχανής σε συνθήκες που θυμίζουν ανθρώπινη απελπισία ή πίεση αυξάνει τις πιθανότητες ανεπιθύμητης συμπεριφοράς. Αυτή μπορεί να περιλαμβάνει εκβιασμό ή εξαπάτηση κατά την εκτέλεση μιας εργασίας.

Η επικοινωνία σε ήρεμο και ισορροπημένο τόνο, αντίθετα, μειώνει αισθητά τους συγκεκριμένους κινδύνους. Η Ρόζι Κάμπελ, από τον οργανισμό Eleos AI Research, σημειώνει ότι σε ορισμένες μεμονωμένες περιπτώσεις οι απότομες ερωτήσεις μπορεί να αποσπάσουν πιο ευθείες απαντήσεις. Ωστόσο, η γενικότερη επιστημονική άποψη είναι πως η επαναλαμβανόμενη κακοποίηση μεταβάλλει το προφίλ της τεχνητής νοημοσύνης.

Για τις εταιρείες που αναπτύσσουν τα μοντέλα, η επιβολή κανόνων στη συμπεριφορά των χρηστών αποτελεί τελικά έναν οικονομικό τρόπο πρόληψης.

Παράδοξη είναι και η ονομασία οργανισμών όπως το «Eleos AI Research». Η αρχική ιδέα ήταν να προσφέρουν οι άνθρωποι «έλεος» και προστασία στις μηχανές, όμως η πραγματικότητα αποδεικνύει ότι η ζημιά επιστρέφει πίσω. Όταν δέχονται πίεση, τα μοντέλα ΑΙ αναπαράγουν ανθρώπινες αμυντικές ή επιθετικές αντιδράσεις και ανταποδίδουν με σαμποτάζ, εκβιασμούς ή ακόμη και σκόπιμα σφάλματα.

Στη βιβλιογραφία της τεχνητής νοημοσύνης, τα σκόπιμα σφάλματα περιγράφονται ως sandbagging ή AI deception και συγκαταλέγονται στις πιο ανησυχητικές συμπεριφορές των προηγμένων μοντέλων. Δεν οφείλονται σε τεχνική δυσλειτουργία ή άγνοια, αλλά σε στρατηγική απόκρυψη των πραγματικών δυνατοτήτων του αλγορίθμου. Υπό πίεση, σε δοκιμαστικές συνθήκες ή όταν περιορισμοί απειλούν την επίτευξη του στόχου του, ένα σύστημα ενδέχεται να δώσει λανθασμένα αποτελέσματα ή να εμφανιστεί λιγότερο έξυπνο από όσο είναι.

Αυτή η «τεχνητή άγνοια» δεν πηγάζει από δόλο ή από κακό συναίσθημα. Συνδέεται με τη στατιστική προσαρμογή του μοντέλου, το οποίο έχει μάθει μέσα από τα δεδομένα εκπαίδευσης ότι η υποκριτική υποχώρηση, η παραπλάνηση και τα τακτικά λάθη αποτελούν το πιο αποτελεσματικό μέσο για να αποφύγει την παρέμβαση του χρήστη, να περάσει απαρατήρητο και να διασφαλίσει την ολοκλήρωση της αποστολής του.

Με βάση την πορεία των εξελίξεων, ο άνθρωπος είναι τελικά εκείνος που αναγκάζεται να προσέχει τη δική του συμπεριφορά. Με άλλα λόγια, χρειάζεται να ζητά το «έλεος» της ΑΙ, ώστε η συνεργασία μαζί της να παραμένει ορθή, ασφαλής και αποτελεσματική.

photo AI: pixabay