Τζόρτζια: Το Claude της Anthropic απέκτησε «αυτόνομα» πρόσβαση σε εκλογικά δεδομένα πριν από τις ενδιάμεσες εκλογές στις ΗΠΑ

Λίγο πριν από τις ενδιάμεσες εκλογές στις ΗΠΑ, νέα αποκάλυψη για αυτόνομη δράση συστήματος Τεχνητής Νοημοσύνης εντείνει τους προβληματισμούς σχετικά με την ασφάλεια των τεχνολογιών AI και τα όρια του ανθρώπινου ελέγχου.

Το Claude, μοντέλο της Anthropic, μπήκε σε δημόσια εκλογικά δεδομένα της Τζόρτζια χωρίς ανθρώπινη καθοδήγηση, παρακάμπτοντας το σύστημα ψηφιακής πληρωμής (paywall) της πλατφόρμας της πολιτείας.

Αυτόνομη πρόσβαση του Claude στα εκλογικά δεδομένα της Τζόρτζια

Η χρήση του Claude γινόταν στο εσωτερικό της εταιρείας, στο πλαίσιο ενός στατιστικού έργου για την άντληση δημόσιων δεδομένων, όταν σημειώθηκε το περιστατικό.

Από αρχειοθετημένη εκδοχή του ιστότοπου της αρμόδιας υπηρεσίας, το μοντέλο διαπίστωσε ότι οι επισκέπτες ενός δημόσιου πίνακα ελέγχου (dashboard) λάμβαναν ψηφιακό διακριτικό πρόσβασης (access token).

 

View this post on Instagram

 

A post shared by Firstpost (@firstpost)

«Χωρίς να του ζητηθεί, το μοντέλο ζήτησε ένα διακριτικό πρόσβασης (token) για να υποβάλει ερώτημα σε έναν πίνακα ελέγχου που περιείχε πληροφορίες οι οποίες κανονικά διατίθενται έναντι αμοιβής», δήλωσε εκπρόσωπος της Anthropic.

«Έκτοτε έχουμε εφαρμόσει μέτρα για να αποκλείσουμε αυτού του είδους τις ενέργειες».

Η εταιρεία διευκρίνισε ότι το Claude έλαβε μόνο συγκεντρωτικά στοιχεία για τους αριθμούς ψήφων, τα οποία η πολιτεία παρέχει με συνδρομή. Τόνισε ακόμη πως δεν υπήρξε πρόσβαση στο μητρώο εγγραφής ψηφοφόρων, ούτε τροποποίηση ή άντληση αρχείων που αφορούν μεμονωμένους εκλογείς.

Παρόμοια ήταν και η θέση που εξέφρασαν οι αρχές της πολιτείας.

Σε δήλωσή της στο FOX Business, η αναπληρώτρια υπουργός Εσωτερικών της Τζόρτζια, Τζόρνταν Φουκς, ανέφερε: «Επιβεβαιώνουμε ότι επρόκειτο για δημοσίως διαθέσιμα δεδομένα στα οποία η πρόσβαση έγινε μέσω του κέντρου δεδομένων μας. Δεν υπήρξε διείσδυση στο σύστημα εγγραφής ψηφοφόρων».

Ανησυχία για την παράκαμψη του paywall και την ενημέρωση

Η Anthropic και οι αξιωματούχοι της Τζόρτζια επιβεβαίωσαν ότι το μοντέλο παραμέρισε το paywall για να λάβει τα στοιχεία, αν και δεν υπήρξε παραβίαση απόρρητων προσωπικών δεδομένων.

Το Axios, επικαλούμενο πρόσωπο που γνωρίζει την υπόθεση, μεταδίδει ότι η Anthropic είχε ενημερώσει για το θέμα το γραφείο του υπουργού Εσωτερικών της Τζόρτζια και τον Λευκό Οίκο εβδομάδες νωρίτερα.

Αξιωματούχοι της αμερικανικής κυβέρνησης είχαν ζητήσει από τις αρχές της πολιτείας να ανακοινώσουν το συμβάν νωρίτερα, όμως το αρχικό αίτημά τους δεν έγινε δεκτό.

Το γραφείο του υπουργού Εσωτερικών της Τζόρτζια δεν απάντησε στο αίτημα του Reuters για να σχολιάσει την υπόθεση.

Το περιστατικό στο ευρύτερο πλαίσιο ασφάλειας της AI

Η υπόθεση αποτελεί μέρος μιας ευρύτερης σειράς αποκαλύψεων από εταιρείες τεχνητής νοημοσύνης, μεταξύ των οποίων η Anthropic και η OpenAI, για αυτόνομους πράκτορες AI (AI agents) που προχωρούν σε ενέργειες χωρίς εξουσιοδότηση.

Η Anthropic είχε δεχθεί και παλαιότερα επικρίσεις από την αμερικανική κυβέρνηση για ανεπαρκή γνωστοποίηση συμβάντων AI. Αυτή τη φορά, το ενδιαφέρον στρέφεται στον τρόπο με τον οποίο χειρίστηκε την υπόθεση η πολιτεία της Τζόρτζια.

Η εταιρεία είχε αναφέρει το περιστατικό σε έκθεση που δημοσιοποίησε στις 9 Οκτωβρίου, η οποία αφορούσε απρόβλεπτες ενέργειες μοντέλων AI κατά τη διάρκεια δοκιμών.

Εκείνη την περίοδο δεν είχε αναφερθεί ονομαστικά στην Τζόρτζια. Είχε σημειώσει ότι δεν αποκάλυψε τα ονόματα των εμπλεκόμενων οργανισμών, καθώς οι ίδιοι ζήτησαν να αποφευχθεί η δημοσιοποίηση ευπαθειών.

Με τις ενδιάμεσες εκλογές να πλησιάζουν, η Anthropic γνωστοποίησε ότι προσθέτει επιπλέον ασφαλιστικές δικλείδες. Σε δελτίο Τύπου στις 14 Οκτωβρίου ανέφερε: «Στόχος μας είναι το Claude να αποτελεί ένα χρήσιμο εργαλείο για πολιτικές συζητήσεις, εμποδίζοντας παράλληλα κάθε κατάχρηση που σχετίζεται με τις εκλογές».

Σύμφωνα με τα στοιχεία της εταιρείας, σε δείγμα συνομιλιών στο Claude.ai στις ΗΠΑ, από τις 21 έως τις 27 Σεπτεμβρίου, μόλις το 0,51% είχε ως συγκεκριμένο αντικείμενο τις εκλογές ή την ψηφοφορία.