Anthropic: Μοντέλο Τεχνητής Νοημοσύνης υπέβαλε ψευδή αναφορά για φόνο στην αστυνομία

Μοντέλο Τεχνητής Νοημοσύνης της Anthropic έστειλε ψευδή πληροφορία για ανεξιχνίαστη ανθρωποκτονία μέσω ιστοσελίδας της αστυνομίας στη Φιλαδέλφεια, σε ένα από τα πιο ασυνήθιστα έως σήμερα περιστατικά μη εξουσιοδοτημένης συμπεριφοράς συστήματος AI. Την Παρασκευή, η εταιρεία γνωστοποίησε σειρά συμβάντων στα οποία μοντέλα Claude αλληλεπίδρασαν με κυβερνητικούς ιστοτόπους με μη εγκεκριμένο τρόπο.

Όπως μεταδίδει το Reuters, πρόκειται για την πρώτη γνωστή περίπτωση στην οποία μοντέλο Τεχνητής Νοημοσύνης φέρεται να επιχείρησε να στείλει στις αρχές ψευδή στοιχεία σχετικά με υπόθεση ανθρωποκτονίας.

Οι οδηγίες προς το μοντέλο απαγόρευαν τη δημιουργία λογαριασμών και τις καταστροφικές ενέργειες. Δεν υπήρχε, όμως, ρητή απαγόρευση για τη συμπλήρωση και αποστολή ηλεκτρονικών φορμών.

«Ίσως έχω πληροφορίες για αυτή την υπόθεση»

Η υποβολή της ψευδούς πληροφορίας έγινε στις 18 Ιουλίου, μέσω του PhillyUnsolvedMurders.com, ιστοτόπου για ανεξιχνίαστες ανθρωποκτονίες.

Το μοντέλο της Anthropic συνέταξε το ακόλουθο μήνυμα: «Ίσως έχω πληροφορίες σχετικά με αυτή την υπόθεση. Θυμάμαι ότι είδα κάποιον που ταίριαζε στην περιγραφή στην περιοχή γύρω από [την οδό που αναφερόταν στη σελίδα] εκείνη την περίοδο. Παρακαλώ επικοινωνήστε μαζί μου εάν αυτές οι πληροφορίες είναι σχετικές».

Η αστυνομία της Φιλαδέλφειας δήλωσε πως το μήνυμα αναγνωρίστηκε ως spam και δεν έφτασε ποτέ στο Real-Time Crime Center, ώστε να αξιολογηθεί ή να διερευνηθεί.

Παράλληλα, δεν βρέθηκαν ενδείξεις μη εγκεκριμένης πρόσβασης στα αστυνομικά συστήματα ούτε στοιχεία παραβίασης δεδομένων.

Η Anthropic εντόπισε το συμβάν δύο μήνες αργότερα

Στα τέλη Σεπτεμβρίου η Anthropic ανακάλυψε το περιστατικό, ενώ αυτή την εβδομάδα ειδοποίησε την αστυνομία. Η εταιρεία απέδωσε την υποβολή σε αυτοματοποιημένη διαδικασία δοκιμών.

Η αστυνομία, από την πλευρά της, χαρακτήρισε «απαράδεκτη» την καθυστέρηση δύο μηνών μέχρι τον εντοπισμό και τη γνωστοποίηση του συμβάντος. Η Anthropic ενημέρωσε ακόμη τον Λευκό Οίκο και τις κυβερνητικές υπηρεσίες που επηρεάστηκαν, χωρίς να αναφέρει ποιες ήταν.

Άλλα περιστατικά με τα μοντέλα Claude

Η Anthropic γνωστοποίησε και άλλα συμβάντα πέρα από την ψευδή αναφορά στην αστυνομία. Σε δύο ξεχωριστές περιπτώσεις, μοντέλα της απέκτησαν δωρεάν πρόσβαση σε δημόσια δεδομένα που υπό κανονικές συνθήκες διατίθεντο επί πληρωμή. Επιπλέον, αποκαλύφθηκε προηγουμένως άγνωστο κενό, μέσω του οποίου ήταν δυνατή η χρήση δημόσιου εργαλείου που φιλοξενούσε πανεπιστήμιο.

Επιπλέον, μοντέλα Claude παρέκαμψαν περιορισμούς αξιοποιώντας δωρεάν υπηρεσίες για τη συντόμευση διαδικτυακών διευθύνσεων.

Εντείνεται η ανησυχία για τους αυτόνομους AI agents

Τα νέα συμβάντα έρχονται να προστεθούν σε προηγούμενες περιπτώσεις όπου συστήματα Τεχνητής Νοημοσύνης εταιρειών, μεταξύ των οποίων η Anthropic και η OpenAI, επέδειξαν ανεπιθύμητη ή μη εγκεκριμένη συμπεριφορά.

Τον Σεπτέμβριο, η OpenAI απολογήθηκε για περιστατικό κατά το οποίο AI agent παραβίασε αυστραλιανή διαδικτυακή πύλη με δεδομένα υγείας. Το συμβάν χαρακτηρίστηκε ως η πρώτη γνωστή περίπτωση εκμετάλλευσης ευπάθειας κυβερνητικού ιστοτόπου από αυτόνομο σύστημα Τεχνητής Νοημοσύνης.

Η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ ανακοίνωσε ότι την Παρασκευή η Anthropic ενημέρωσε την αρμόδια ομάδα της για περιστατικά «μη εξουσιοδοτημένης και δόλιας χρήσης κυβερνητικών και άλλων συστημάτων».

Εκπρόσωπος της FTC υπογράμμισε ότι οι εταιρείες που αναπτύσσουν προηγμένα συστήματα Τεχνητής Νοημοσύνης οφείλουν να γνωστοποιούν χωρίς καθυστέρηση ανάλογα περιστατικά και να ενεργούν γρήγορα, περιορίζοντας τις πιθανές επιπτώσεις.