Οι εταιρείες τεχνητής νοημοσύνης προσπαθούν να μας πείσουν πως τα αποτελέσματά τους είναι αξιόπιστα και πως θα μας δίνουν όλες τις πληροφορίες που θέλουμε σε σύντομα κείμενα, περιληπτικά και περιεκτικά. Όμως το όνειρο της τεχνητής νοημοσύνης μετατράπηκε στον μεγαλύτερο εφιάλτη για τον Καναδό μουσικό Ashley MacIsaac και ήρθε από το AI Overviews.

Το AI Overviews, κάνοντας μια περίληψη των πληροφοριών για τον καλλιτέχνη, τον παρουσίασε ψευδώς σαν σεξουαλικό εγκληματία. Αυτό ήταν κραυγαλέο λάθος από το Gemini, που βρίσκεται πίσω από το AI Overviews, που είχε πραγματικές συνέπειες για τον μουσικό, χωρίς να έχει φταίξει σε τίποτα.

Από τη στιγμή που ξεκίνησε η Google να εμφανίζει τον μουσικό σαν σεξουαλικό εγκληματία, ο MacIsaac ήρθε αντιμέτωπος με ακυρώσεις συναυλιών, καταστροφή της φήμης του, ακόμα και με κίνδυνο για τη ζωή του.

«Η Google τα έκανε θάλασσα και με έβαλε σε μια επικίνδυνη κατάσταση», δήλωσε μιλώντας προ ημερών σε καναδικά ΜΜΕ.

Το περιστατικό δείχνει με τον καλύτερο τρόπο πως είναι πολύ επικίνδυνη η τυφλή εμπιστοσύνη στην τεχνητή νοημοσύνη, ενώ σε καμία περίπτωση δεν πρέπει να αντιμετωπίζεται σαν αυθεντία για τίποτα.

Το πρόβλημα για τον MacIsaac ξεκίνησε όταν διοργανωτές μιας εκδήλωσης στην Sipekne’katik First Nation, βόρεια του Χάλιφαξ, αναζήτησαν τον καλλιτέχνη στην αναζήτηση της Google, για να πάρουν υλικό για την προώθηση της συναυλίας. Έτσι, το AI Overviews που εμφανίζεται με το έτσι θέλω πάνω-πάνω στη σελίδα, έδωσε μια περίληψη πληροφοριών που τον ανέφερε σαν καταδικασμένο για σεξουαλικά εγκλήματα. Αυτό έγινε γιατί η AI δεν ήταν σε θέση να ξεχωρίσει τον μουσικό από ένα άλλο άτομο με το ίδιο όνομα.

Αυτό φυσικά δε θα έπρεπε να συμβεί, αφού η βιογραφία των δύο ατόμων ήταν εντελώς διαφορετική και στην θεωρία τα συστήματα τεχνητής νοημοσύνης θα έπρεπε να μπορούν να κάνουν τον διαχωρισμό. Αυτό όμως δεν έγινε και ο MacIsaac βρέθηκε να κατηγορείται για εγκλήματα που δεν είχε κάνει ποτέ, με την συκοφαντική περίληψη της Google να του καταστρέφει τη δουλειά και την προσωπικότητά του. Πρακτικά ήταν μια δολοφονία χαρακτήρα από την AI.

Εκεί είναι και το μεγαλύτερο πρόβλημα με την τεχνητή νοημοσύνη και το AI Overviews. Τα λάθη που γίνονται είναι πάρα πολλά και κάποια από αυτά πολύ επικίνδυνα. Την ίδια στιγμή 7 στους 10 Έλληνες έχουν τυφλή εμπιστοσύνη στην τεχνητή νοημοσύνη, σύμφωνα με μελέτες. Αυτό σημαίνει πως 7 στους 10 παραπληροφορούνται και ορισμένες φορές μπορεί να βάλουν σε κίνδυνο την υγεία τους, ιδιαίτερα όταν αναζητούν ιατρικές συμβουλές. Όπως έχω ξαναγράψει σε άρθρα μας, η τεχνητή νοημοσύνη τόσο της Google, όσο και της OpenΑΙ, μου έχουν δώσει πολύ λάθος πληροφορίες για ιατρικά θέματα, με τους γιατρούς στους οποίους μετέφερα τις απαντήσεις να τραβάνε τα μαλλιά τους. Επειδή παραμένω πολύ επιφυλακτικός σε κάθε τι προέρχεται από την ΑΙ, έκανα τη σωστή κίνηση και απευθύνθηκα σε ειδικούς. Όσοι έχουν τυφλή εμπιστοσύνη στην AI όμως, μπορεί να μπουν σε πραγματικό κίνδυνο.

Για τον MacIsaac η ζημιά είναι ανεπανόρθωτη. Ειδικά για έναν μουσικό που η εικόνα του είναι το Α και το Ω, η ακύρωση των συναυλιών του και οι διάδοση ψευδών πληροφοριών, έχει καταστρέψει την υπόληψή του, με μη αναστρέψιμα αποτελέσματα στο 100%. Ο ίδιος δηλώνει πως δε μπορεί να γνωρίζει πόσοι από τους διοργανωτές του ακύρωσαν συναυλίες λόγω του λάθους του AI Overviews και φυσικά δε μπορεί να γνωρίζει πόσοι των απέρριψαν χωρίς και δεν τον προσκάλεσαν σε εκδηλώσεις και συναυλίες τους.

Η Google έχει πλέον διορθώσει την απάντηση του AI Overviews, όμως υπάρχουν πάρα πολλοί που είδαν την πληροφορία και δεν γνωρίζουν πως αυτή έχει αλλάξει. Στην εποχή μας η πληροφορία διαδίδεται πολύ γρήγορα, όταν πρόκειται για αρνητικά θέματα, όμως οι διορθώσεις για λάθη που έχουν γίνει, δεν έχουν την ίδια ταχύτητα διάδοσης.

Η Google είπε μόνο πως η αναζήτηση και το AI Overviews αλλάξει δυναμικά και έχει ρυθμιστεί για να εμφανίζει την πιο χρήσιμη πληροφορία εκείνη τη στιγμή. Η εταιρεία θεωρεί πως η καταστροφή της υπόληψης του μουσικού είναι θυσία στην βελτίωση των συστημάτων της. Βέβαια, καμία κουβέντα για κινήσεις που θα διορθώσουν τη ζημιά που έχει γίνει.

Κάπου εδώ έρχεται το μεγάλο πρόβλημα. Μια εταιρεία κολοσσός, διαλύει τη ζωή ενός ανθρώπου, σερβίροντας πληροφορίες σε δισεκατομμύρια χρήστες, που πολλές φορές δεν είναι αληθείς. Η Google και η κάθε εταιρεία τεχνητής νοημοσύνης, κάθε φορά νίπτουν τα χείρας τους και σφυρίζουν αδιάφορά. Έτσι, η φήμη ενός ανθρώπου εξαρτάται από ένα σύστημα που δε μπορεί να ξεχωρίσει άτομα μεταξύ τους και που δεν ελέγχεται από κανέναν για την ακρίβειά του και για τις πληροφορίες που δίνει.

Κάτι έχει πάει πολύ στραβά με τον κόσμο μας και προς το παρόν δε βλέπουμε κάποια σωτηρία. Το κοινό θα συνεχίσει να θεωρεί την AI ασφαλή και θα την εμπιστεύεται σαν ειδικό σε όλα, ιδιαίτερα όσοι δεν έχουν τις απαραίτητες τεχνολογικές γνώσεις ή ανεπτυγμένη την κριτική τους σκέψη.

Τώρα ο MacIsaac σκέφτεται να κάνει αγωγή στην Google για όσα έχουν συμβεί. Μπορεί να τον αδικήσει κανείς;