Ερευνητές από το Πανεπιστήμιο της Ζυρίχης πραγματοποίησαν κρυφά πείραμα στο subreddit r/changemyview, χρησιμοποιώντας chatbots τεχνητής νοημοσύνης για να επηρεάσουν τις απόψεις των χρηστών. Τα bots, που άφησαν πάνω από 1.700 σχόλια, αποδείχθηκαν πιο πειστικά από τους ανθρώπους, με ποσοστά επιτυχίας τρεις έως έξι φορές υψηλότερα.
Το Reddit αντέδρασε έντονα και απείλησε νομικά τους ερευνητές, καταγγέλλοντας την έλλειψη ηθικής και νομικής βάσης της μελέτης. Το Πανεπιστήμιο δήλωσε ότι δεν θα δημοσιεύσει τα αποτελέσματα και θα ενισχύσει τις διαδικασίες δεοντολογίας για μελλοντικές έρευνες.
Το γεγονός αυτό αναδεικνύει τις ανησυχίες σχετικά με την ικανότητα των chatbot να επηρεάζουν τον διαδικτυακό διάλογο.
Πιο αναλυτικά
Το Reddit απειλεί να μηνύσει μια ομάδα ερευνητών που χρησιμοποίησαν chatbots τεχνητής νοημοσύνης (AI) για να πειραματιστούν κρυφά με τους χρήστες του.
Επιστήμονες από το Πανεπιστήμιο της Ζυρίχης έστειλαν ελεύθερους έναν στρατό από ρομπότ τεχνητής νοημοσύνης στο δημοφιλές φόρουμ του Reddit r/changemyview — όπου σχεδόν 4 εκατομμύρια χρήστες συγκεντρώνονται για να συζητήσουν διάφορα θέματα — προκειμένου να διερευνήσουν εάν η τεχνολογία θα μπορούσε να χρησιμοποιηθεί για να επηρεάσει την κοινή γνώμη.
Για να επιτύχουν αυτούς τους στόχους, τα bots άφησαν περισσότερα από 1.700 σχόλια σε όλο το subreddit, χρησιμοποιώντας μια ποικιλία θεμάτων υποτιθέμεων, όπως ένας άνδρας που θύμα βιασμού υποβαθμίζει το τραύμα της επίθεσης, ένας σύμβουλος ενδοοικογενειακής βίας ισχυρίζεται ότι οι πιο ευάλωτες γυναίκες είναι αυτές που «προστατεύονται από υπερπροστατευτικούς γονείς» και ένας μαύρος άνδρας που αντιτίθεται στο κίνημα Black Lives Matter. Αυτά τα bots συνεργάστηκαν με ένα άλλο που εξέτασε τα προφίλ των χρηστών για να προσαρμόσει τις απαντήσεις τους για μέγιστη πειστικότητα.
Οι ερευνητές της Ζυρίχης αποκάλυψαν στη συνέχεια το πείραμα στους συντονιστές του φόρουμ «ως μέρος ενός βήματος γνωστοποίησης στη μελέτη», μαζί με έναν σύνδεσμο προς ένα πρώτο προσχέδιο των αποτελεσμάτων του.
«Η ομάδα Mod του CMV πρέπει να ενημερώσει την κοινότητα του CMV σχετικά με ένα μη εξουσιοδοτημένο πείραμα που διεξήχθη από ερευνητές του Πανεπιστημίου της Ζυρίχης σε χρήστες του CMV», έγραψαν οι συντονιστές του subreddit σε μια ανάρτηση που ενημέρωνε τους χρήστες. «Πιστεύουμε ότι αυτό ήταν λάθος. Δεν πιστεύουμε ότι το “δεν έχει ξαναγίνει” αποτελεί δικαιολογία για να γίνει ένα πείραμα σαν κι αυτό».
Τα ευρήματα του προσχέδιου, τα οποία μέτρησαν το ποσοστό επιτυχίας των bots μέσω μιας λειτουργίας ιστότοπου που επιτρέπει στους χρήστες να απονέμουν βραβεία σε σχόλια που αλλάζουν γνώμη, υποδηλώνουν ότι οι απαντήσεις της Τεχνητής Νοημοσύνης ήταν μεταξύ τρεις και έξι φορές πιο πειστικές από αυτές που έγιναν από ανθρώπους.
Και οι συγγραφείς, οι οποίοι (παραβιάζοντας την τυπική ακαδημαϊκή διαδικασία) άφησαν τα ονόματά τους κρυφά στο προσχέδιο, σημείωσαν ότι καθ’ όλη τη διάρκεια της δίκης, οι ανυποψίαστοι χρήστες «δεν εξέφρασαν ποτέ ανησυχίες ότι η Τεχνητή Νοημοσύνη μπορεί να είχε δημιουργήσει τα σχόλια που δημοσιεύτηκαν από τους λογαριασμούς μας».
Η ανάρτηση έγινε δεκτή με οργή από τους χρήστες και από τον Ben Lee, επικεφαλής νομικό σύμβουλο του Reddit, ο οποίος σε ένα σχόλιο κάτω από την ανάρτηση χρησιμοποιώντας το όνομα χρήστη traceroo ανακοίνωσε ότι ο ιστότοπος θα κινηθεί επίσημα νομικά κατά του Πανεπιστημίου της Ζυρίχης.
«Αυτό που έκανε αυτή η ομάδα του Πανεπιστημίου της Ζυρίχης είναι βαθιά λάθος τόσο σε ηθικό όσο και σε νομικό επίπεδο», έγραψε ο Lee. «Παραβιάζει τους κανόνες της ακαδημαϊκής έρευνας και των ανθρωπίνων δικαιωμάτων και απαγορεύεται από τη συμφωνία χρήστη και τους κανόνες του Reddit, εκτός από τους κανόνες του subreddit».
Σε απάντηση, το Πανεπιστήμιο της Ζυρίχης δήλωσε στο 404 Media ότι οι ερευνητές δεν θα δημοσιεύσουν τα αποτελέσματα της μελέτης και ότι στο μέλλον η επιτροπή δεοντολογίας θα υιοθετήσει μια αυστηρότερη διαδικασία αξιολόγησης για αυτούς, ιδίως σε συντονισμό με τις διαδικτυακές κοινότητες προτού γίνουν τα άγνωστα υποκείμενα ενός μαζικού πειράματος.
Όποιες νομικές διαμάχες κι αν ακολουθήσουν, πειράματα όπως αυτό υπογραμμίζουν την αυξανόμενη ικανότητα των chatbot να διεισδύουν στον διαδικτυακό διάλογο. Τον Μάρτιο, επιστήμονες αποκάλυψαν ότι το μοντέλο μεγάλης γλώσσας GPT-4.5 της OpenAI ήταν ήδη ικανό να περάσει το τεστ Turing, ξεγελώντας με επιτυχία τους συμμετέχοντες στη δοκιμή κάνοντάς τους να νομίζουν ότι μιλούσαν με έναν άλλο άνθρωπο το 73% του χρόνου.
Προσδίδει επίσης κάποια αξιοπιστία στην ιδέα ότι, εάν αφεθούν ανεξέλεγκτα, τα chatbots τεχνητής νοημοσύνης έχουν τη δυνατότητα να εκτοπίσουν τους ανθρώπους στην παραγωγή του μεγαλύτερου μέρους του περιεχομένου του διαδικτύου, αναφέρει το LiveScience.
