Αποκάλυψη Reuters: Άνθρωποι αναλαμβάνουν κλήσεις του AI προσωπικού βοηθού Muse – Ανησυχίες για τα προσωπικά δεδομένα των χρηστών

Μία ιδιαίτερα ασυνήθιστη λειτουργία δοκιμάζει η Meta για τον νέο προσωπικό της βοηθό Τεχνητής Νοημοσύνης Muse: όταν ο χρήστης ζητά από το AI να πραγματοποιήσει μία τηλεφωνική κλήση, σε ορισμένες περιπτώσεις τη συνομιλία μπορεί να αναλάβει πραγματικός άνθρωπος. Σύμφωνα με αποκλειστικές πληροφορίες του Reuters από εσωτερικές αναρτήσεις της εταιρείας, η Meta δοκιμάζει έναν λεγόμενο «human concierge», με εργαζομένους εξωτερικών συνεργατών να χειρίζονται μέρος των κλήσεων, γεγονός που έχει ήδη προκαλέσει ανησυχίες στο εσωτερικό της εταιρείας για την ιδιωτικότητα των χρηστών.

Η Meta ενημέρωσε τους εργαζομένους της για τη δοκιμή την περασμένη εβδομάδα, λίγο μετά τη δημόσια παρουσίαση της δυνατότητας του Muse να πραγματοποιεί τηλεφωνικές κλήσεις για λογαριασμό του χρήστη.

Όταν πίσω από την Τεχνητή Νοημοσύνη βρίσκεται… άνθρωπος

Η λειτουργία επιτρέπει στο Muse να μεταβιβάζει ένα αίτημα σε εκπαιδευμένο ανθρώπινο συνεργάτη, ο οποίος πραγματοποιεί την τηλεφωνική κλήση και αναλαμβάνει να ολοκληρώσει την εργασία.

Σε εσωτερική ανάρτηση της Meta η δυνατότητα περιγράφεται ως εξής: το Muse μπορεί πλέον να παραδίδει αιτήματα σε «trained agent», ο οποίος αναλαμβάνει την κλήση και τη διεκπεραιώνει. Η λειτουργία ενεργοποιήθηκε την περασμένη εβδομάδα για περίπου τους μισούς εργαζομένους της Meta που συμμετείχαν στις δοκιμές. Όσοι δεν ήθελαν να συμμετάσχουν μπορούσαν να εξαιρεθούν.

Ο χρήστης μπορεί, για παράδειγμα, να ζητήσει από το Muse να τηλεφωνήσει σε μια επιχείρηση στις ΗΠΑ για να κλείσει ραντεβού σε κομμωτήριο, να ρωτήσει αν ένα προϊόν υπάρχει σε απόθεμα ή να ζητήσει προσφορές από επαγγελματίες. Μετά την κλήση, το Muse εμφανίζει περίληψη και απομαγνητοφώνηση της συνομιλίας.

Ανησυχίες μέσα στη Meta για την ιδιωτικότητα

Η δοκιμή, ωστόσο, προκάλεσε προβληματισμό μεταξύ εργαζομένων της εταιρείας.

Σύμφωνα με τις εσωτερικές αναρτήσεις που είδε το Reuters, ορισμένοι εργαζόμενοι προειδοποίησαν ότι η εμπλοκή ανθρώπινων χειριστών σε τηλεφωνικές συνομιλίες μπορεί να οδηγήσει σε ακούσια κοινοποίηση ευαίσθητων προσωπικών πληροφοριών σε εξωτερικούς συνεργάτες που εργάζονται σε τηλεφωνικά κέντρα.

Το ζήτημα αποκτά ιδιαίτερη σημασία επειδή ένας χρήστης μπορεί να χρησιμοποιήσει έναν προσωπικό AI agent για εργασίες που ενδέχεται να περιλαμβάνουν διευθύνσεις, στοιχεία κρατήσεων, οικονομικές πληροφορίες ή άλλα προσωπικά δεδομένα.

Τι απαντά η Meta

Εκπρόσωπος της Meta δήλωσε στο Reuters ότι η ανταπόκριση των εργαζομένων στη δοκιμή ήταν «συντριπτικά θετική» και υποστήριξε ότι ακριβώς ο σκοπός των εσωτερικών δοκιμών είναι να εντοπιστούν πιθανά προβλήματα πριν η λειτουργία διατεθεί στο κοινό.

«Δουλεύουμε με επιχειρήσεις για να συνεχίσουμε να βελτιώνουμε αυτή την πιθανή λειτουργία κλήσεων και θα τη διαθέσουμε μόνο όταν είναι έτοιμη και με τις κατάλληλες γνωστοποιήσεις», ανέφερε ο εκπρόσωπος της εταιρείας Ντάνιελ Ρόμπερτς.

Πάνω από 2,5 εκατομμύρια downloads για το Muse

Η αποκάλυψη έρχεται καθώς το Muse γνωρίζει ήδη εντυπωσιακή εμπορική εκκίνηση.

Μέσα στις πρώτες δύο εβδομάδες από την κυκλοφορία του, ο προσωπικός βοηθός της Meta βρέθηκε στην κορυφή των charts εφαρμογών στις ΗΠΑ, ξεπερνώντας τα 2,5 εκατομμύρια downloads, σύμφωνα με στοιχεία της Sensor Tower.

Το Muse αποτελεί βασικό κομμάτι του σχεδίου του Μαρκ Ζάκερμπεργκ για τη δημιουργία της λεγόμενης «personal superintelligence», μιας προσωπικής Τεχνητής Νοημοσύνης που θα μπορεί να εκτελεί αυτόνομα καθημερινές εργασίες για λογαριασμό του χρήστη.

Ο agent μπορεί ήδη να στέλνει emails, να πραγματοποιεί αγορές και να κάνει ταξιδιωτικές κρατήσεις, μεταξύ άλλων ενεργειών.

Οι διαβεβαιώσεις της Meta για την ασφάλεια

Κατά την παρουσίαση του Muse, η Meta είχε δώσει ιδιαίτερη έμφαση στα μέτρα προστασίας των δεδομένων.

Η εταιρεία είχε ανακοινώσει ότι κάθε AI agent θα διαθέτει τη δική του ασφαλή «εικονική μηχανή», δηλαδή έναν ξεχωριστό υπολογιστικό χώρο στο cloud ώστε οι συνεδρίες διαφορετικών χρηστών να παραμένουν απομονωμένες μεταξύ τους.

Ευαίσθητες πληροφορίες, όπως οι κωδικοί πρόσβασης, θα αποθηκεύονται επίσης ξεχωριστά σε προστατευμένο χώρο, σύμφωνα με τη Meta.

Η δοκιμή του «human concierge», όμως, ανοίγει ένα διαφορετικό μέτωπο: τι συμβαίνει όταν μια υπηρεσία που ο χρήστης αντιλαμβάνεται ως αυτοματοποιημένη Τεχνητή Νοημοσύνη χρειάζεται τελικά έναν πραγματικό άνθρωπο για να ολοκληρώσει την εργασία;

Η Meta δηλώνει ότι η λειτουργία δεν θα κυκλοφορήσει δημόσια πριν ολοκληρωθούν οι δοκιμές και καθοριστούν οι κατάλληλες ενημερώσεις προς τους χρήστες.