Το Instagram απέτυχε να αφαιρέσει τα τοξικά σχόλια που απευθύνονταν στην αντιπρόεδρο των ΗΠΑ, Κάμαλα Χάρις και άλλες κορυφαίες γυναίκες πολιτικούς, από την εφαρμογή του, όσο πλησιάζουν οι προεδρικές εκλογές, σύμφωνα με έρευνα του Κέντρου για την Αντιμετώπιση του Ψηφιακού Μίσους.
Η ΜΚΟ αναλύει μεγάλες διαδικτυακές πλατφόρμες για να διαπιστώσει αν παρακολουθούν σωστά τους ιστοτόπους τους για ρητορική μίσους. Η έκθεση της Τετάρτης βασίστηκε σε ανάλυση 560.000 σχολίων σε αναρτήσεις στο Instagram από πέντε Ρεπουμπλικανές και πέντε Δημοκρατικές γυναίκες πολιτικούς.
Πώς λειτούργησε η έρευνα
Στις πολιτικούς που παρακολούθησε η ομάδα περιλαμβάνονταν η Χάρις, η οποία είναι πλέον υποψήφια των Δημοκρατικών για την προεδρία, η βουλευτής Αλεξάντρια Οκάσιο-Κορτέζ (NY) και η βουλευτής Τζάσμιν Κρόκετ (Texas), καθώς και οι Ρεπουμπλικανές βουλευτίνες Μάρτζορι Τέιλορ Γκριν από τη Τζόρτζια και Λόρεν Μπόιμπερτ από το Κολοράντο.
Από τα σχόλια που αναρτήθηκαν μεταξύ 1ης Ιανουαρίου και 7ης Ιουνίου, οι ερευνητές εντόπισαν πάνω από 20.000 που θεωρήθηκαν «τοξικά» από το Google Perspective AI εργαλείο μετριασμού περιεχομένου. Στη συνέχεια, οι ερευνητές πραγματοποίησαν χειροκίνητη ανάλυση και ανακάλυψαν 1.000 σχόλια που «παραβίαζαν σαφώς τους όρους του Instagram», δήλωσε ο διευθύνων σύμβουλος του CCDH Imran Ahmed κατά τη διάρκεια ενημέρωσης των μέσων την Τρίτη.
«Οι συστάσεις μας μπορούν να συνοψιστούν πολύ απλά ως το ότι το Instagram πρέπει να επιβάλει τις πολιτικές του που έχουν σχεδιαστεί για την προστασία των γυναικών στη δημόσια ζωή», δήλωσε ο Ahmed κατά τη διάρκεια της ενημέρωσης. «Οι οργανισμοί πρέπει να είναι καλύτερα εξοπλισμένοι για να υποστηρίζουν τις υποψήφιες γυναίκες που βιώνουν κακοποίηση και να τους παρέχουν τις βέλτιστες πρακτικές για την αντιμετώπισή της αρκετά συχνά».
Πυρά κατά της Meta για την διαχείριση της ρητορικής μίσους
Η Meta, η μητρική εταιρεία του Instagram, έχει επανειλημμένα δεχτεί πυρά από τους νομοθέτες για την αποτυχία της να αντιμετωπίσει τη διάδοση του περιεχομένου μίσους σε όλη την οικογένεια εφαρμογών της και για την αδυναμία ή την απροθυμία της να πατάξει την επιβλαβή συμπεριφορά. Ο γενικός εισαγγελέας του Νέου Μεξικού έχει ισχυριστεί σε μια συνεχιζόμενη αγωγή κατά της Meta ότι η εταιρεία αποτυγχάνει να προστατεύσει τους ανήλικους χρήστες από τους επιτήδειους και τη σεξουαλική εκμετάλλευση.
Σε προηγούμενους εκλογικούς κύκλους, το Facebook υπήρξε επίσης κόμβος για τη διάδοση παραπληροφόρησης και τοξικού περιεχομένου που απευθυνόταν σε πολιτικούς υποψηφίους.
Ορισμένα από τα προβληματικά σχόλια που κατέγραψε το CCDH περιλάμβαναν δηλώσεις όπως «καταστήστε τον βιασμό νόμιμο» και «δεν θέλουμε μαύρους γύρω μας, όποιοι κι αν είναι», αναφέρει η έκθεση. Ένα σχόλιο που απευθυνόταν στη Χάρις χλεύαζε το φυλετικό της υπόβαθρο, ενώ ένα άλλο σχόλιο την καλούσε σε σεξουαλική επίθεση από τον πρόεδρο Τζο Μπάιντεν.
Οι ερευνητές του CCDH χρησιμοποίησαν στη συνέχεια τα εργαλεία αναφοράς περιεχομένου του Instagram για να επισημάνουν τα 1.000 προσβλητικά σχόλια που ανακάλυψαν χειροκίνητα. Μια εβδομάδα αργότερα, «το Instagram δεν είχε λάβει κανένα μέτρο κατά 926 από αυτά, που ισοδυναμεί με αποτυχία να δράσει στο 93% αυτών», αναφέρει η έκθεση.
Η στάση της Meta
Η Meta ανέφερε σε δήλωσή της ότι θα επανεξετάσει τα παραδείγματα που ανέδειξε το CCDH και θα αφαιρέσει τα σχόλια που παραβιάζουν τις πολιτικές της εταιρείας, αλλά πρόσθεσε ότι κάποιο περιεχόμενο μπορεί να είναι προσβλητικό αλλά να μην παραβιάζει τους κανόνες της. Η εταιρεία δήλωσε επίσης ότι το εργαλείο τεχνητής νοημοσύνης της Google στο οποίο βασίστηκε το CCDH για μέρος της έρευνάς του δεν είναι πάντα ακριβές.
«Παρέχουμε εργαλεία ώστε ο καθένας να μπορεί να ελέγχει ποιος μπορεί να σχολιάζει τις αναρτήσεις του, να φιλτράρει αυτόματα τα προσβλητικά σχόλια, φράσεις ή emojis και να αποκρύπτει αυτόματα τα σχόλια από άτομα που δεν τον ακολουθούν», ανέφερε σε δήλωσή της η Cindy Southworth, επικεφαλής της Meta για την ασφάλεια των γυναικών.
«Συνεργαζόμαστε με εκατοντάδες συνεργάτες ασφάλειας σε όλο τον κόσμο για να βελτιώνουμε συνεχώς τις πολιτικές μας, τα εργαλεία, την ανίχνευση και την επιβολή και θα επανεξετάσουμε την έκθεση του CCDH και θα αναλάβουμε δράση για κάθε περιεχόμενο που παραβιάζει τις πολιτικές μας».
Η έκθεση για το Instagram έρχεται λίγους μήνες μετά την απόρριψη από ομοσπονδιακό δικαστή της Καλιφόρνιας της αγωγής κατά του CCDH από την εταιρεία X του Elon Musk. Η αγωγή κατατέθηκε λίγο μετά τη δημοσίευση έρευνας της ομάδας που έδειχνε αύξηση της ρητορικής μίσους μετά την εξαγορά από τον Μασκ του ιστότοπου που ήταν γνωστός ως Twitter.
Εξαιτίας όλης της αρνητικής προσοχής που έχει ρέει προς την κατεύθυνση του Μασκ, η Meta και ο διευθύνων σύμβουλος Μαρκ Ζούκερμπεργκ έχουν ξεφύγει από τον έλεγχο τον τελευταίο καιρό και υπάρχει η αντίληψη ότι το Instagram «έχει γίνει μια πλατφόρμα που οι άνθρωποι αισθάνονται ασφαλείς» χρησιμοποιώντας την, δήλωσε ο Αχμέντ.
«Ο Μαρκ Ζούκερμπεργκ έχει παίξει μια στρατηγική να κρατάει το κεφάλι του χαμηλά, ενώ το Χ λειτουργεί ως αλεξικέραυνο για πολλή από την οργή για την τοξικότητα στη δημόσια ζωή και τον πολιτικό διάλογο», δήλωσε ο Ahmed. «Θέλαμε να εξετάσουμε ειδικά αυτή την πλατφόρμα για να δούμε αν πραγματικά υποστηρίζουν ή όχι κάποια από τα καμώματά τους για τις ατυχίες του X με δική τους δράση».
Πηγή: CNBC
