• Mε προφορική παρέμβαση στην Ολομέλεια και με κατάθεση γραπτής ερώτησης η Ευρωβουλευτής επικρίνει την Κομισιόν για απραξία απέναντι στην ανάρτηση υλικού σεξουαλικού περιεχομένου με τεχνητή νοημοσύνη, στην πλατφόρμα Χ
• Ζητά κυρώσεις στις πλατφόρμες και αυστηρότερη ευρωπαϊκή νομοθεσία για να μπει τέλος στην κακόβουλη χρήση της τεχνητής νοημοσύνης στις ψηφιακές πλατφόρμες  που στοχοποιεί γυναίκες και ανηλίκους
• Ζητά την ένταξη της μη συναινετικής δημιουργίας, αλλοίωσης ή αναπαραγωγής σεξουαλικού οπτικού ή οπτικοακουστικού περιεχομένου (deepfakes) μέσω συστημάτων τεχνητής νοημοσύνης στον κατάλογο των απαγορευμένων πρακτικών του AI Act, ώστε να διασφαλιστεί η καθολική και οριστική απαγόρευσή της.

Η Έλενα Κουντουρά άσκησε δριμεία κριτική στην Κομισιόν για απραξία απέναντι στις ψηφιακές πλατφόρμες, στη συζήτηση στην Ολομέλεια του Ευρωπαϊκού Κοινοβουλίου, μετά  την παγκόσμια  κατακραυγή  απέναντι στο  σύστημα- ψηφιακό βοηθό, γνωστό ως Chatbox Grok του κοινωνικού δικτύου Χ, που δημιουργούσε ψεύτικες εικόνες deepfake σεξουαλικού περιεχομένου με πραγματικά πρόσωπα, χωρίς τη συγκατάθεση των εικονιζόμενων.

Η Ευρωβουλευτής του ΣΥΡΙΖΑ-ΠΣ επέκρινε την χρήση εργαλείων τεχνητής νοημοσύνης που εμφανίζουν δήθεν γυμνές γυναίκες και παιδιά,  με τα πραγματικά πρόσωπά τους, σε ψηφιακές πλατφόρμες, τονίζοντας την ανάγκη να αυστηροποιηθεί το νομοθετικό πλαίσιο στην Ευρωπαϊκή Ένωση και να επιβληθούν άμεσα κυρώσεις.

Για το ίδιο ζήτημα, κατέθεσε και γραπτή ερώτηση, ζητώντας μέτρα από την Κομισιόν για την άμεση απόσυρση του παράνομου υλικού, την αποτροπή νέων παρόμοιων περιστατικών και την προστασία των θυμάτων, ιδίως των ανηλίκων.

Σημειώνεται ότι αρκετές κυβερνήσεις σε διεθνές επίπεδο προχώρησαν σε μέτρα κατά της πλατφόρμας. Στην Ευρώπη η Κομισιόν βρίσκεται στο στάδιο διερεύνησης και το Ευρωπαϊκό Κοινοβούλιο, στη συζήτηση με το Συμβούλιο, στην Ολομέλεια του Στρασβούργου, ζητά  πιο ισχυρή και γρήγορη εφαρμογή  της νομοθεσίας της ΕΕ για να αποτρέψει τα εργαλεία τεχνητής νοημοσύνης από τη δημιουργία παράνομου σεξουαλικού περιεχομένου.

Στην ομιλία της στην Ολομέλεια η Έλενα Κουντουρά απευθυνόμενη προς την αρμόδια Ευρωπαία Επίτροπο Χένα Βερκούνεν τόνισε:

“Η ανεξέλεγκτη, κακόβουλη χρήση της τεχνητής νοημοσύνης, μέσω deepfakes, στις ψηφιακές πλατφόρμες, συνιστά σοβαρή παραβίαση θεμελιωδών δικαιωμάτων και κατάφορη απειλή για τα θύματα, που στη συντριπτική τους πλειοψηφία, είναι γυναίκες και ανήλικοι.

Δεν θα έπρεπε ποτέ να είναι δυνατή, η χρήση εργαλείων τεχνητής νοημοσύνης για την απογύμνωση γυναικών και ανηλίκων σε κράτη μέλη της Ευρωπαϊκής Ένωσης.

Και δεν είναι δυνατόν, να επιτρέπουμε σε εταιρείες να αποκομίζουν κέρδη προσβάλλοντας την ανθρώπινη αξιοπρέπεια.

Θα πρέπει να μας απαντήσετε για ποιον λόγο δεν έχει κινηθεί μέχρι στιγμής επίσημη διαδικασία κυρώσεων, ενάντια σε αυτές τις πλατφόρμες που παραβιάζουν την ευρωπαϊκή νομοθεσία; Τι περιμένετε;

Εάν υπάρχει κάποιο νομοθετικό κενό, να προτείνετε άμεσα την αναθεώρηση της Πράξης για την Τεχνητή Νοημοσύνη και της Πράξης για τις Ψηφιακές Υπηρεσίες και να αυστηροποιήσετε  το υπάρχον νομοθετικό πλαίσιο, ώστε να απαγορευθεί η χρήση τέτοιων συστημάτων τεχνητής νοημοσύνης και να αποτραπούν παρόμοια περιστατικά στο μέλλον.»

Η πλήρης ερώτηση της Έλενας Κουντουρά στην Κομισιόν:

Ανάγκη παρέμβασης της Επιτροπής για την καταπολέμηση της μη συναινετικής παραγωγής σεξουαλικού και deepfake περιεχομένου ΤΝ σε μέσα κοινωνικής δικτύωσης.

​Σύμφωνα με πρόσφατες αποκαλύψεις (1), το σύστημα ΤΝ Grok, που χρησιμοποιείται στην πλατφόρμα κοινωνικής δικτύωσης X, παρήγαγε μη συναινετικό γυμνό και σεξουαλικοποιημένο περιεχόμενο γυναικών και ανηλίκων, συμπεριλαμβανομένων deepfake εικόνων πραγματικών προσώπων.

Οι εν λόγω πρακτικές συνιστούν σοβαρή παραβίαση θεμελιωδών δικαιωμάτων, προσβάλλουν κατάφωρα την ανθρώπινη αξιοπρέπεια, και αποτελούν κίνδυνο για την ασφάλεια των πολιτών σε ψηφιακά περιβάλλοντα, ενώ είναι ιδιαίτερα επιβλαβείς για τα θύματα. Ως εκ τούτου, δεν θα έπρεπε να είναι τεχνικά εφικτές στην ΕE (2).

Λαμβάνοντας υπόψη τις διατάξεις του ευρωπαϊκού νομοθετικού πλαισίου, ιδιαίτερα:
-της DSA, που επιβάλλουν την ταχεία αφαίρεση παράνομου περιεχομένου και την υποχρέωση εκτίμησης και μετριασμού συστημικών κινδύνων (3),

-της AI Act, που προβλέπουν υποχρεώσεις διαφάνειας και απαγορεύουν παραπλανητικές πρακτικές (4),

-του GDPR, ιδίως όταν γίνεται χρήση προσωπικών δεδομένων για τη δημιουργία deepfakes,

-της Οδηγίας (ΕΕ)2024/1385 για την καταπολέμηση της βίας κατά των γυναικών (5),

ερωτάται η Επιτροπή:

-Για ποιον λόγο δεν έχει κινηθεί μέχρι στιγμής επίσημη διαδικασία διερεύνησης ή κυρώσεων, παρά τη σοβαρότητα και συστημικότητα των παραβιάσεων;

-Προτίθεται να λάβει μέτρα για την προστασία των θυμάτων, ιδίως των ανηλίκων, ώστε να εξασφαλιστεί η άμεση απόσυρση του παράνομου υλικού;

-Σκοπεύει να προτείνει τη ρητή κατάταξη της μη συναινετικής δημιουργίας, χειραγώγησης ή αναπαραγωγής οικείων εικόνων μέσω συστημάτων ΤΝ ως απαγορευμένη πρακτική στο πλαίσιο του AI Act, προκειμένου να διασφαλιστεί η νομική σαφήνεια, να ενισχυθεί η αποτελεσματική επιβολή και να αποτραπούν παρόμοια περιστατικά;

• https://audiovisual.ec.europa.eu/en/media/video/I-282956
• Παρά ταύτα, στις 08/01 η Επιτροπή περιορίστηκε στην επέκταση εντολής διατήρησης εγγράφων προς την πλατφόρμα X, χωρίς την έναρξη νέας διαδικασίας παράβασης, την ώρα που Κ-Μ και τρίτες χώρες έχουν ήδη κινήσει έρευνες.
• Ο Κανονισμός 2022/2065 (DSA), καθορίζει τις ευθύνες των διαδικτυακών πλατφορμών, υποχρεώνοντας τες να διαθέτουν αποτελεσματικούς μηχανισμούς αναφοράς και να λαμβάνουν άμεσα μέτρα για την αφαίρεση περιεχομένου που κρίνεται παράνομο (άρθρα 16-17).
• Ο Κανονισμός 2024/1689 θεσπίζει εναρμονισμένους κανόνες για την ΤΝ ,προβλέποντας την υποχρεωτική επισήμανση περιεχομένου που έχει παραχθεί από ΤΝ (deepfakes) και την αξιολόγηση συστημικών κινδύνων για την αποτροπή παραγωγής επιζήμιου υλικού. Επιπλέον, ορίζει ότι σε περίπτωση σοβαρού περιστατικού, ο πάροχος οφείλει να τεκμηριώνει, να αναφέρει και να παρουσιάζει πιθανές διορθωτικές λύσεις στις αρμόδιες αρχές(άρθρο 73).
• Βλ. αιτιολογική σκέψη 19, άρθρο 5  και 9(2) της Οδηγίας 2024/1385