Μία πρόσφατη έρευνα του Associated Press αποκαλύπτει τη συνεργασία του Ισραήλ με αμερικανικές εταιρείες τεχνολογίας, όπως η Microsoft και η Palantir, στη χρήση συστημάτων τεχνητής νοημοσύνης για την αναγνώριση και εξουδετέρωση στόχων στη Γάζα.
Παρά την τεχνολογία που υπόσχεται μεγαλύτερη ακρίβεια, οι φόβοι για αυξημένες απώλειες αμάχων εντείνονται, καθώς η ΑΙ έχει οδηγήσει σε λάθος στοχεύσεις και θανάτους αθώων.
Οι ισραηλινές ένοπλες δυνάμεις χρησιμοποιούν μεγάλους όγκους δεδομένων, ενώ οι εταιρείες τεχνολογίας έχουν τροποποιήσει τους όρους χρήσης τους για να επιτρέψουν στρατιωτική εφαρμογή των προϊόντων τους, εγείροντας ανησυχίες για την ηθική διάσταση της τεχνολογίας στον πόλεμο.
Πιο αναλυτικά:
Το Ισραήλ συνεργάζεται «σιωπηλά» με αμερικανικές εταιρείες τεχνολογίας σε συστήματα τεχνητής νοημοσύνης για την αναγνώριση και εξουδετέρωση στόχων στη Γάζα, αποκαλύπτει έρευνα του Associated Press. Ο αριθμός των νεκρών αμάχων συνεχίζει όμως να αυξάνεται, μαζί με τους φόβους ότι η ΑΙ ευθύνεται για θανάτους αθώων.
Η συνεργασία του ιδιωτικού τομέα με τον στρατό είναι παλιά υπόθεση, αυτή όμως είναι η πρώτη φορά που εμπορικά μοντέλα τεχνητής νοημοσύνης χρησιμοποιούνται στον πόλεμο, δήλωσε στο AP η Χάιντι Κλάαφ του AI Now Institute, πρώην μηχανικός ασφάλειας στην OpenAI.
«Οι συνέπειες είναι τεράστιες»
«Οι συνέπειες είναι τεράστιες όσον αφορά τον ρόλο της τεχνολογίας στη διευκόλυνση αυτού του είδους των ανήθικων και παράνομων πολεμικών επιχειρήσεων» είπε.
Ο ισραηλινός στρατός χρησιμοποιεί τεχνητή νοημοσύνη για να αναλύει ωκεανούς δεδομένων από τις μυστικές υπηρεσίες, να αναγνωρίζει πρόσωπα σε εικόνες από κάμερες ασφάλειας και να εντοπίζει ύποπτες συμπεριφορές ή συνομιλίες.
From targeting civilians through algorithms to bombing entire families, American AI company Palantir’s deadly partnership with Israel has fuelled the genocide in Gaza.
AI tools like ‘Lavender’ and ‘Where’s Daddy’ have led to the senseless loss of countless innocent lives pic.twitter.com/ZjxPwNGmnd
— TRT World (@trtworld) February 11, 2025
Μετά την επίθεση της Χαμάς στο Ισραήλ τον Οκτώβριο του 2023, η συνεργασία του Ισραήλ με την Microsoft, η οποία προσφέρει τα μοντέλα της OpenAI μέσω της υπηρεσίας cloud Azure, πήρε νέες διαστάσεις, αποκάλυψε η έρευνα.
«Εμπορικές υπηρεσίες νέφους»
Οι διακομιστές του Ισραήλ αδυνατούσαν να αποθηκεύσουν όλα τα δεδομένα που συγκεντρώνεται στη Γάζα με αποτέλεσμα να αναζητηθούν λύσεις σε εμπορικές υπηρεσίες νέφους, δήλωσε σε περυσινή παρουσίαση η συνταγματάρχης Ραχέλι Ντεμπίνσκι, η ανώτατη ισραηλινή αξιωματούχος τεχνολογίας της πληροφορίας. Τα λογότυπα του Microsoft Azure, του Google Cloud και του Amazon Web Services περνούσαν από την οθόνη την ώρα της ομιλίας της.
Από την ημέρα της επίθεσης της Χαμάς μέχρι τον Ιούλιο του 2024, ο όγκος των αποθηκευμένων ισραηλινών δεδομένων στο Azυre διπλασιάστηκε στα 13,6 petabyte, περίπου 350 φορές ο χώρος που απαιτείται για ολόκληρη τη Βιβλιοθήκη του Κογκρέσου.
Τα εργαλεία ΑΙ που προσφέρει το Azure επιτρέπουν στον ισραηλινό στρατό να συγκεντρώνει πληροφορίες, όπως τηλεφωνικές κλήσεις, εικόνες από κάμερες και γραπτά μηνύματα, δεδομένα που μεταγράφονται μεταφράζονται αυτόματα για να εντοπιστούν ύποπτες κινήσεις, δήλωσε αξιωματούχος των ισραηλινών υπηρεσιών πληροφοριών.
Israel’s use of AI in Gaza is a terrifying model coming to a country near you | Op-ed by Antony Loewenstein pic.twitter.com/0maLjN12OA
— Middle East Eye (@MiddleEastEye) February 12, 2025
Η Microsoft δεν δέχτηκε να απαντήσει στα ερωτήματα του AP. Η OpenAI δήλωσε ότι δεν συνεργάζεται με τον ισραηλινό στρατό, ωστόσο τα μοντέλα της είναι διαθέσιμα μέσω του Azure της Microsoft.
Πριν από έναν χρόνο, εξάλλου, η OpenΑΙ άλλαξε τους όρους χρήσης καταργώντας τη δέσμευση για μη χρήση των προϊόντων της σε στρατιωτικές εφαρμογές. Πλέον οι όροι χρήσης επιτρέπουν «περιπτώσεις χρήσης για λόγους εθνικής ασφάλειας που συμβαδίζουν με την αποστολή μας».
«Οι απαντήσεις της ΑΙ ελέγχονται από αξιωματούχους»
Ο ισραηλινός στρατός αρνήθηκε να σχολιάσει το ρεπορτάζ, δήλωσε όμως ότι οι απαντήσεις της ΑΙ ελέγχονται από αξιωματούχους ώστε να διασφαλίζεται η τήρηση της διεθνούς νομοθεσίας.
«Τα εργαλεία ΑΙ καθιστούν τη διαδικασία πιο ακριβή και αποτελεσματική» ανέφερε με ανακοίνωσή του ο ισραηλινός στρατός. «Αναγνωρίζουν περισσότερους στόχους ταχύτερα, όχι όμως εις βάρος της ακρίβειας, και σε πολλές περιπτώσεις μπορέσαμε να ελαχιστοποιήσουμε τις απώλειες αμάχων».
Εκτός από την Microsoft, η Google και η Amazon προσφέρουν υπηρεσίες νέφους και ΑΙ στο Ισραήλ μέσω του «Project Nimbus», ενός συμβολαίου ύψους 1,2 δισ. δολαρίων που υπεγράφη το 2021, όταν το Ισραήλ άρχισε να δοκιμάζει δικά του συστήματα αναγνώρισης στόχων.
Οι ισραηλινές ένοπλες δυνάμεις χρησιμοποιούν επίσης διακομιστές της Dell και της Cisco. Η Red Hat, θυγατρική της IBM, προσφέρει τεχνολογίες νέφους, ενώ η Palantir Technologies, η οποία προσφέρει εργαλεία ανάλυσης δεδομένων για κυβερνήσεις, έχει «στρατηγική συνεργασία» για την παροχή συστημάτων ΑΙ στον ισραηλινό στρατό.
U.S. tech giants have quietly empowered Israel to track & kill more alleged militants more quickly in #Gaza & Lebanon through a spike in AI & computing services, raising concerns about tech’s role in who lives & who dies in war w/@NewsDudeAP, @garanceburke https://t.co/4edPP0YRi7
— Sam Mednick (@sammednick) February 18, 2025
Ακολουθώντας το παράδειγμα της OpenAI, η Google άλλαξε πρόσφατα την πολιτική της αποσύροντας τη δέσμευση για μη χρήση της ΑΙ στην ανάπτυξη όπλων.
Οι αποκαλύψεις του AP εγείρουν ανησυχίες για τη στοχοποίηση αμάχων, δεδομένου ότι όλα τα μοντέλα ΑΙ έχουν την τάση να επινοούν φανταστικές απαντήσεις.
Η OpenAI έχει παραδεχτεί ότι το σύστημα αυτόματης μετάφρασης Whisper, το οποίο μεταφράζει από τα αραβικά, σε κάποιες περιπτώσεις επινοεί δηλώσεις που ποτέ δεν έγιναν, συμπεριλαμβανομένων ρατσιστικών σχολίων και βίαιης ρητορικής.
Ο ισραηλινός στρατός διαβεβαίωσε ότι οι μεταφράσεις της ΑΙ ελέγχονται από αραβόφωνους υπαλλήλους. Παρόλα αυτά, αξιωματούχος υπηρεσίας πληροφοριών δήλωσε πως έχει δει να μπαίνουν λάθος άνθρωποι στο στόχαστρο λόγω μεταφραστικών λαθών της ΑΙ.
