Τεχνητή Νοημοσύνη: «Πόλεμος» μαθηματικών – Φόβοι ότι η επιστημονική έρευνα χάνει την αξιοπιστία της

Μια διαφωνία κορυφαίων μαθηματικών γύρω από την OpenAI και τη λύση ενός από τα μεγαλύτερα άλυτα μαθηματικά προβλήματα επαναφέρει τον προβληματισμό για το αν η Τεχνητή Νοημοσύνη απειλεί την αξιοπιστία της επιστημονικής έρευνας. Παράλληλα, η ολοένα συχνότερη παρουσία επιστημονικών εργασιών που συντάσσονται με τη βοήθεια συστημάτων Τεχνητής Νοημοσύνης γεννά σοβαρά ερωτήματα σχετικά με την εγκυρότητα των ευρημάτων, τις ανύπαρκτες παραπομπές και τη διαφύλαξη της επιστημονικής γνώσης.

Σε εκτενές ρεπορτάζ του BBC αναφέρεται ότι η Τεχνητή Νοημοσύνη μπορεί να επιταχύνει θεαματικά τις επιστημονικές ανακαλύψεις. Ταυτόχρονα, όμως, διαμορφώνει έναν λιγότερο εμφανή κίνδυνο: να γίνεται όλο και πιο δύσκολο να ξεχωρίσει η πραγματική πρόοδος από ευρήματα που παράγονται υπολογιστικά, χωρίς να έχουν επαληθευτεί επαρκώς από ανθρώπους.

Η διαμάχη για τη μαθηματική ανακάλυψη της OpenAI

Η OpenAI γνωστοποίησε τον περασμένο μήνα ότι έλυσε ένα από τα σημαντικότερα ανοιχτά προβλήματα των μαθηματικών, που αφορά τις εξισώσεις Ναβιέ-Στοκς. Η εταιρεία υποστήριξε πως τα συστήματα Τεχνητής Νοημοσύνης της χρειάστηκαν μόλις 88 ώρες για να βρουν τη λύση.

Ο φορέας που διαχειρίζεται το αντίστοιχο μαθηματικό βραβείο δήλωσε ότι το πρόβλημα φαίνεται να έχει λυθεί, σημείωσε όμως ότι η εξέταση της λύσης θα χρειαστεί χρόνο.

Πριν από την ανακοίνωση, και συγκεκριμένα λίγες ώρες νωρίτερα, ο μαθηματικός του Πανεπιστημίου της Νέας Υόρκης Τρίσταν Μπάκμαστερ είχε εκφράσει δημόσια προβληματισμό για την εξέλιξη.

Ο Μπάκμαστερ μελετούσε το ίδιο πρόβλημα μαζί με τον Λέβεντ Άλπεγκε, μαθηματικό στην ανταγωνιστική Anthropic. Οι δύο τους κρατούσαν προσχέδια της εργασίας τους στο Codex, το προγραμματιστικό εργαλείο της OpenAI.

Ο Μπάκμαστερ είπε ότι ο συνεργάτης του είχε πληροφορηθεί πως στοιχεία για την πρόοδο της έρευνάς τους είχαν περιέλθει στην OpenAI, χωρίς να εξηγήσει πώς. Αναρωτήθηκε, επομένως, αν η δουλειά τους ενδέχεται να επηρέασε τα συστήματα της εταιρείας, ξεκαθαρίζοντας ωστόσο ότι δεν αποδίδει ευθύνη σε κανέναν.

Η OpenAI αρνήθηκε το ενδεχόμενο να είχε δει την έρευνα των δύο μαθηματικών πριν αυτή δημοσιοποιηθεί. Αργότερα διευκρίνισε ότι οι εντολές που είχε καταχωρίσει ο Μπάκμαστερ στο Codex τους δύο προηγούμενους μήνες δεν ήταν δυνατό να επηρεάσουν το σύστημά της.

Τα μεγάλα επιστημονικά επιτεύγματα και ο κίνδυνος της υπερβολής

Η Τεχνητή Νοημοσύνη έχει ήδη συνεισφέρει εντυπωσιακά στην επιστήμη. Ενδεικτική περίπτωση είναι το AlphaFold της Google DeepMind, το οποίο μέσα σε έναν χρόνο προέβλεψε τη δομή περίπου 200 εκατομμυρίων πρωτεϊνών.

Με τις συμβατικές εργαστηριακές τεχνικές, ένα τέτοιο κατόρθωμα θα χρειαζόταν πάρα πολύ χρόνο. Η εξέλιξη αυτή οδήγησε στην απονομή του Νόμπελ Χημείας στους επιστήμονες που είχαν πρωταγωνιστήσει στη δημιουργία του συστήματος.

Δεν προκαλούν, πάντως, όλες οι επιστημονικές χρήσεις της Τεχνητής Νοημοσύνης τον ίδιο ενθουσιασμό.

Η DeepMind ανακοίνωσε ακόμη ότι μοντέλο της ανακάλυψε πάνω από δύο εκατομμύρια νέες κρυσταλλικές δομές. Από αυτές, περίπου 380.000 κρίθηκαν πιθανές υποψήφιες για κατασκευή σε εργαστήριο.

Ο Άντονι Τσίθαμ και ο Ραμ Σεσαντρί, δύο χημικοί στο Πανεπιστήμιο της Καλιφόρνιας, αξιολόγησαν τυχαίο δείγμα των δομών και διαπίστωσαν ότι πολλές ήταν μικρές τροποποιήσεις υλικών που ήταν ήδη γνωστά, χωρίς ουσιαστικά νέα χαρακτηριστικά.

Η DeepMind απέρριψε τις ενστάσεις, επιμένοντας ότι ακόμη και περιορισμένες μεταβολές στη σύσταση ενός υλικού ενδέχεται να έχουν σημαντικές τεχνολογικές χρήσεις.

Χιλιάδες επιστημονικές μελέτες που δεν υπάρχουν

Πιο έντονο προβληματισμό προκαλεί η εισαγωγή ανακριβούς ή εξ ολοκλήρου επινοημένου υλικού στην επιστημονική βιβλιογραφία.

Όπως αναφέρει το BBC, τα επιστημονικά περιοδικά καλούνται να διαχειριστούν ολοένα περισσότερες εργασίες που έχουν παραχθεί με συστήματα Τεχνητής Νοημοσύνης. Σε αυτές μπορεί να υπάρχουν παραπομπές σε ανύπαρκτες πηγές, αλλοιωμένα δεδομένα ή συμπεράσματα χωρίς τεκμηρίωση.

Το 2024, ο καθηγητής Ντμίτρι Κόμπακ του Πανεπιστημίου της Γάνδης μελέτησε πάνω από ένα εκατομμύριο δημοσιεύσεις βιοϊατρικής έρευνας, αναζητώντας γλωσσικά μοτίβα που μαρτυρούν χρήση Τεχνητής Νοημοσύνης.

Σύμφωνα με την ερευνητική ομάδα, έως τον Δεκέμβριο του 2025 τέτοια γνωρίσματα εμφανίζονταν σε σχεδόν 90% των εργασιών που εξετάστηκαν. Οι τρόποι ανίχνευσης, ωστόσο, δεν είναι πλήρως αξιόπιστοι, ενώ η ύπαρξη αυτών των ενδείξεων δεν αποδεικνύει από μόνη της ότι μια μελέτη έχει παραχθεί από Τεχνητή Νοημοσύνη.

Την ίδια περίοδο, ερευνητές του Πανεπιστημίου Κορνέλ βρήκαν περίπου 147.000 παραπομπές σε επιστημονικές εργασίες που δεν υπήρχαν. Το φαινόμενο καταγράφηκε μέσα στο προηγούμενο έτος και συνδέεται με τη χρήση συστημάτων Τεχνητής Νοημοσύνης για τη δημιουργία βιβλιογραφικών αναφορών.

Ανησυχίες προκαλεί επίσης ο τρόπος με τον οποίο αξιολογούνται οι επιστημονικές δημοσιεύσεις. Μελέτη του Πανεπιστημίου Στάνφορντ κατέληξε ότι σε τέσσερα μεγάλα συνέδρια πληροφορικής, έως και το 17% του περιεχομένου των αξιολογήσεων είχε υποστεί εκτεταμένη επεξεργασία με τη συνδρομή γλωσσικών μοντέλων.

Τα επιστημονικά περιοδικά λαμβάνουν μέτρα για τη διαφύλαξη της αξιοπιστίας

Για να αντιμετωπίσουν τους κινδύνους που αναδύονται, μεγάλοι εκδοτικοί οργανισμοί στον επιστημονικό χώρο προχωρούν στη λήψη μέτρων.

Η Elsevier έχει δημιουργήσει περίπου 100 δείκτες, με τους οποίους εντοπίζονται επιστημονικές εργασίες που ενδέχεται να χρειάζονται πρόσθετο έλεγχο από ανθρώπους.

Στα περιοδικά του ομίλου Nature δεν επιτρέπονται εικόνες παραγόμενες από Τεχνητή Νοημοσύνη. Παράλληλα, οι αξιολογητές προειδοποιούνται να μη μεταφορτώνουν σε σχετικά συστήματα επιστημονικές εργασίες που δεν έχουν δημοσιευτεί.

Η πλατφόρμα arXiv, από την πλευρά της, αποκλείει για έναν χρόνο ερευνητές που καταθέτουν εργασίες με βιβλιογραφικές παραπομπές οι οποίες έχουν επινοηθεί.

Ο επιστημονικός δημοσιογράφος Νταλμίτ Σινγκ Τσάουλα, που εδώ και μία δεκαετία ερευνά υποθέσεις παρατυπιών στην επιστήμη, δήλωσε στο BBC: «Η παραγωγική Τεχνητή Νοημοσύνη έχει ουσιαστικά διαταράξει ολόκληρη την επιστημονική διαδικασία».

Το βασικό ερώτημα: Είναι δυνατόν η Τεχνητή Νοημοσύνη να υποκαταστήσει την ανθρώπινη κρίση;

Οι επιστήμονες προειδοποιούν για έναν επιπλέον κίνδυνο πέρα από τα λάθη και τις ανακριβείς πληροφορίες: συστήματα Τεχνητής Νοημοσύνης μπορεί να θεωρήσουν αμελητέες ασυνήθιστες παρατηρήσεις, παρότι αυτές ενδέχεται να αποτελέσουν αφετηρία σημαντικών ανακαλύψεων.

Πολλά παραδείγματα προσφέρει η ιστορία της επιστήμης, όπως η ανακάλυψη της πενικιλίνης, αλλά και οι περιπτώσεις της ραδιενέργειας και των πάλσαρ: αστέρων νετρονίων που εκπέμπουν ηλεκτρομαγνητική ακτινοβολία σε τακτά χρονικά διαστήματα.

Αρχικά, οι παρατηρήσεις πίσω από αυτές τις ανακαλύψεις φαίνονταν παράδοξες ή χωρίς ιδιαίτερη σημασία. Η ανθρώπινη περιέργεια και διαίσθηση, ωστόσο, επέτρεψαν να αναγνωριστεί η αξία τους.

Ο Πουσμίτ Κόλι, που ηγείται της επιστημονικής έρευνας στην Google DeepMind, αναγνωρίζει πως τα σημερινά συστήματα μπορούν να κάνουν λάθη και πως εξακολουθεί να είναι απαραίτητη η ανθρώπινη εποπτεία.

Τόνισε ότι «Πρέπει να καταλαβαίνεις τι έχει κάνει το σύστημα και να αναλαμβάνεις την ευθύνη», διευκρινίζοντας πως ο ερευνητής δεν μπορεί απλώς να αναθέσει ένα ζήτημα στην Τεχνητή Νοημοσύνη και κατόπιν να παρουσιάσει το αποτέλεσμα ως επιστημονική αλήθεια.

Το BBC επισημαίνει πως το κρίσιμο ερώτημα δεν αφορά πια μόνο την ταχύτητα με την οποία η Τεχνητή Νοημοσύνη μπορεί να φέρει νέες ανακαλύψεις. Αφορά και το αν η επιστημονική κοινότητα θα καταφέρει να αξιοποιήσει τις δυνατότητές της, χωρίς να κλονίσει την εμπιστοσύνη που αποτελεί θεμέλιο της επιστήμης.