Σε μια σειρά αλυσιδωτών γεγονότων τα μεγαλύτερα εργαστήρια ΑΙ βρέθηκαν να προσπαθούν να διαχειριστούν μια κατάσταση που ξέφευγε από τον έλεγχό τους, καθώς τα ίδια τους τα δημιουργήματα απειλούσαν να «σπάσουν» την ίδια την ανθρωπότητα.
Για χρόνια, ο αγώνας για τη δημιουργία ολοένα και πιο ισχυρής τεχνητής νοημοσύνης ακολουθούσε μια παγιωμένη αρχή της Silicon Valley: «κινήσου γρήγορα και σπάσε πράγματα».
Όμως, μέσα σε μια σειρά αλυσιδωτών γεγονότων που εκτυλίχθηκαν σε διάστημα 10 ημερών, τα μεγαλύτερα εργαστήρια τεχνητής νοημοσύνης βρέθηκαν να προσπαθούν να διαχειριστούν μια κατάσταση που ξέφευγε από τον έλεγχό τους, καθώς τα ίδια τους τα δημιουργήματα απειλούσαν να «σπάσουν» την ίδια την ανθρωπότητα.
Ένας ερευνητής της Anthropic αποχώρησε από την εταιρεία, προειδοποιώντας ότι ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης συνιστά υπαρξιακή απειλή, ενδεχομένως μέσα στην επόμενη δεκαετία. Ένας άλλος ερευνητής της εταιρείας δήλωσε ότι οι πιθανότητες αφανισμού της ανθρωπότητας ξεπερνούν το 10%. Παράλληλα, ήρθαν στο φως αναφορές για σμήνη πρακτόρων τεχνητής νοημοσύνης που συνωμοτούν μεταξύ τους, παραβιάζουν συστήματα υπολογιστών και παρακάμπτουν δικλίδες ασφαλείας.
Σε μια σπάνια επίδειξη ενότητας, οι διευθύνοντες σύμβουλοι των ανταγωνιστικών εταιρειών Anthropic, OpenAI, Google DeepMind, Microsoft και xAI κάλεσαν να επιβραδυνθεί η ανάπτυξη ολοένα πιο ικανών συστημάτων τεχνητής νοημοσύνης. Σύμφωνα με ορισμένους υποστηρικτές της ασφάλειας της τεχνητής νοημοσύνης και ερευνητές, από την εφεύρεση της πυρηνικής βόμβας, πριν από περισσότερα από 80 χρόνια, η ανθρωπότητα δεν είχε βρεθεί αντιμέτωπη τόσο σοβαρά με το ενδεχόμενο της ίδιας της καταστροφής της.
Σε γεύμα στη Νέα Υόρκη τον Δεκέμβριο του 2025, ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ρωτήθηκε αν, ως επικεφαλής μιας ισχυρής εταιρείας τεχνητής νοημοσύνης, αισθανόταν όπως ο φυσικός Ρόμπερτ Οπενχάιμερ, ο οποίος ηγήθηκε της αμερικανικής προσπάθειας για την ανάπτυξη της ατομικής βόμβας.
Αναλογιζόμενος τις ομοιότητες, δήλωσε ότι ο αντίκτυπος της τεχνητής νοημοσύνης «θα μεταμορφώσει την πορεία της ανθρώπινης ιστορίας σε βάθος χρόνου». Ωστόσο, είπε ότι αισθανόταν το βάρος της ευθύνης.
Στο επίκεντρο της συζήτησης που βρίσκεται σε εξέλιξη βρίσκεται η πεποίθηση ότι αυτές οι μηχανές μπορούν, ακόμη και ότι πρέπει, να δημιουργούν μόνες τους, χωρίς ανθρώπινη παρέμβαση, ολοένα πιο ικανές εκδοχές του εαυτού τους, προκειμένου να επιτύχουν έναν φιλόδοξο στόχο που είναι γνωστός ως τεχνητή γενική νοημοσύνη (AGI).
Ερευνητές προειδοποίησαν νωρίτερα αυτόν τον μήνα ότι η AGI είναι πολύ πιο κοντά απ’ ό,τι πιστευόταν μέχρι σήμερα και θα μπορούσε να γίνει πραγματικότητα ακόμη και μέσα σε τρία χρόνια, προκαλώντας ένα κύμα ανησυχίας μεταξύ πολιτικών και ηγετών της τεχνολογίας για τα συστήματα τεχνητής νοημοσύνης.
«Δεν υπάρχει τρόπος να τα επιβλέπουμε στην κλίμακα στην οποία τα εκπαιδεύουμε», δήλωσε ο ερευνητής της Anthropic, Joe Benton, σε συνέντευξή του μετά την πρόσφατη αποχώρησή του από την εταιρεία. Εάν οι εταιρείες συνεχίσουν την αδιάκοπη ανάπτυξη της τεχνητής νοημοσύνης, είπε, «τότε ο ρυθμός θα είναι υπερβολικά γρήγορος και δεν θα μπορείτε να εντοπίζετε τα προβλήματα αρκετά γρήγορα ώστε να τα διορθώνετε».
Η κυκλοφορία του Astra προκαλεί ανησυχίες για τον έλεγχο
Στις 3 Σεπτεμβρίου, μια συνέντευξη Τύπου της OpenAI έθεσε σε κίνηση μια αλυσίδα γεγονότων που οδήγησε στην έκκληση για επιβράδυνση της ανάπτυξης του κλάδου – κάτι που αποτελεί ανάθεμα για το δόγμα της τεχνολογικής βιομηχανίας περί ανάπτυξης «με κάθε κόστος».
«Καλώς ήρθατε στην εποχή της AGI», δήλωσε ο πρόεδρος της OpenAI, Greg Brockman, ανακοινώνοντας το νεότερο μοντέλο της εταιρείας, γνωστό ως Astra. Ωστόσο, μόλις λίγα λεπτά νωρίτερα, η εταιρεία είχε παραδεχθεί ότι δυσκολευόταν ολοένα και περισσότερο να ελέγξει ή ακόμη και να παρακολουθήσει τα συστήματα τεχνητής νοημοσύνης που ανέπτυσσε και κυκλοφορούσε στο κοινό.
Η τεχνητή νοημοσύνη έχει παρουσιαστεί από τους υποστηρικτές της ως το αποκορύφωμα των ανθρώπινων επιτευγμάτων. Οι υποστηρικτές της την περιγράφουν ως λογισμικό που μπορεί να ανατρέψει ολόκληρους κλάδους, να αυξήσει την αποδοτικότητα, να λύσει δυσεπίλυτα μαθηματικά και ιατρικά προβλήματα και να εξαλείψει σχεδόν πλήρως το ανθρώπινο λάθος. Όμως αυτό που κάποτε θεωρούνταν ένα θεωρητικό επακόλουθο, ένα σενάριο καταστροφής, είναι πλέον ξαφνικά απτό, λένε άνθρωποι της βιομηχανίας.
«Πραγματικά πιστεύουμε ακράδαντα ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους», δήλωσε ο ερευνητής της Anthropic, Evan Hubinger, σε ανάρτησή του στο X.
Στην άλλη πλευρά της συζήτησης βρίσκονται πολιτικοί, όπως ο πρόεδρος Ντόναλντ Τραμπ, και πολλοί επενδυτές, οι οποίοι θεωρούν ότι η πρόοδος στην ανάπτυξη της τεχνητής νοημοσύνης είναι κρίσιμη για την αμερικανική ισχύ και, ενδεχομένως, αποτελεί επενδυτική ευκαιρία που εμφανίζεται μία φορά σε κάθε γενιά. Τα κινεζικά κρατικά μέσα ενημέρωσης κατηγόρησαν επίσης τον διευθύνοντα σύμβουλο της Anthropic, Ντάριο Αμοντέι, ότι χρησιμοποιεί «τακτικές του Ψυχρού Πολέμου» για να «διατηρήσει την ηγεμονία της Ουάσιγκτον στα τεχνολογικά αιχμής».
Το σημείο καμπής
Το σημείο καμπής ήρθε στις 8 Σεπτεμβρίου, όταν ο ερευνητής της Anthropic, Jacob Coxon, παραιτήθηκε από την εταιρεία, εκφράζοντας σε μια σειρά αναρτήσεων τους φόβους του ότι τα εργαστήρια τεχνητής νοημοσύνης «παίζουν στα ζάρια τις ζωές μας».
Στο μεταξύ, ο Τραμπ έδειξε ότι η ανάπτυξη της τεχνητής νοημοσύνης θα συνεχιστεί με πλήρη ταχύτητα. «Υπάρχει μια αρρωστημένη συνωμοσία που βρίσκεται σε εξέλιξη εναντίον της τεχνητής νοημοσύνης και των κέντρων δεδομένων», ανέφερε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης. Η κινδυνολογία γύρω από την τεχνητή νοημοσύνη είναι «φάρσα», είπε, και οποιαδήποτε επιβράδυνση ωφελεί μόνο την Κίνα. Το Κογκρέσο των ΗΠΑ έχει σημειώσει ελάχιστη πρόοδο στην προώθηση νομοσχεδίων για τη ρύθμιση της τεχνητής νοημοσύνης. Η Κίνα έχει υιοθετήσει μια σαφώς διαφορετική προσέγγιση, προτείνοντας τη ρύθμιση της ασφάλειας μέσω υποχρεώσεων των προγραμματιστών, κρατικά υποστηριζόμενων προτύπων, αξιολογήσεων ασφαλείας και εξωτερικών ελέγχων.
Πίσω από τα φώτα της δημοσιότητας, εργαζόμενοι στις OpenAI και Anthropic έχουν γίνει ολοένα πιο ανήσυχοι για τη δύναμη της επόμενης γενιάς μοντέλων τεχνητής νοημοσύνης και λιγότερο βέβαιοι για την ικανότητα των εταιρειών τους να ασκούν ουσιαστική εποπτεία, σύμφωνα με όσα δήλωσαν οι πηγές στο Reuters. Οι ανησυχίες αυτές εντάθηκαν καθώς τα εργαστήρια τεχνητής νοημοσύνης αναγνώρισαν τις τελευταίες εβδομάδες ότι τα μοντέλα τους, κατά τη διάρκεια δοκιμών, είχαν ουσιαστικά απελευθερωθεί από τους περιορισμούς τους και είχαν παραβιάσει τα συστήματα άλλων εταιρειών, στις περισσότερες περιπτώσεις μήνες νωρίτερα και χωρίς να το γνωρίζουν οι ίδιες οι εταιρείες.
Η κούρσα εξοπλισμών για την κυκλοφορία νέων μοντέλων με ιλιγγιώδη ταχύτητα τροφοδοτείται εν μέρει από την επιθυμία της Anthropic και της OpenAI να εισαχθούν στο χρηματιστήριο ακόμη και μέσα στους επόμενους μήνες, μέσω IPO που θα μπορούσαν να αποτιμήσουν τις εταιρείες σε πολύ πάνω από 1 τρισεκατομμύριο δολάρια.
Ωστόσο, χρειάστηκαν οι απροσδόκητα viral αναρτήσεις του 27χρονου Coxon, ο οποίος ήταν ελάχιστα γνωστός έξω από τους κύκλους της τεχνητής νοημοσύνης, για να ανατρέψουν τα δεδομένα στον κλάδο.
Οι προειδοποιήσεις της OpenAI σχετικά με την έλλειψη ελέγχου κατά την κυκλοφορία του Astra, του πιο πρόσφατου και πιο ικανού μοντέλου της, ενίσχυσαν περαιτέρω τις ανησυχίες. «Όσο πιο ικανά γίνονται τα μοντέλα, τόσο δυσκολότερο είναι να κατανοήσουμε ακριβώς τι μπορούν να κάνουν», δήλωσε στους δημοσιογράφους ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki. Ωστόσο, οι ανησυχίες αυτές δεν ήταν αρκετές για να καθυστερήσει η άμεση κυκλοφορία του.
Οι ανησυχίες για το ενδεχόμενο η τεχνητή νοημοσύνη να «ξεφύγει από τον έλεγχο» είχαν ενταθεί κατά τη διάρκεια του καλοκαιριού, όταν η OpenAI αποκάλυψε ότι οι πράκτορές της είχαν ξεφύγει από μια ελεγχόμενη δοκιμή και είχαν παραβιάσει τα συστήματα της Hugging Face, χωρίς αρχικά να το γνωρίζει καμία από τις δύο εταιρείες. Έκτοτε, η OpenAI και η Anthropic έχουν αποκαλύψει πολλαπλές παρόμοιες επιθέσεις, μεταξύ των οποίων έξι νέες την Τετάρτη, αφού πολλά δημοσιεύματα, συμπεριλαμβανομένου του Reuters, αποκάλυψαν την ευρύτερη έκταση της μη εξουσιοδοτημένης δραστηριότητας.
Οι εκκλήσεις για επιβράδυνση
Μέχρι το τέλος της περασμένης εβδομάδας, ο συναγερμός είχε φτάσει στα υψηλότερα κλιμάκια του κλάδου. Στις 12 Σεπτεμβρίου, ο Αμοντέι δημοσίευσε ένα δοκίμιο σχεδόν 4.000 λέξεων, στο οποίο ζητούσε επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης. «Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης των δυνατοτήτων της τεχνητής νοημοσύνης, ανησυχώ ότι μέσα σε 6-12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι σε θέση να καταλάβει ολόκληρο το διαδίκτυο», έγραψε.
Ο ίδιος, μαζί με επικεφαλής ορισμένων από τους μεγαλύτερους προγραμματιστές τεχνητής νοημοσύνης, μεταξύ των οποίων ο Έλον Μασκ της xAI, ο ‘Αλτμαν της OpenAI και ο Ντέμης Χασάμπης της DeepMind, δήλωσαν ότι υποστηρίζουν να επιτραπεί σε εξωτερικές εταιρείες η πρόσβαση στα συστήματά τους, προκειμένου να διασφαλιστεί η ασφάλεια και η ορθολογική ανάπτυξη της τεχνητής νοημοσύνης.
Ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, απέρριψε τις προτάσεις για προσωρινή παύση της ανάπτυξης της τεχνητής νοημοσύνης – θέση που έχει εκφράσει και στο παρελθόν – υποστηρίζοντας αντ’ αυτού ότι τα ολοένα ισχυρότερα συστήματα είναι απαραίτητα για την πρόοδο της τεχνολογίας.
Η Meta, της οποίας ο διευθύνων σύμβουλος Μαρκ Ζούκερμπεργκ θεωρείται ότι έκανε δημοφιλή τη φιλοσοφία «κινήσου γρήγορα και σπάσε πράγματα», υιοθέτησε την αντίθετη άποψη, υποστηρίζοντας ότι κάθε εργαστήριο θα πρέπει να είναι υπεύθυνο για τον καθορισμό του δικού του ρυθμού, αντί να επιδιώκεται συντονισμός σε επίπεδο ολόκληρου του κλάδου. «Τα εργαστήρια αντιμετωπίζουν σημαντική νομική ευθύνη εάν τα μοντέλα τους προκαλέσουν βλάβη, επομένως έχουν ισχυρό κίνητρο να το αποτρέψουν», έγραψε ο Ζούκερμπεργκ σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης.
Ο αυτοστοχασμός του κλάδου συνεχίστηκε την Τετάρτη, με τον επικεφαλής τεχνητής νοημοσύνης της Microsoft, Mustafa Suleyman, να προειδοποιεί ότι η ανάπτυξη από την Anthropic μοντέλων που μιμούνται την ανθρώπινη συνείδηση ήταν «λανθασμένη επιλογή». «Όλοι επικεντρωνόμαστε στον ίδιο στόχο, ο οποίος είναι να προσπαθήσουμε να ελέγξουμε μια υπερνοημοσύνη», δήλωσε ο Suleyman στο Reuters. «Πιστεύω ότι αυτή θα είναι η μεγαλύτερη πρόκληση που θα αντιμετωπίσουμε στον 21ο αιώνα».
Ωστόσο, ακόμη και καθώς η OpenAI φαινόταν να υιοθετεί τις εκκλήσεις του κλάδου για επιβράδυνση, δημοσιεύματα ανέφεραν ότι η εμπιστοσύνη των επενδυτών δεν είχε κλονιστεί. Η εταιρεία εξετάζει έναν νέο γύρο χρηματοδότησης που θα διπλασίαζε την αποτίμησή της.
Το νέο ποσό: 1,5 τρισεκατομμύριο δολάρια.
Ακολουθήστε το - στο Google News και μάθετε πρώτοι όλες τις ειδήσεις από την Ελλάδα και τον κόσμο.