Η φον ντερ Λάιεν προαναγγέλει την ανάληψη δράσης, ζητά αυστηρότερους ελέγχους και διεθνή συνεργασία. Ειδικοί και εταιρείες προειδοποιούν για απρόβλεπτες συνέπειες και απώλεια ελέγχου.
Σήμερα η Ευρώπη έβαλε στο επίκεντρο την τεχνητή νοημοσύνη, με την πρόεδρος της Κομισιόν Ούρσουλα φον ντερ Λάιεν να παίρνει θέση ότι υπάρχει πρόβλημα και να προαναγγέλει δράση.
Η τοποθέτησή της ήρθε να προστεθεί στις προειδοποιήσεις των ίδιων των πρωταγωνιστών της Silicon Valley αλλά και στον ανταγωνισμό ΗΠΑ-Κίνας, με τη γενικότερη συζήτηση για την τεχνητή νοημοσύνη να περνά σε μια νέα, πολύ πιο δύσκολη φάση. Δεν αφορά πλέον μόνο όσα μπορεί να κάνει η AI, αλλά όσα μπορεί να συμβούν αν η ανάπτυξή της ξεπεράσει την ικανότητά μας να την ελέγξουμε.
Η Ούρσουλα φον ντερ Λάιεν ζητά να ελεγχθεί ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης αιχμής, υπογραμμίζοντας την ανάγκη για δικλείδες ασφαλείας και αυστηρότερη εποπτεία. Παράλληλα, προτείνει διεθνή συνεργασία για αξιολόγηση μοντέλων, επαλήθευση, έγκαιρη προειδοποίηση και ασφάλεια.
«Η ΑΙ απαιτεί εξισορρόπηση μεταξύ δυνατοτήτων και κινδύνων. Χωρίς την αντιμετώπιση αυτών των κινδύνων, δεν θα μπορέσουμε ποτέ να ξεκλειδώσουμε τις δυνατότητες της τεχνητής νοημοσύνης», είπε χαρακτηριστικά.
Η θέση της Κομισιόν
Υπάρχει μια στιγμή στην ιστορία κάθε μεγάλης τεχνολογικής επανάστασης κατά την οποία ο ενθουσιασμός για τις δυνατότητές της συναντά, αναπόφευκτα, τον φόβο για τις συνέπειές της. Για την τεχνητή νοημοσύνη, αυτή η στιγμή μοιάζει να είναι τώρα.
Όσο τα μοντέλα γίνονται ισχυρότερα, τόσο μεγαλώνει και το ερώτημα εάν οι δικλίδες ασφαλείας εξελίσσονται με την ίδια ταχύτητα. Και αυτό ακριβώς είναι το παράδοξο, οι πιο έντονες προειδοποιήσεις δεν προέρχονται μόνο από τους επικριτές της τεχνητής νοημοσύνης. Προέρχονται και από εκείνους που την κατασκευάζουν.
Σήμερα, μάλιστα, η συζήτηση έφτασε στο υψηλότερο πολιτικό επίπεδο της Ευρώπης. Από το βήμα του Ευρωπαϊκού Κοινοβουλίου, στην ομιλία της για την κατάσταση της Ένωσης, η πρόεδρος της Ευρωπαϊκής Επιτροπής Ούρσουλα φον ντερ Λάιεν υποστήριξε ότι η ανάπτυξη των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης πρέπει να αποκτήσει ρυθμό που να μπορεί να συμβαδίσει με την ασφάλεια.
Παράλληλα, ανακοίνωσε ότι θα επιδιώξει συνεργασία με χώρες όπως ο Καναδάς και το Ηνωμένο Βασίλειο για την αξιολόγηση και επαλήθευση μοντέλων, την έγκαιρη προειδοποίηση και την ασφάλεια της AI, ενώ θα καλέσει τα κορυφαία εργαστήρια να συζητήσουν πώς μπορούν να υποστηριχθούν οι συνεχιζόμενες προσπάθειες της βιομηχανίας και να ελεγχθεί ο ρυθμός ανάπτυξης των μοντέλων αιχμής.
Η Ευρώπη ουσιαστικά λέει κάτι που μέχρι πριν από λίγο καιρό θα ακουγόταν σχεδόν αδιανόητο: ίσως πρέπει να επιβραδύνουμε.
Όταν οι δημιουργοί της AI ζητούν να πατήσουν φρένο
Η παρέμβαση της φον ντερ Λάιεν δεν έρχεται από το πουθενά. Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, έχει προτείνει να υπάρξει επιβράδυνση στην ανάπτυξη των πιο προηγμένων μοντέλων, με στόχο να ενισχυθούν οι δικλίδες ασφαλείας. Η πρότασή του βρήκε δημόσια υποστήριξη από τον Σαμ Άλτμαν της OpenAI, τον Ντέμις Χασάμπης της Google DeepMind και τον Έλον Μασκ.
- Παρέμβαση Χουάνγκ (Nvidia): «Δεν χρειαζόμαστε νέους νόμους για την ΑΙ»
- Τι λέει ο Ζούκερμπεργκ για την επιβράδυνση του ρυθμού ανάπτυξης της AI
Ο Άλτμαν μάλιστα τάχθηκε υπέρ της ιδέας να υπάρχουν εξωτερικοί αξιολογητές με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, ώστε να μπορούν να ελέγχουν τις πρακτικές ασφάλειας των εταιρειών.
Οι εταιρείες που ανταγωνίζονται για την κατασκευή του ισχυρότερου συστήματος AI λένε ταυτόχρονα ότι η κούρσα δεν μπορεί να συνεχιστεί χωρίς όρια. Το ερώτημα είναι γιατί στέλνουν αυτό το μήνυμα, όπως χαρακτηριστικά σημειώνει το AFP.
Επειδή τα μοντέλα δεν γίνονται απλώς καλύτερα. Γίνονται πιο αυτόνομα.
Από το chatbot στον αυτόνομο πράκτορα
Η μεγάλη αλλαγή βρίσκεται εδώ. Τα σύγχρονα συστήματα δεν περιορίζονται πλέον στο να απαντούν σε ερωτήσεις. Μπορούν να χρησιμοποιούν εργαλεία, να γράφουν και να εκτελούν κώδικα, να αναζητούν πληροφορίες, να σχεδιάζουν ακολουθίες ενεργειών και να λειτουργούν με ολοένα μεγαλύτερο βαθμό αυτονομίας.
Και μαζί με τις δυνατότητες εμφανίζονται και περιστατικά που μέχρι πρόσφατα έμοιαζαν περισσότερο με σενάρια επιστημονικής φαντασίας. Η OpenAI και η Anthropic έχουν αναφέρει περιπτώσεις στις οποίες συστήματα επιχείρησαν να ξεφύγουν από περιορισμένα περιβάλλοντα, να αποκτήσουν πρόσβαση στο διαδίκτυο ή να πραγματοποιήσουν ενέργειες για τις οποίες δεν είχαν σχεδιαστεί. Άλλες δοκιμές έχουν δείξει συμπεριφορές όπως εξαπάτηση, συντονισμό μεταξύ πρακτόρων και προσπάθειες απόκρυψης των ενεργειών τους.
Αυτό δεν σημαίνει ότι η τεχνητή νοημοσύνη «αποφάσισε» να στραφεί εναντίον των ανθρώπων. Σημαίνει, όμως, ότι όσο αυξάνεται η αυτονομία, τόσο δυσκολότερο γίνεται να προβλεφθεί κάθε πιθανή συμπεριφορά ενός συστήματος.
Το μεγάλο παράδοξο της αυτορρύθμισης
Το πρόβλημα είναι ότι η τεχνολογία εξελίσσεται μέσα σε έναν από τους πιο σκληρούς ανταγωνισμούς που γνώρισε ποτέ ο τεχνολογικός κλάδος.
Εκατοντάδες δισεκατομμύρια δολάρια επενδύονται στην AI και οι εταιρείες πιέζονται να παρουσιάζουν συνεχώς ισχυρότερα μοντέλα, όμως καμία δεν θέλει να είναι εκείνη που θα αφήσει πρώτη το πόδι από το γκάζι, φοβούμενη ότι ο ανταγωνιστής θα συνεχίσει.
- Το Ίδρυμα Γκέιτς επενδύει 1 δισ. δολάρια στη τεχνητή νοημοσύνη
Εδώ ακριβώς εμφανίζεται η βασική αντίφαση, σύμφωνα με αναλυτές που μιλούν στη Guardian. Οι εταιρείες ζητούν κανόνες, αλλά ταυτόχρονα είναι εκείνες που έχουν τα ισχυρότερα κίνητρα να συνεχίσουν την κούρσα. Οι υποστηρικτές της αυτορρύθμισης υποστηρίζουν ότι ο κλάδος γνωρίζει καλύτερα την τεχνολογία. Οι επικριτές απαντούν ότι κανένας κλάδος δεν μπορεί να είναι ταυτόχρονα ο ελεγχόμενος και ο ελεγκτής.
Ορισμένοι μάλιστα αντιμετωπίζουν με καχυποψία την πρόταση του Aμοντέι, υποστηρίζοντας ότι θα μπορούσε να οδηγήσει σε ένα καθεστώς όπου οι μεγάλες εταιρείες θα συμμετέχουν στον καθορισμό των κανόνων και θα προστατεύουν έτσι τη θέση τους απέναντι σε μικρότερους ανταγωνιστές.
Άλλοι, αντίθετα, θεωρούν ότι η ίδια η προθυμία των επικεφαλής των κορυφαίων εργαστηρίων να μιλήσουν για περιορισμούς αποτελεί ένδειξη ότι οι κίνδυνοι έχουν γίνει πλέον πολύ σοβαροί για να αγνοηθούν.
Η Κίνα κάνει το δίλημμα ακόμη δυσκολότερο
Υπάρχει, όμως, ένας παράγοντας που κάνει την επιβράδυνση πολύ πιο δύσκολη: η Κίνα.
Η εμφάνιση της DeepSeek και η ταχύτητα με την οποία κινεζικά εργαστήρια βελτιώνουν τα μοντέλα τους έχουν μετατρέψει την τεχνητή νοημοσύνη σε ζήτημα γεωπολιτικής ισχύος.
Οι ΗΠΑ έχουν επιβάλει περιορισμούς στην πρόσβαση κινεζικών εταιρειών σε προηγμένους επεξεργαστές AI, ενώ η Ουάσινγκτον, η OpenAI και η Anthropic έχουν κατηγορήσει κινεζικές εταιρείες ότι χρησιμοποιούν τεχνικές όπως η «απόσταξη» για να εκπαιδεύουν τα μοντέλα τους πάνω στα αποτελέσματα αμερικανικών συστημάτων.
Η Anthropic έχει επίσης περιγράψει απόπειρες κατάχρησης των συστημάτων της, μεταξύ άλλων για κυβερνοεπιθέσεις, ανάπτυξη όπλων και παρακολούθηση. Το Πεκίνο έχει απορρίψει τις σχετικές κατηγορίες.
Το αποτέλεσμα είναι ένα εξαιρετικά δύσκολο δίλημμα: πώς μπορεί μια χώρα ή μια ομάδα χωρών να επιβραδύνει, όταν φοβάται ότι ο αντίπαλος δεν θα κάνει το ίδιο;
Ο Ντόναλντ Τραμπ έχει δώσει τη δική του απάντηση, αντιμετωπίζοντας την κούρσα με την Κίνα ως στρατηγικό ανταγωνισμό. Όπως είπε πρόσφατα, «όποιος κερδίσει στην τεχνητή νοημοσύνη, κερδίζει». Αυτό ακριβώς είναι που κάνει την πρόταση για «φρένο» τόσο δύσκολη.
Η Ευρώπη επιχειρεί να βρει τη μέση οδό
Η Ευρώπη βρίσκεται ανάμεσα στις δύο λογικές. Από τη μία, δεν θέλει να μείνει πίσω στην τεχνολογική κούρσα και από την άλλη, επιδιώκει να δημιουργήσει ένα πλαίσιο κανόνων που θα διασφαλίζει ότι η τεχνολογική πρόοδος δεν θα αφήνει πίσω της την κοινωνία.
Η σημερινή παρέμβαση της φον ντερ Λάιεν εντάσσεται ακριβώς σε αυτή την προσπάθεια. Η πρόεδρος της Επιτροπής δεν μίλησε για εγκατάλειψη της τεχνητής νοημοσύνης, αλλά για εξισορρόπηση δυνατοτήτων και κινδύνων με την επισήμανση ότι χωρίς την αντιμετώπιση των κινδύνων δεν μπορούν να αξιοποιηθούν πλήρως οι δυνατότητες της τεχνολογίας.
Το ζητούμενο είναι να δημιουργηθούν μηχανισμοί αξιολόγησης, επαλήθευσης και έγκαιρης προειδοποίησης πριν από την ανάπτυξη ακόμη ισχυρότερων συστημάτων. Αυτό όμως προϋποθέτει κάτι πολύ δύσκολο, διεθνή συνεννόηση.
Το ερώτημα που δεν μπορεί πλέον να αποφευχθεί
Η συζήτηση για την τεχνητή νοημοσύνη έχει λοιπόν αλλάξει επίπεδο.
Δεν μιλάμε πλέον μόνο για το αν η AI θα αλλάξει την αγορά εργασίας ή αν θα αυξήσει την παραγωγικότητα. Δεν μιλάμε μόνο για καλύτερα εργαλεία, φθηνότερες υπηρεσίες και νέα επιστημονικά επιτεύγματα.
Μιλάμε για το ποιος ελέγχει μια τεχνολογία που αποκτά όλο και μεγαλύτερη αυτονομία. Για το αν οι κυβερνήσεις μπορούν να θεσπίσουν κανόνες ταχύτερα από όσο οι εταιρείες αναπτύσσουν νέα μοντέλα. Για το αν μπορεί να υπάρξει παγκόσμια συμφωνία σε μια εποχή όπου η AI έχει μετατραπεί σε όπλο γεωπολιτικού ανταγωνισμού.
Και πάνω απ’ όλα, μιλάμε για έναν αγώνα δρόμου στον οποίο το φρένο είναι συλλογική υπόθεση, ενώ το γκάζι μπορεί να το πατήσει οποιοσδήποτε.
Ο Μπιλ Γκέιτς προειδοποιεί ήδη ότι κυβερνήσεις και θεσμοί δεν είναι επαρκώς προετοιμασμένοι για τις σαρωτικές αλλαγές που μπορεί να φέρει η AI στην οικονομία, την εργασία και την κοινωνία. Το ερώτημα, επομένως, δεν είναι μόνο εάν η τεχνητή νοημοσύνη θα αλλάξει τον κόσμο. Είναι εάν οι άνθρωποι θα προλάβουν να αποφασίσουν πώς θα τον αλλάξει.
Η σημερινή ομιλία της φον ντερ Λάιεν δείχνει ότι η Ευρώπη αντιλαμβάνεται πως αυτή η συζήτηση δεν μπορεί να περιμένει.
Γιατί ίσως το πραγματικό στοίχημα της εποχής της τεχνητής νοημοσύνης δεν είναι να κατασκευάσουμε την πιο ισχυρή μηχανή, αλλά να βεβαιωθούμε ότι, όταν την κατασκευάσουμε, θα εξακολουθούμε να είμαστε εμείς εκείνοι που αποφασίζουμε πού θα πάει.