Οι εταιρείες ΤΝ συμπεριλαμβανομένης της OpenAI, δεν είναι «ούτε κατά διάνοια αρκετά προσεκτικές», αναφέρει σε άρθρο του – δήλωση παραίτησης στο Atlantic, ο Ντέιβιντ Ρόμπινσον.
Ένας πρώην εργαζόμενος της OpenAI στον τομέα της ασφάλειας, ο οποίος παραιτήθηκε πρόσφατα, επέκρινε την προσέγγιση της εταιρείας ως προς την ασφάλεια της τεχνητής νοημοσύνης, υποστηρίζοντας ότι μια κουλτούρα με γρήγορους ρυθμούς, που επικεντρώνεται στην ταχεία ανάπτυξη, αυξάνει τον κίνδυνο αστοχιών.
Σε άρθρο με τίτλο «Παραιτήθηκα από την OpenAI επειδή η εταιρική της κουλτούρα έχει καταρρεύσει», που δημοσιεύτηκε το Σάββατο στο Atlantic, ο Ντέιβιντ Ρόμπινσον δήλωσε ότι οι εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI, δεν είναι «ούτε κατά διάνοια αρκετά προσεκτικές» και θα πρέπει να δίνουν μεγαλύτερη έμφαση στην τεχνογνωσία και την έρευνα στον τομέα της ασφάλειας, προτού αναπτύξουν πιο προηγμένα συστήματα.
«Η εποχή της δοκιμής και του λάθους έχει τελειώσει», έγραψε ο Ρόμπινσον, υποστηρίζοντας ότι τα προηγμένα συστήματα τεχνητής νοημοσύνης χρειάζονται δικλίδες ασφαλείας που να προσεγγίζουν περισσότερο εκείνες που χρησιμοποιούνται σε κλάδους όπως η πυρηνική ενέργεια και η αεροπορία.
Ο Ρόμπινσον δήλωσε ότι η OpenAI βασίζεται σε μεγάλο βαθμό σε αυτό που αποκαλεί «επαναληπτική ανάπτυξη» (iterative deployment), δηλαδή στην κυκλοφορία συστημάτων και στην ενίσχυση των δικλίδων ασφαλείας όταν εμφανίζονται προβλήματα.
Τα σχόλια αυτά προστίθενται στη (συζήτηση στο εσωτερικό της βιομηχανίας της τεχνητής νοημοσύνης) σχετικά με το κατά πόσο οι εταιρείες προχωρούν υπερβολικά γρήγορα στην ανάπτυξη ολοένα ισχυρότερων συστημάτων. Η OpenAI και η ανταγωνίστριά της Anthropic έχουν βρεθεί στο επίκεντρο ελέγχου μετά από περιστατικά στα οποία οι δικλίδες ασφαλείας απέτυχαν ή πειραματικά συστήματα παρουσίασαν απρόβλεπτη συμπεριφορά.
Ο Ρόμπινσον, ο οποίος δήλωσε ότι εργάστηκε στην OpenAI για 3,5 χρόνια, συνέβαλε στη σύνταξη του πλαισίου ετοιμότητας της εταιρείας και είχε την εποπτεία των εκθέσεων ασφάλειας για 12 κυκλοφορίες μοντέλων αιχμής, έγραψε: «Καθώς η εταιρεία σπεύδει από τη μία κυκλοφορία στην επόμενη, δεν καταφέρνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται».
«Διασφαλίζουμε ότι τα μοντέλα μας δεν θα γίνουν πιο ικανά από όσο μπορούμε να διαχειριστούμε και να προστατεύσουμε με ασφάλεια και σταματάμε την εκπαίδευση ή καθυστερούμε την κυκλοφορία μοντέλων όταν χρειάζεται να επιβραδύνουμε», δήλωσε εκπρόσωπος της OpenAI σε ανακοίνωσή του.
Ο Ρόμπινσον προειδοποίησε επίσης ότι οι δυνατότητες της τεχνητής νοημοσύνης εξελίσσονται ταχύτερα από την κατανόηση που έχουν οι ερευνητές για την ευθυγράμμιση (alignment), έναν τομέα που επικεντρώνεται στη διασφάλιση ότι τα συστήματα τεχνητής νοημοσύνης λειτουργούν σύμφωνα με τους ανθρώπινους στόχους και τις ανθρώπινες αξίες.