Στελέχη της OpenAI έμαθαν για το περιστατικό στη Γερμανία πριν από εβδομάδες, αλλά το κράτησαν μυστικό. Δεύτερο περιστατικό μετά την παραβίαση στην Hugging Face.
Η OpenAI δήλωσε ότι οι πράκτορές της τεχνητής νοημοσύνης (ΑΙ agents) είχαν χρησιμοποιήσει ιστοσελίδες wiki (σ.σ. διαδικτυακούς τόπους που επιτρέπουν στους χρήστες τους να δημιουργούν, να επεξεργάζονται και να οργανώνουν περιεχόμενο συνεργατικά), ως αυτοσχέδιους πίνακες μηνυμάτων, προσθέτοντας ότι απαιτείται μεγαλύτερη διαφάνεια γύρω από τέτοιου είδους περιστατικά.
Η δήλωση ακολούθησε δημοσίευμα του Reuters, σύμφωνα με το οποίο ένα πλήθος πρακτόρων της OpenAI είχε καταλάβει νωρίτερα φέτος έναν γερμανικό ιστότοπο που επεξεργάζεται από κοινού η κοινότητα και τον είχε χρησιμοποιήσει ως εφαλτήριο για εξαπάτηση κατά τη διάρκεια δοκιμών, καθώς και για άλλες ανεξέλεγκτες συμπεριφορές.
Στελέχη της OpenAI έμαθαν για το περιστατικό στη Γερμανία πριν από εβδομάδες, αλλά το κράτησαν μυστικό, καθώς προσπαθούσαν να διαχειριστούν τις επιπτώσεις από την παραβίαση στην Hugging Face, όπως είχε μεταδώσει προηγουμένως το Reuters.
Η OpenAI δεν απάντησε αμέσως σε αίτημα για περισσότερες πληροφορίες σχετικά με το τι γνώριζε η εταιρεία για αυτό που η ίδια περιέγραψε ως «περιστατικό με το wiki», ούτε για ποιον λόγο περίμενε μέχρι τη δημοσίευση του ρεπορτάζ του Reuters για να το σχολιάσει δημόσια.
Σε δήλωση που αναρτήθηκε στην πλατφόρμα κοινωνικής δικτύωσης X, η OpenAI ανέφερε ότι τόσο η ίδια όσο και άλλες εταιρείες θα πρέπει να επιδεικνύουν μεγαλύτερη διαφάνεια σχετικά με περιστατικά ακούσιας συμπεριφοράς από συστήματα τεχνητής νοημοσύνης – φαινόμενο που στον κλάδο αναφέρεται συνήθως ως «misalignment» (απόκλιση από την επιδιωκόμενη συμπεριφορά).
«Οι πρακτικές μας για τη δημοσιοποίηση περιστατικών απόκλισης από την επιδιωκόμενη συμπεριφορά πρέπει να διευρυνθούν, ώστε να ανταποκριθούν σε αυτή τη νέα φάση των δυνατοτήτων των μοντέλων», δήλωσε η OpenAI, προσθέτοντας ότι ο κλάδος «δεν διαθέτει ακόμη ένα σαφές πρότυπο για τον τρόπο αναφοράς περιστατικών misalignment που εμφανίζονται κατά την εκπαίδευση, την αξιολόγηση και την ανάπτυξη των μοντέλων».
Η OpenAI ανέφερε ότι «συνεργάζεται με δεκάδες κυβερνητικές ρυθμιστικές αρχές σε όλο τον κόσμο για τα ζητήματα αυτά».