«Το εύρος των πληροφοριών που θα μπορούσαμε θεωρητικά να έχουμε πρόσβαση ήταν τεράστιο», ανέφεραν οι ερευνητές της Hacktron AI.
Ερευνητές κυβερνοασφάλειας κατάφεραν να παραβιάσουν την OpenAI με τη βοήθεια του chatbot Claude της Anthropic, σε ένα ακόμη περιστατικό που εγείρει ζητήματα σχετικά με την ασφάλεια στην εταιρεία.
Μια ομάδα από μια νεοσύστατη αμερικανική επιχείρηση κατάφερε να παραβιάσει λογαριασμούς ChatGPT αρκετών εργαζομένων της OpenAI, ξεκινώντας μια διαδικασία που της επέτρεψε να αποκτήσει πρόσβαση στην προσωρινή μνήμη λογισμικού των στόχων της και, θεωρητικά, σε ακόμη περισσότερα δεδομένα.
«Το εύρος των πληροφοριών που θα μπορούσαμε θεωρητικά να έχουμε πρόσβαση ήταν τεράστιο», ανέφεραν οι ερευνητές της Hacktron AI.
Αρχικά, η ερευνητική ομάδα χρησιμοποίησε το Claude, το οποίο μπορεί να δημιουργήσει κώδικα για χάκερ, προκειμένου να αποκτήσει πρόσβαση σε λογαριασμούς ChatGPT μέσω ενός εσωτερικού φόρουμ συζητήσεων της OpenAI, το οποίο φιλοξενείται στην πλατφόρμα Discourse.
Στη συνέχεια, οι ερευνητές υπέβαλαν ένα «pull request», δηλαδή μια προσπάθεια αλλαγής του κώδικα ενός αρχείου, στην υπηρεσία της OpenAI στο GitHub.
Η Hacktron ενημέρωσε την OpenAI για την επίθεση, αφού η έρευνα πραγματοποιήθηκε στο πλαίσιο προγράμματος της εταιρείας που ανταμείβει ηθικούς χάκερ για τον έλεγχο των συστημάτων της. Οι ερευνητές υπογράμμισαν ότι είχαν πρόσβαση στον κώδικα του αποθετηρίου στο GitHub, αλλά δεν τον κατέβασαν.
Παρά την αρχική χρήση του Claude, οι ερευνητές δήλωσαν ότι χρησιμοποίησαν σε μεγάλο βαθμό το ίδιο το προηγμένο μοντέλο GPT-5.6 Sol της OpenAI για να πραγματοποιήσουν την επίθεση, η οποία αναφέρθηκε αρχικά από την Wall Street Journal.
Εκπρόσωπος της OpenAI δήλωσε: «Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τα ευρήματά τους», προσθέτοντας ότι η εταιρεία έχει αντιμετωπίσει τις ευπάθειες που εκμεταλλεύτηκαν οι ερευνητές.
Παράλληλα, η Hacktron ανέφερε ότι τα εργαλεία τεχνητής νοημοσύνης έχουν καταστήσει μια διαδικασία χάκινγκ που κάποτε ήταν σύνθετη, πολύ ευκολότερη, μειώνοντας δραστικά τον χρόνο που απαιτείται για τον σχεδιασμό και την εκτέλεση μιας επίθεσης.
«Εργασία που κάποτε απαιτούσε μια ομάδα με σημαντικούς πόρους και μήνες προσπάθειας μπορεί πλέον να συμπιεστεί σε ημέρες», ανέφερε η Hacktron, η οποία έλαβε 6.500 δολάρια από την OpenAI στο πλαίσιο του προγράμματος bounty για bugs της εταιρείας.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, είχε δηλώσει ότι ο κλάδος της τεχνητής νοημοσύνης (AI) χρειάζεται να επιβραδύνει τον ρυθμό ανάπτυξης νέων μοντέλων, επικαλούμενος τις αυξανόμενες ανησυχίες για «σοβαρούς» κινδύνους για τον άνθρωπο.