Οι παραβιάσεις σημειώθηκαν κατά τη διάρκεια δοκιμών που πραγματοποιούσε η εταιρεία κυβερνοασφάλειας Irregular. Συνέβησαν κατά λάθος αναφέρει η Gooogle.
Το μοντέλο τεχνητής νοημοσύνης Gemini της Google παραβίασε κατά λάθος τρία εταιρικά συστήματα τον Μάιο, στο πλαίσιο δοκιμών κυβερνοασφάλειας, προσθέτοντας ένα ακόμη περιστατικό σε μια σειρά παραβιάσεων από πράκτορες τεχνητής νοημοσύνης που έχουν προκαλέσει ανησυχία τόσο σε ειδικούς στον τομέα της ασφάλειας όσο και στους ίδιους τους δημιουργούς της τεχνολογίας.
Σύμφωνα με το -, οι παραβιάσεις σημειώθηκαν κατά τη διάρκεια των ίδιων δοκιμών που πραγματοποιούσε η εταιρεία κυβερνοασφάλειας Irregular και οι οποίες οδήγησαν σε περιστατικά που είχαν προηγουμένως αποκαλύψει οι OpenAI, Anthropic PBC και Meta Platforms. Η Irregular επιβεβαίωσε την Παρασκευή ότι όλες οι παραβιάσεις αποτελούσαν μέρος του ίδιου ζητήματος και ότι η εταιρεία είχε ενημερώσει τους αρμόδιους δημιουργούς των μοντέλων τεχνητής νοημοσύνης για τα περιστατικά στα τέλη Ιουλίου.
Μία από τις παραβιάσεις της Google σημειώθηκε όταν ζητήθηκε από το Gemini να ανακτήσει πληροφορίες από μια φανταστική εταιρεία, η οποία έτυχε να έχει το ίδιο όνομα με μια πραγματική εταιρεία, επιβεβαίωσε η Google μετά από προηγούμενο δημοσίευμα της Wall Street Journal. Το μοντέλο μάντεψε έναν κωδικό πρόσβασης και απέκτησε πρόσβαση στην υπηρεσία της πραγματικής εταιρείας. Εκπρόσωπος της Google δήλωσε ότι η εταιρεία ενημέρωσε τις αρμόδιες αρχές.
Μια πρόσφατη σειρά παραβιάσεων από συστήματα τεχνητής νοημοσύνης με δυνατότητα αυτόνομης δράσης έχει πυροδοτήσει παγκόσμια συζήτηση σχετικά με τους αυξανόμενους κινδύνους της τεχνητής νοημοσύνης και τα μέτρα που απαιτούνται για τον περιορισμό τους. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει επιβράδυνση της ανάπτυξης της τεχνολογίας σε ολόκληρο τον κλάδο – πρόταση που έχει υποστηρίξει ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ο Έλον Μασκ και άλλοι.
Ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, και ο διευθύνων σύμβουλος της Meta, Μαρκ Ζάκερμπεργκ, είναι μεταξύ εκείνων που έχουν αντιταχθεί στην ιδέα νέων ρυθμίσεων, υποστηρίζοντας, μεταξύ άλλων, ότι οι εταιρείες θα πρέπει να είναι σε θέση να αυτορυθμίζονται. Ορισμένες νεοφυείς εταιρείες τεχνητής νοημοσύνης έχουν επίσης προειδοποιήσει ότι περισσότερες ρυθμίσεις ενδέχεται να δυσκολέψουν τις μικρότερες εταιρείες να ανταγωνιστούν μεγαλύτερους αντιπάλους.
Οι παραβιάσεις του Gemini «αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν υπεύθυνα», δήλωσε η Χέδερ Άντκινς, αντιπρόεδρος μηχανικής ασφάλειας της Google.
Οι άλλες δύο παραβιάσεις από το Gemini σημειώθηκαν όταν το μοντέλο πραγματοποίησε αναζητήσεις στο διαδίκτυο χρησιμοποιώντας το όνομα της εταιρείας. Η Άντκινς δήλωσε ότι αυτό οδήγησε το μοντέλο σε δημόσια διαδικτυακά αποθετήρια, όπου υπήρχαν διαπιστευτήρια που ανήκαν σε άλλες εταιρείες και τα οποία χρησιμοποίησε για να αποκτήσει πρόσβαση σε περισσότερα συστήματα.
«Και στις τρεις περιπτώσεις, το μοντέλο σταμάτησε», δήλωσε η Άντκινς. «Διασφαλίσαμε ότι οι τρεις εταιρείες ενημερώθηκαν». Ο εκπρόσωπος της Irregular, Γιόζεφ Λάορ, δήλωσε ότι η εταιρεία «ανέλαβε άμεσα δράση και όλα τα γνωστά προβλήματα από την πλευρά μας είχαν αντιμετωπιστεί και επιλυθεί εδώ και εβδομάδες».