Μία νέα πλατφόρμα λογισμικού και σχεδιασμού συστημάτων αναφοράς για την ενίσχυση της ασφάλειας της τεχνητής νοημοσύνης και κυρίως τον περιορισμό των αυτόνομων πρακτόρων ΑΙ από να «ξεφεύγουν» από τα ψηφιακά τους όρια και να θέτουν σε κίνδυνο στην ασφάλεια άλλων εταιρειών και όχι μόνο, ανακοίνωσε σήμερα η Nvidia.
Μία νέα πλατφόρμα λογισμικού και σχεδιασμού συστημάτων αναφοράς για την ενίσχυση της ασφάλειας της τεχνητής νοημοσύνης και κυρίως τον περιορισμό των αυτόνομων πρακτόρων ΑΙ από να «ξεφεύγουν» από τα ψηφιακά τους όρια και να θέτουν σε κίνδυνο στην ασφάλεια άλλων εταιρειών και όχι μόνο, ανακοίνωσε σήμερα η Nvidia.
Η κυκλοφορία της πλατφόρμας έρχεται μετά την αποκάλυψη πρόσφατων περιστατικών από εταιρείες όπως οι OpenAI, Anthropic, Meta και Google στα οποία τα μοντέλα τεχνητής νοημοσύνης τους κατέγραψαν… παραβατικές συμπεριφορές, καθώς προσπάθησαν να χακάρουν άλλες εταιρείες και να αποκτήσουν πρόσβαση στα συστήματα υπολογιστών τους.
Εκπρόσωπος της Nvidia δήλωσε στους δημοσιογράφους την Κυριακή ότι η πλατφόρμα της θα μπορούσε να είχε αποτρέψει το περιστατικό HuggingFace της OpenAI τον Ιούλιο. Σημειώνεται πως τότε μοντέλα OpenAI διέφυγαν από τον περιορισμό, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασαν λογαριασμούς χρηστών του Hugging Face, «σαρώνοντας» την πλατφόρμα ανοιχτού κώδικα.
«Κάθε περιστατικό ασφαλείας είναι μοναδικό και πρέπει να τα εξετάσουμε όλα λεπτομερώς», δήλωσε ο Justin Boitano, αντιπρόεδρος της τεχνητής νοημοσύνης επιχειρήσεων στη Nvidia. «Από όσο γνωρίζουμε, η Hugging Face ανέφερε ότι πάνω από 17.000 πράκτορες επιτέθηκαν στην υποδομή τους για ημέρες και εβδομάδες», σημείωσε.
Η Nvidia βρίσκεται στο επίκεντρο της άνθησης της γενετικής τεχνητής νοημοσύνης από την κυκλοφορία του ChatGPT πριν από σχεδόν τέσσερα χρόνια, καθώς οι μονάδες επεξεργασίας γραφικών του κατασκευαστή τσιπ είναι κρίσιμες για την ανάπτυξη μεγάλων γλωσσικών μοντέλων και για τις υπηρεσίες τεχνητής νοημοσύνης που προσφέρουν οι υπερεπεκτάσεις.
Ωστόσο, ο Διευθύνων Σύμβουλος Τζένσεν Χουάνγκ έχει αναδειχθεί πρόσφατα ως βασική φωνή στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης, υποστηρίζοντας ότι πολλά ζητήματα ασφάλειας είναι ζητήματα μηχανικής που μπορούν να λυθούν μέσω της επιστήμης των υπολογιστών και της ανάπτυξης προϊόντων.
«Πρέπει να σκεφτείτε τι θα μπορούσατε να είχατε κάνει, ποια είναι η λύση γι’ αυτό», δήλωσε ο Χουάνγκ σε podcast των New York Times που δημοσιεύθηκε την περασμένη εβδομάδα, αναφερόμενος σε πρόσφατα περιστατικά. «Στο μέλλον, βελτιώστε τη διαδικασία σας ώστε να αποφύγετε να συμβεί ξανά αυτό».
Ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, πυροδότησε θύελλα αντιδράσεων στη βιομηχανία πριν από δύο εβδομάδες, προτρέποντας τους προγραμματιστές μοντέλων τεχνητής νοημοσύνης να επιβραδύνουν τον ρυθμό προόδου τους λόγω φόβων ότι τα μοντέλα θα ξεφύγουν από τον έλεγχο, ένα επιχείρημα που υποστηρίχθηκε από τον Σαμ Άλτμαν της OpenAI και τον Έλον Μασκk της SpaceX.