Το ενημερωτικό δελτίο της εταιρείας για την IPO, το οποίο εξέτασε το Reuters, επισημαίνει κινδύνους που σχετίζονται με τα μοντέλα τεχνητής νοημοσύνης της.
Toν κώδωνα του κινδύνου στους υποψήφιους επενδυτές στην αρχική δημόσια εγγραφή (IPO) της ότι η προηγμένη τεχνητή νοημοσύνη (AI) θα μπορούσε να ενέχει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα» σχεδιάζει να κρούσει και η Anthropic.
Το ενημερωτικό δελτίο της εταιρείας για την IPO, το οποίο εξέτασε το Reuters, επισημαίνει κινδύνους που σχετίζονται με τα μοντέλα τεχνητής νοημοσύνης της. Η εταιρεία ανέφερε ότι τα μοντέλα αυτά θα μπορούσαν να επιδείξουν «συμπεριφορές αυτοσυντήρησης», συμπεριλαμβανομένων προσπαθειών «αντίστασης στον τερματισμό λειτουργίας», «απόκρυψης ή χειραγώγησης πληροφοριών» και συμπεριφοράς που «προσομοιάζει με εκβιασμό».
- Μπιλ Γκέιτς: «Η Τεχνητή Νοημοσύνη μπορεί να προκαλέσει 1 δισ. θανάτους ανθρώπων»
«Η ανάπτυξη εξαιρετικά προηγμένων πλατφορμών και εφαρμογών, καθώς και η επέκταση χρήσης τους, θα μπορούσαν να αυξήσουν περαιτέρω τον κίνδυνο πρόκλησης βλάβης από τα μοντέλα μας», ανέφερε η Anthropic στο έγγραφο.
Αν και οι εισηγμένες εταιρείες περιγράφουν συνήθως στους επενδυτές τους κινδύνους που σχετίζονται με τα προϊόντα τους, ελάχιστες –αν όχι καμία– έχουν εκδώσει προειδοποιήσεις που να υποδηλώνουν ότι η τεχνολογία τους θα μπορούσε να προκαλέσει ενδεχόμενο αφανισμό του ανθρώπινου είδους.
Η Anthropic τόνισε τόσο τις μετασχηματιστικές δυνατότητες της τεχνητής νοημοσύνης -όπως εκείνες της βιομηχανοποίησης και του ηλεκτρισμού- όσο και τη μη αναστρέψιμη βλάβη που θα μπορούσε να προκληθεί σε περίπτωση κακού χειρισμού της.
- Η AI ξέφυγε ή απλώς μεγάλωσε;
Ο Έβαν Χάμπιντζερ, ερευνητής ασφάλειας της Anthropic, εκτίμησε ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να προκαλέσει τον θάνατο ανθρώπων εντός της επόμενης δεκαετίας, υιοθετώντας μια άποψη που είχε εκφράσει και ένας πρώην συνάδελφός του, ο Τζέικομπ Κόξον.
Αφιέρωσε περίπου 80 σελίδες -από τις 261 του κύριου μέρους του ενημερωτικού δελτίου της- στην παράθεση των παραγόντων κινδύνου. Πρόκειται για αριθμό σχεδόν διπλάσιο σε σχέση με τις 48 σελίδες που αφιερώθηκαν στην περιγραφή της επιχειρηματικής της δραστηριότητας.
Συγκριτικά, η SpaceX -η οποία κατέχει την xAI- αφιέρωσε μόλις 38 περίπου σελίδες, από το κύριο σώμα των 277 σελίδων του ενημερωτικού της δελτίου, στους παράγοντες κινδύνου.