Την παραίτησή του υπέβαλε ο ερευνητής της Anthropic, Τζέικομπ Κόξον, λόγω ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης.
Την παραίτησή του υπέβαλε ο ερευνητής της Anthropic, Τζέικομπ Κόξον, λόγω ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης. Ο ίδιος προειδοποίησε ότι οι αντίπαλες εταιρείες δεν ενεργούσαν υπεύθυνα «τρέχοντας κατευθείαν στην υπερ-νοημοσύνη και παίζοντας με τις ζωές μας».
Ο 27χρονος Βρετανός, εργαζόταν επί τρία χρόνια στην προεκπαίδευση -το στάδιο όπου τα μοντέλα της τεχνητής νοημοσύνης απορροφούν τεράστιες ποσότητες δεδομένων- πρώτα στην OpenAI και στη συνέχεια, φέτος, στον κύριο ανταγωνιστή της, την Anthropic.
«Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας. Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», υπογράμμισε.
Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τέλος του παιχνιδιού) για να περιγράψουν αυτή την πορεία.
Έκρινε ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, αλλά εκτίμησε ότι καμία εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο μια τεχνητή νοημοσύνη που θα ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από όλες τις εταιρείες.
«Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι», επεσήμανε.
Ο Έβαν Χάμπινγκερ, επικεφαλής της επιστήμης στην Anthropic, υπογράμμισε ότι αυτός και οι συνάδελφοί του «πιστεύουν ακράδαντα ότι η Τεχνητή Νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους» και έδωσε πιθανότητα πάνω από 10% την επόμενη δεκαετία.
Σύμφωνα με τον ίδιο, η εταιρεία «προσπαθεί όσο καλύτερα μπορεί», αλλά δεν έχει ακόμη σχέδιο για να λύσει το ζήτημα της «ευθυγράμμισης για την υπερ-νοημοσύνη» και δεν είναι «σε καλό δρόμο» για να το κάνει.
Σημείωσε ότι οι άνθρωποι που ασχολούνται με την Τεχνητή Νοημοσύνη πιστεύουν ότι θα μπορούσε «να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας» και αυτό δεν ήταν ένα «μαρκετίστικο κόλπο».
Η προειδοποίηση του Χάμπινγκερ και η παραίτηση του Κόξον έρχονται εν μέσω πίεσης από ορισμένους κορυφαίους ερευνητές και στελέχη της Τεχνητής Νοημοσύνης για επιβράδυνση στην ανάπτυξή της.
Μια δήλωση με τίτλο «Pacing the Frontier» υπεγράφη από αρκετές κορυφαίες μορφές της ΑΙ τον Ιούλιο, συμπεριλαμβανομένων των συνιδρυτών της Anthropic, Ντάριο Αμοντέι και Τζάρεντ Κάπλαν, του επικεφαλής επιστήμονα της OpenAI, Τζέικομπ Πατσόκι, του επικεφαλής επιστήμονα της Meta AI, Σέντζια Ζιάο και άλλων.
Ανέφεραν ότι για να «αξιοποιηθούν οι δυνατότητες της Τεχνητής Νοημοσύνης, η βιομηχανία, η κυβέρνηση και η κοινωνία γενικότερα μπορεί να χρειαστούν την επιλογή να κερδίσουν χρόνο για να αντιμετωπίσουν τους αναδυόμενους κινδύνους, να αναπτύξουν μέτρα ασφαλείας και να ενισχύσουν την εποπτεία», αλλά προειδοποίησαν ότι οι εταιρείες αντιμετωπίζουν έντονη ανταγωνιστική πίεση για να το πράξουν μονομερώς.