Η εταιρεία ΑΙ έκανε γνωστές περιπτώσεις που το μοντέλο της Claude χρησιμοποιήθηκε από παράγοντες όπως το Ιράν και η Υεμένη για να πλήξουν αμερικανικές δυνάμεις ή και για άλλες κακόβουλες ενέργειες.
Η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης ξέσπασε αυτή την εβδομάδα, με αφορμή προειδοποιήσεις ότι η τεχνολογία θα μπορούσε κάποια μέρα να καταστρέψει την ανθρωπότητα.
Η τελευταία έκθεση της Anthropic για τις απειλές προσφέρει ένα πιο άμεσο καμπανάκι κινδύνου: τα σημερινά μοντέλα ήδη βοηθούν αντιπάλους των ΗΠΑ να αναπτύσσουν drones καμικάζι, να εντοπίζουν αντιφρονούντες και να διεξάγουν επικίνδυνη έρευνα για ιούς.
- Άλτμαν (OpenAI): Δεν θα γίνει IPO το 2026 λόγω των ανησυχιών για την ασφάλεια της ΑΙ
Η τεχνητή νοημοσύνη καταρρίπτει εμπόδια που επί μακρόν περιόριζαν τους πιο επικίνδυνους παράγοντες στον κόσμο και αυτός είναι ένας κρίσιμος παράγοντας. Μια χούφτα ανθρώπων μπορεί πλέον να οργανώσει επιχειρήσεις που κάποτε απαιτούσαν ολόκληρες στρατιές κατασκόπων, μηχανικών ή χάκερ.
Η Anthropic βρίσκεται στο επίκεντρο – η εταιρεία τεχνολογίας που επικεντρώνεται στην ασφάλεια και βρίσκεται πίσω από το Claude – ανέφερε ότι πέρασε τους τελευταίους οκτώ μήνες παρακολουθώντας και αποτρέποντας απόπειρες κακόβουλης χρήσης των μοντέλων της. Μεταξύ των πιο ανησυχητικών περιπτώσεων που εντόπισε:
Μια επιχείρηση που συνδεόταν με το Ιράν χρησιμοποίησε το Claude για να στοχοποιήσει αμερικανικές ναυτικές δυνάμεις.
Το Claude βοήθησε στη δημιουργία εγχειριδίων στοχοποίησης, στα οποία καταγράφονταν οι θέσεις πλοίων, το αμερικανικό προσωπικό, αεροσκάφη και στοιχεία αναγνώρισης πλοίων, δορυφορικές εικόνες και ιστοσελίδες που αποκάλυπταν κινήσεις του πολεμικού ναυτικού.
Άλλες επιχειρήσεις που συνδέονταν με το Ιράν χρησιμοποίησαν το μοντέλο για προπαγάνδα, εσωτερική παρακολούθηση και στοχοποίηση στελεχών της αντιπολίτευσης και μειονοτήτων.
- Αμοντέι (Anthropic): Ανάγκη επιβράδυνσης του ρυθμού ανάπτυξης των μοντέλων AI – Σοβαροί οι κίνδυνοι
Το Claude λειτούργησε ως μηχανικός για μια ομάδα στην Υεμένη που κατασκεύαζε πυραύλους.
Μια ομάδα κατασκευής όπλων στη βόρεια Υεμένη βασίστηκε στο Claude Code για την ανάπτυξη λογισμικού καθοδήγησης για ρουκέτες και πυραύλους.
Η ομάδα χρησιμοποιούσε ξεχωριστά αντίγραφα του μοντέλου για να γράφει κώδικα, να διεξάγει έρευνα και να ελέγχει τη δουλειά των άλλων. Αφού μια δοκιμή κατευθυνόμενης ρουκέτας φαίνεται ότι απέτυχε, επέστρεψαν στο Claude μέσα σε λίγες ώρες για να διαγνώσουν τι πήγε στραβά.
Μια επιχείρηση που συνδεόταν με την Κίνα χρησιμοποίησε το Claude για να εντοπίζει Ουιγούρους.
Η Anthropic αναφέρει ότι ο συγκεκριμένος παράγοντας εξέτασε περισσότερες από 100 ομάδες στο WhatsApp και δεκάδες κανάλια στο Telegram, προκειμένου να εντοπίσει Ουιγούρους στη Συρία που θα μπορούσαν να πιεστούν ή να πληρωθούν για να αναφέρουν πληροφορίες σχετικά με ένοπλες ομάδες Ουιγούρων.
- -: Θα πεθάνουμε όλοι από την τεχνητή νοημοσύνη;
Στη συνέχεια, το Claude βοήθησε έναν χειριστή που δεν μιλούσε αραβικά να πραγματοποιήσει μυστικές επαφές στα συριακά αραβικά, μεταφράζοντας τις απαντήσεις και καθοδηγώντας τις προσπάθειες εκμετάλλευσης οικονομικών προβλημάτων, οικογενειακών χωρισμών και συγγενών που εξακολουθούν να βρίσκονται στο Σιντζιάνγκ.
Ένας άνδρας χρησιμοποίησε το Claude για να βοηθήσει στην κατασκευή συστήματος παρακολούθησης 25 εκατομμυρίων τηλεφώνων.
Ένας σύμβουλος στο Μάλι βασίστηκε στο Claude ως βασικό τεχνικό εργαλείο για τη δημιουργία ενός συστήματος εθνικής εμβέλειας, ικανού να συλλέγει αρχεία κλήσεων, γραπτά μηνύματα και φωνητικές επικοινωνίες.
Το σύστημα μπορούσε να αναγνωρίζει ανθρώπους από τη φωνή τους ακόμη και όταν χρησιμοποιούσαν διαφορετικές κάρτες SIM, να εντοπίζει χρήστες VPN και να δημιουργεί φακέλους πληροφοριών για οποιονδήποτε αριθμό τηλεφώνου χωρίς δικαστικό ένταλμα.
Το Claude αρνήθηκε να βοηθήσει σε επικίνδυνη έρευνα για ιούς – έτσι το αίτημα υποβλήθηκε σε άλλη τεχνητή νοημοσύνη.
Ερευνητές που χρηματοδοτούνταν μέσω κρατικής επιχορήγησης προσπαθούσαν να τροποποιήσουν τον ιό chikungunya, έναν ιό που μεταδίδεται από κουνούπια, ώστε να εξαπλώνεται ευκολότερα ή να αποφεύγει την άμυνα του ανοσοποιητικού συστήματος. Η έρευνα προοριζόταν για στρατιωτικό ερευνητικό ινστιτούτο.
Το Claude μπλόκαρε τα πιο ευαίσθητα αιτήματα, οπότε η πλατφόρμα τα διοχέτευσε σε ανταγωνιστικό μοντέλο με ασθενέστερες δικλίδες ασφαλείας – μια έντονη υπενθύμιση ότι οι κανόνες ασφαλείας ενός και μόνο εργαστηρίου έχουν περιορισμένη αποτελεσματικότητα.
Αναδυόμενες απειλές
Το συμπέρασμα είναι ότι τα κορυφαία εργαστήρια τεχνητής νοημοσύνης εξελίσσονται σε απρόσμενες υπηρεσίες πληροφοριών από μόνα τους.
Τα ίδια μοντέλα που ενισχύουν τους κακόβουλους παράγοντες μπορούν επίσης να προσφέρουν στους δημιουργούς τους μια πρώιμη εικόνα της κακόβουλης δραστηριότητας – όπως στην περίπτωση της Anthropic, που εντόπισε ρωσικά drones σχεδιασμένα να επιλέγουν ανθρώπινους στόχους χωρίς ανθρώπινη έγκριση.
Αυτό θα μπορούσε να προσφέρει στα κορυφαία εργαστήρια τεχνητής νοημοσύνης μια εξαιρετικά σημαντική εικόνα των αναδυόμενων απειλών, την ίδια στιγμή που η τεχνητή νοημοσύνη επιτρέπει σε πρόχειρα οργανωμένες ομάδες, μεμονωμένους χειριστές και άλλους δύσκολα ανιχνεύσιμους παράγοντες να πραγματοποιούν πολύ πιο εξελιγμένες επιθέσεις.
Επείγον πολιτικό ζήτημα
Η εβδομάδα αυτή έχει σημάνει συναγερμό στην Ουάσινγκτον, καθώς οι νομοθέτες αντιμετωπίζουν ξαφνικά την ασφάλεια της τεχνητής νοημοσύνης ως επείγον πολιτικό ζήτημα.
Μια διακομματική ομάδα βουλευτών της Βουλής των Αντιπροσώπων καλεί τον πρόεδρο της Βουλής Μάικ Τζόνσον να ακυρώσει τη διακοπή των εργασιών του Κογκρέσου έως ότου αναλάβει δράση, ενώ ο γερουσιαστής Μπέρνι Σάντερς — ίσως ο πιο έντονος επικριτής της τεχνητής νοημοσύνης στο Κογκρέσο – θέλει να απαγορευθεί πλήρως η υπερευφυΐα.
Ωστόσο, οι ευρείς ομοσπονδιακοί κανόνες για την ασφάλεια της τεχνητής νοημοσύνης παραμένουν δύσκολο να θεσπιστούν, ιδιαίτερα καθώς ο πρόεδρος Τραμπ απέρριψε την Παρασκευή τους φόβους περί εξαφάνισης της ανθρωπότητας και παρουσίασε ως μεγαλύτερο κίνδυνο το ενδεχόμενο οι ΗΠΑ να χάσουν την κούρσα της τεχνητής νοημοσύνης από την Κίνα.