Η Ρωσία επαλήθευσε επίσημα μια δυστοπική πρόβλεψη σχετικά με την τεχνητή νοημοσύνη (AI): χρησιμοποίησε την τεχνητή νοημοσύνη για να λέει ψέματα καλύτερα, πιο γρήγορα και πιο πιστευτά. Πρόσφατα, το Υπουργείο Δικαιοσύνης των ΗΠΑ, μαζί με ομολόγους του στον Καναδά και την Ολλανδία, εξάλειψαν μια ρωσική φάρμα bot που διέδιδε φιλορωσική προπαγάνδα. Ο διευθυντής του FBI και ο αναπληρωτής γενικός εισαγγελέας σε ένα δελτίο τύπου υπογράμμισαν τη χρήση της τεχνητής νοημοσύνης για τη δημιουργία της φάρμας bot ως μια ανησυχητική νέα εξέλιξη. Αυτό που δεν είπαν, ωστόσο, είναι ότι η Δύση είναι απροετοίμαστη να αμυνθεί έναντι αυτής της νέας απειλής.
Αυτή η ικανότητα επιτρέπει γρήγορες αντιδράσεις σε τεράστια κλίμακα σε εξαιρετικά διχαστικά παγκόσμια γεγονότα. Για παράδειγμα, η ρωσική επιχείρηση θα μπορούσε να επιλέξει να διαδώσει διχαστικά μηνύματα σχετικά με την απόπειρα δολοφονίας του πρώην προέδρου Τραμπ. Στο παρελθόν, αυτό θα ήταν ένα έργο έντασης εργασίας για τη δημιουργία μιας ποικιλίας αξιόπιστων μηνυμάτων που είχαν σχεδιαστεί για να εξοργίσουν και τα δύο άκρα του πολιτικού φάσματος. Τώρα, η τεχνητή νοημοσύνη μπορεί να δημιουργήσει το μήνυμα, να το αλλάξει για διαφορετικά είδη κοινού και να το διανείμει γρήγορα. Η Ρωσία θα μπορούσε να μπει στο κολπο σχεδόν αμέσως.
Η Ρωσία ήταν πάντα στην αιχμή της καινοτομίας στην προπαγάνδα. Από τη διάδοση ισχυρισμών ότι η CIA δημιούργησε το AIDS τη δεκαετία του 1980 και την ενίσχυση των διχασμών σχετικά με τη φυλή και τη θρησκεία στην κοινωνία των ΗΠΑ το 2016 μέχρι την κατακραυγή αντι-Ουκρανικών μηνυμάτων παγκοσμίως σήμερα, η Ρωσία βρίσκει συνεχώς νέους τρόπους για να προωθήσει αφηγήσεις για να αποδυναμώσει τη Δύση.
Η τεχνητή νοημοσύνη έχει πλέον προσφέρει τη δυνατότητα να επεκτείνει σε μεγάλο βαθμό αυτές τις προσπάθειες προπαγάνδας. Καθ’ όλη τη διάρκεια αυτής της εκστρατείας παραπληροφόρησης, η Ρωσία χρησιμοποίησε την τεχνητή νοημοσύνη για να δημιουργήσει πάνω από 1.000 ψεύτικα αμερικανικά προφίλ στα μέσα κοινωνικής δικτύωσης και στη συνέχεια χρησιμοποίησε αυτά τα προφίλ για να διαδώσει αντί-ουκρανικές, φιλορωσικές αφηγήσεις στις Ηνωμένες Πολιτείες. Εν ολίγοις, η Ρωσία χρησιμοποιεί την τεχνητή νοημοσύνη για να λέει ψέματα.
Αυτή η προσπάθεια ξεκίνησε σοβαρά γύρω από την εισβολή στην Ουκρανία. Ένας αναπληρωτής αρχισυντάκτης στο RT, ένα ειδησεογραφικό μέσο που συνδέεται με το Κρεμλίνο που έχει κερδίσει τη φήμη ότι διαδίδει τη διαστρεβλωμένη άποψη του Κρεμλίνου για τον κόσμο, οργάνωσε την ανάπτυξη της φάρμας bot. Το RT εργάστηκε σε συνεργασία με πράκτορες της Ομοσπονδιακής Υπηρεσίας Ασφαλείας (FSB)—ίσως τους πιο επιθετικούς στρατιωτες της προπαγάνδας της Ρωσίας. Τον Απρίλιο του 2022, η FSB αγόρασε την υποδομή για το αγρόκτημα, συμπεριλαμβανομένων των ονομάτων τομέα που εδρεύουν στις ΗΠΑ . Αυτοί οι τομείς φιλοξενούσαν τα ρομπότ με τεχνητή νοημοσύνη και περιλάμβαναν ακόμη και κώδικα που ξεγέλασε τον X (πρώην Twitter) να πιστέψει ότι τα ρομπότ ήταν πραγματικοί άνθρωποι. Στη συνέχεια, στις αρχές του 2023, ένας Ρώσος αξιωματικός της FSB δημιούργησε μια ιδιωτική οργάνωση πληροφοριών για τη διαχείριση της φάρμας bot, χρησιμοποιώντας υπαλλήλους στο RT.
Το αγρόκτημα χρησιμοποίησε το Meliorator – «ένα μυστικό πακέτο λογισμικού βελτιωμένου τεχνητής νοημοσύνης (AI), σύμφωνα με κοινή δήλωση που εκδόθηκε από το FBI και τους συμμάχους των ΗΠΑ – για να δημιουργήσει ένα πλήθος διαδικτυακών προσώπων. Ένα εργαλείο ανοιχτού κώδικα που ονομάζεται Faker δημιούργησε φωτογραφίες και περιορισμένες βιογραφικές πληροφορίες για αυτά τα πρόσωπα. Μια μορφή ρομπότ σχεδιάστηκε προσεκτικά ώστε να φαίνεται αρκετά αληθινή. Οι προγραμματιστές χρησιμοποίησαν ένα πρόγραμμα ανίχνευσης ιστού για να δημιουργήσουν φαινομενικά αυθεντικά πρόσωπα , τα οποία χρησιμοποιήθηκαν για την ενίσχυση της παραπληροφόρησης που κοινοποιούνταν από άλλους λογαριασμούς. Τα πρόσωπα αντιπροσώπευαν μια σειρά από εθνικότητες. πολλοί παρίσταναν τους Αμερικανούς.
Τα ρομπότ δημοσιεύτηκαν σε μεγάλο βαθμό στο X, αλλά ο κωδικός ήταν ξεκάθαρα γραμμένος για να υπερβαίνει τις πλατφόρμες και τα εθνικά σύνορα. Η κυβερνητική συμβουλή ανέφερε ότι «η ανάλυση του Meliorator έδειξε ότι οι προγραμματιστές σκόπευαν να επεκτείνουν τη λειτουργικότητά του σε άλλες πλατφόρμες μέσων κοινωνικής δικτύωσης». Το έργο διέδωσε παραπληροφόρηση σε πολλές χώρες , όπως η Γερμανία, το Ισραήλ, η Ολλανδία, η Πολωνία, η Ισπανία, η Ουκρανία και οι Ηνωμένες Πολιτείες. Οι συμμαχικές κυβερνήσεις αναφέρουν ότι το εργαλείο είναι ικανό να δημιουργήσει πειστικές προσωπικότητες σε μεγάλους αριθμούς, χρησιμοποιώντας αυτές τις προσωπικότητες για τη δημοσίευση αξιόπιστων πληροφοριών, ενισχύοντας μηνύματα από άλλα πρόσωπα bot και διατυπώνοντας τα δικά τους μηνύματα προσαρμοσμένα στα προφανή συμφέροντα του ψεύτικου ανθρώπου.
Αυτή η εξέλιξη ήταν προβλέψιμη, αλλά οι Ηνωμένες Πολιτείες ήταν ακόμη απροετοίμαστες να την αντιμετωπίσουν. Ήταν προβλέψιμο στο ότι βρίσκεται στη συμβολή δύο γεγονότων: Πρώτον, η Ρωσία διεξάγει έναν πόλεμο εναντίον της Ουκρανίας που χαρακτηρίζεται τόσο κινητική όσο και πληροφοριακή μάχη. Δεύτερον, είναι έτος εκλογών στις ΗΠΑ, όταν η Ρωσία στο πρόσφατο παρελθόν έχει εντείνει σημαντικά τις προπαγανδιστικές της προσπάθειες. Έτσι, υπήρχε κάθε λόγος να αναμένουμε ότι η Ρωσία θα χρησιμοποιούσε το 2024 για να πιέσει την αιχμή της τεχνολογίας προπαγάνδας.
Παρά αυτή την προχωρημένη προειδοποίηση, οι προσπάθειες των ΗΠΑ να αμυνθούν από εκστρατείες παραπληροφόρησης παραμένουν στην καλύτερη περίπτωση αναιμικές. Το Global Engagement Center στο State Department και το Foreign Malign Influence Center στο Γραφείο του Διευθυντή της Εθνικής Υπηρεσίας Πληροφοριών είναι μικρά και υποστελεχωμένα. Οι κανόνες σχετικά με το τι είναι και τι δεν επιτρέπεται να κάνουν οι κυβερνητικές υπηρεσίες των ΗΠΑ (USG) στον χώρο πληροφοριών είναι ασαφείς και μερικές φορές αντιφατικοί. Στην πραγματικότητα, η USG εξαρτάται σε μεγάλο βαθμό από τη βιομηχανία για να κρατήσει μακριά τις εκμεταλλεύσεις bot, και ακόμη και η ικανότητα της USG να συνομιλεί με εταιρείες κοινωνικών μέσων για αυτά τα θέματα ήταν πρόσφατα αντικείμενο έντονης νομικής συζήτησης. Το άθροισμα αυτών των προσπαθειών είναι ότι οι Ηνωμένες Πολιτείες σέρνονται…
Η δημιουργία εξαιρετικά προσαρμοσμένης προπαγάνδας είναι πλέον γρήγορη και εύκολη. Η Ρωσία απέδειξε ότι η τεχνητή νοημοσύνη μπορεί να δημιουργήσει ρεαλιστικά φαινομενικά πρόσωπα, να οδηγήσει περιεχόμενο σε κλίμακα και να ξεγελάσει τις πλατφόρμες ώστε να πιστέψει ότι οι περσόνες δεν είναι καθόλου bots. Σε άλλα δύο χρόνια, η τελευταία λέξη της τεχνολογίας στην τεχνητή νοημοσύνη θα είναι τέτοια που ένα ρομπότ θα μπορεί να αναγνωρίσει τα μηνύματα που αντηχούν καλύτερα σε έναν μικροπληθυσμό και στη συνέχεια να τροφοδοτήσει αυτόν τον πληθυσμό ό,τι θέλει να ακούσει. Το ωφέλιμο φορτίο των πληροφοριών θα είναι τόσο τοπικό και αυθεντικό όσο μια συνομιλία πάνω από το φράχτη με έναν γείτονα.
Εκεί που οδήγησε η Ρωσία, θα ακολουθήσουν και άλλες. Οι δυτικοί σύμμαχοι είναι βέβαιο ότι θα δουν πολλές άλλες προσπάθειες από υπηρεσίες πληροφοριών, μεσίτες πληροφοριών, ακόμη και ιδιώτες πολίτες να χρησιμοποιήσουν την τεχνητή νοημοσύνη για να διαδώσουν παραπληροφόρηση, συχνά για να αποδυναμώσουν την αποφασιστικότητα εκείνων που θα αντισταθούν σε αυταρχικούς και νταήδες.
Οι αμυντικές προσπάθειες θα πρέπει να προχωρήσουν πιο γρήγορα: Οι εταιρείες μέσων κοινωνικής δικτύωσης θα πρέπει να αξιοποιήσουν την τεχνητή νοημοσύνη για να εντοπίζουν αυτόματα την ανώμαλη συμπεριφορά και χρειάζονται ομάδες ανθρώπων για να διερευνήσουν τι επισημαίνουν τα συστήματα AI. Οι Ηνωμένες Πολιτείες και οι συμμαχικές κυβερνήσεις θα πρέπει να υποστηρίξουν την έρευνα σχετικά με τον τρόπο χρήσης της τεχνητής νοημοσύνης για άμυνα έναντι της τεχνητής νοημοσύνης. Εν τω μεταξύ, το Κογκρέσο θα πρέπει να παρέχει περισσότερη ελευθερία και περισσότερα εργαλεία στα μέρη της κυβέρνησης που πολεμούν την προπαγάνδα, ιδίως υποστηρίζοντας τις προσπάθειες εμβολιασμού και εκπαίδευσης του κοινού σχετικά με το πώς να αποφευχθεί η εξαπάτηση. Μόνο ένας πολύ δύσπιστος πληθυσμός, διαβάζοντας οτιδήποτε βλέπει στα μέσα κοινωνικής δικτύωσης επικριτικά, μπορεί να λιμοκτονήσει τους αγρότες-ρομπότ που επιδιώκουν να τους διχάσουν.