Inchiesta: le Forze Speciali Statunitensi vogliono utilizzare i deepfake per le psyop

Il governo statunitense ha avvertito per anni che i deepfakes avrebbero potuto destabilizzare le società democratiche.

Il deepfake è una tecnica che utilizza l’intelligenza artificiale che, tramite la tecnologia di apprendimento automatico Generative Adversarial Networks (GANs), arriva a modificare video esistenti con video o immagini originali. Il termine deepfake, scrive un sito specializzato, “deriva dalla tecnologia sottostante "deep learning", che è una forma di intelligenza artificiale. Gli algoritmi di deep learning, che insegnano da soli a risolvere i problemi quando vengono forniti grandi set di dati, vengono utilizzati per scambiare volti nei contenuti video e digitali per creare supporti falsi dall'aspetto realistico”.

Il campo di applicazione di questa tecnica è molto variegato: accanto a video creati come satira verso personaggi pubblici, specialmente con risvolti politici, sono sempre più frequenti i casi di deepfake utilizzati per perpetrare veri e propri atti criminali informatici, quali ad esempio situazioni di revenge porn o di cyberbullismo.

L’uso sconsiderato dei deepfake in Italia ha indotto il Garante della Privacy a predisporre una scheda informativa per sensibilizzare gli utenti sui rischi connessi agli usi malevoli di questa nuova tecnologia, sempre più frequenti, anche a causa della diffusione di app e software che rendono possibile realizzare deepfake, persino molto ben elaborati e sofisticati, utilizzando un comune smartphone.

In questo contesto ancora poco regolamentato, il sito The Intercept, “un'organizzazione giornalistica pluripremiata che si dedica a responsabilizzare i potenti attraverso un giornalismo impavido e contraddittorio”, ha pubblicato un paio di settimane fa un’inchiesta che riguarda l’USSOCOM, ovvero United States Special Operations Command traducibile come Comando per le Operazioni Speciali degli Stati Uniti, responsabile di alcune delle attività militari più segrete del Paese.

Nell’articolo pubblicato a firma di Sam Biddle, celebre reporter che si occupa di abusi di potere e di malversazioni nel settore tecnologico, si legge “come l’USSOCOM, secondo i documenti di appalto federali esaminati, si stia preparando a condurre campagne di propaganda e inganno online utilizzando video deepfake”.

I piani, che descrivono anche l'hacking di dispositivi connessi a Internet per intercettare al fine di valutare la suscettibilità delle popolazioni internazionali alla propaganda, arrivano in un momento di intenso dibattito globale sulle campagne di "disinformazione" tecnologicamente sofisticate, sulla loro efficacia e sull'etica del loro utilizzo.

Mentre il governo degli Stati Uniti mette abitualmente in guardia contro il rischio di deepfakes e lavora apertamente per costruire strumenti per contrastarli, il documento del Comando per le Operazioni Speciali, o SOCOM, rappresenta un caso quasi inedito in cui il governo americano - o qualsiasi altro governo - segnala apertamente il suo desiderio di usare la tecnologia altamente controversa in modo offensivo.

Le aspirazioni del SOCOM in materia di propaganda di prossima generazione sono delineate in un documento di appalto che elenca le capacità ricercate per il prossimo futuro e sollecita le offerte di soggetti esterni che ritengono di essere in grado di costruirle.

"Quando si tratta di disinformazione, il Pentagono non dovrebbe combattere il fuoco con il fuoco", ha dichiarato a The Intercept Chris Meserole, capo della Brookings Institution's Artificial Intelligence and Emerging Technology Initiative. "In un momento in cui la propaganda digitale è in aumento a livello globale, gli Stati Uniti dovrebbero fare tutto il possibile per rafforzare la democrazia costruendo un sostegno per le nozioni condivise di verità e realtà. I deepfakes fanno il contrario. Mettendo in dubbio la credibilità di tutti i contenuti e le informazioni, siano essi reali o sintetici, in ultima analisi erodono le fondamenta della democrazia stessa".

Meserole ha aggiunto: "Se i deepfake verranno sfruttati per operazioni militari e di intelligence mirate, il loro utilizzo deve essere soggetto a revisione e supervisione".

Il documento di lancio, pubblicato per la prima volta dalla Direzione della Scienza e della Tecnologia di SOCOM nel 2020, ha stabilito una lista dei desideri di giocattoli di nuova generazione per il commando delle forze speciali del 21° secolo, una litania di gadget e strumenti futuristici che aiuteranno i soldati più d'élite del paese a cacciare e uccidere i loro bersagli in modo più efficace usando laser, robot, olografi e altro hardware sofisticato.

Lo scorso ottobre, SOCOM ha rilasciato silenziosamente una versione aggiornata della sua lista dei desideri con una nuova sezione: "Tecnologie avanzate da utilizzare nelle operazioni di supporto alle informazioni militari (MISO)", un eufemismo del Pentagono per la sua propaganda globale.

Il paragrafo aggiunto espone il desiderio di SOCOM di ottenere mezzi nuovi e migliorati per eseguire "operazioni di influenza, inganno digitale, interruzione della comunicazione e campagne di disinformazione a livello tattico e operativo". SOCOM sta cercando "una capacità di nuova generazione per raccogliere dati disparati attraverso flussi di informazioni pubblici e open source come social media, media locali, ecc. Per consentire a MISO di creare e influenzare direttamente le operazioni".

Il SOCOM combatte tipicamente nell'ombra, ma la sua reputazione pubblica e la sua impronta globale hanno un peso notevole. Composto dalle unità d'élite dell'esercito, del corpo dei marine, della marina e dell'aeronautica, SOCOM guida le operazioni militari più delicate della nazione più letale del mondo.

Sebbene le forze speciali americane siano note per le loro imprese eclatanti, come l'uccisione di Osama bin Laden da parte dei Navy SEAL, la loro storia è fatta di missioni segrete, sotterfugi, sabotaggi e campagne di distruzione. Le ambizioni di disinformazione della "prossima generazione" di SOCOM sono solo una parte di una lunga e vasta storia di tentativi di inganno da parte degli apparati militari e di intelligence statunitensi.

Il comando delle operazioni speciali, che accetta proposte su queste capacità fino al 2025, non ha risposto a una richiesta di commento.

Documento di appalto SOCOM statunitense che annuncia il desiderio di utilizzare i deepfake(23 pagine totali)

Nonostante il Comando per le Operazioni Speciali coordini da anni le "operazioni di influenza" straniere, queste campagne di inganno sono state sottoposte a un nuovo esame. A dicembre, sempre The Intercept ha riferito che il SOCOM aveva convinto Twitter, in violazione delle sue politiche interne, a consentire una rete di account fasulli che diffondevano notizie fasulle di dubbia accuratezza, tra cui un'affermazione secondo cui il governo iraniano stava rubando gli organi di civili afghani. Sebbene l'offensiva di propaganda basata su Twitter non abbia utilizzato deepfakes, i ricercatori hanno scoperto che gli appaltatori del Pentagono hanno impiegato avatar generati dall'apprendimento automatico per conferire agli account falsi un certo grado di realismo.

Provocatoriamente, il documento aggiornato rivela che il SOCOM vuole potenziare questi sforzi di inganno su Internet con l'uso di video deepfake di "ultima generazione", un metodo sempre più efficace per generare falsi video digitali realistici utilizzando l'apprendimento automatico. Le forze speciali userebbero questi filmati falsi per "generare messaggi e influenzare le operazioni attraverso canali non tradizionali", aggiunge il documento.

Sebbene i deepfakes siano rimasti in gran parte un alimento per l'intrattenimento e la pornografia, il potenziale per applicazioni più terribili è reale. All'inizio dell'invasione dell'Ucraina da parte della Russia, un deepfake scadente del presidente ucraino Volodymyr Zelenskyy che ordinava alle truppe di arrendersi ha iniziato a circolare sui canali dei social media. A parte le considerazioni etiche, la legalità dei deepfake militarizzati in un conflitto, che rimane una questione aperta, non viene affrontata nel documento del SOCOM.

Come per le campagne di "disinformazione" dei governi stranieri, gli Stati Uniti hanno passato gli ultimi anni a mettere in guardia contro la potente minaccia alla sicurezza nazionale rappresentata dai deepfake. L'uso di deepfakes per ingannare deliberatamente, avvertono regolarmente le autorità governative , potrebbe avere un effetto profondamente destabilizzante sulle popolazioni civili ad essi esposte.

A livello federale, tuttavia, la conversazione si è incentrata esclusivamente attorno alla minaccia che i deepfake prodotti all’estero potrebbero rappresentare per gli Stati Uniti e non viceversa. I documenti contrattuali riportati in precedenza mostrano che SOCOM ha cercato tecnologie per rilevare campagne Internet arricchite da deepfake, una tattica che ora vuole scatenare per conto proprio.

Forse altrettanto provocatoria della menzione dei deepfake è la sezione che segue, in cui si nota che il SOCOM vuole perfezionare la sua propaganda offensiva, apparentemente spiando i destinatari attraverso i loro dispositivi connessi a Internet.

Descritta come una "capacità di nuova generazione di 'impadronirsi' dei dispositivi Internet of Things (loT) per raccogliere [sic] dati e informazioni dalle popolazioni locali per consentire la scomposizione di quale messaggistica potrebbe essere popolare e accettata attraverso il vaglio dei dati una volta ricevuti", il documento afferma che la capacità di intercettare gli obiettivi della propaganda "consentirebbe al MISO di creare e promuovere messaggi che potrebbero essere più facilmente ricevuti dalla popolazione locale". Nel 2017, WikiLeaks ha pubblicato file della CIA rubati che rivelavano una capacità approssimativamente simile di dirottare il segnale nei dispositivi domestici.

Sebbene le principali piattaforme social come Facebook hanno regole contro i deepfake, data la natura intrinsecamente fluida e interconnessa di Internet, i deepfake diffusi dal Pentagono potrebbero anche essere diffusi in patria.

"Se si tratta di un ambiente mediatico non tradizionale, potrei immaginare che la forma di manipolazione arrivi piuttosto lontano prima di essere fermata o corretta da una sorta di autorità locale", ha dichiarato Max Rizzuto, ricercatore sui deepfakes presso il Digital Forensic Research Lab dell'Atlantic Council. "La capacità di danneggiare la società è certamente presente".

L'interesse del SOCOM per il dispiegamento di campagne di disinformazione deepfake segue gli ultimi anni di ansia internazionale per i video contraffatti e gli inganni digitali da parte di avversari internazionali. Sebbene ci siano scarse prove che gli sforzi della Russia per influenzare digitalmente le elezioni del 2016 abbiano avuto un effetto significativo, il Pentagono ha espresso l'interesse a raddoppiare le proprie capacità di propaganda digitale, per evitare di rimanere indietro, e il SOCOM ha assunto un ruolo cruciale.

In un'audizione dell'aprile 2018 della Commissione per i servizi armati del Senato, il generale Kenneth Tovo del Comando per le operazioni speciali dell'esercito ha assicurato ai senatori riuniti che le forze speciali americane stanno lavorando per colmare il divario della propaganda.

"Abbiamo investito abbastanza pesantemente nei nostri operatori psy-op", ha detto, "sviluppando nuove capacità, in particolare per affrontare lo spazio digitale, l'analisi dei social media e una serie di strumenti diversi che sono stati messi in campo dal SOCOM che ci permettono di valutare lo spazio dei social media, valutare il dominio cibernetico, vedere l'analisi delle tendenze, dove si sta muovendo l'opinione, e quindi come influenzare potenzialmente quell'ambiente con i nostri prodotti".

Mentre la propaganda militare è antica come la guerra stessa, i deepfakes sono stati spesso discussi come un pericolo tecnologico sui generis, la cui esistenza rappresenta una minaccia per la civiltà.

In un'audizione del 2018 della Commissione Intelligence del Senato, in cui si discuteva della nomina di William Evanina a capo del National Counterintelligence and Security Center, il senatore Marco Rubio, R-Fla, ha detto a proposito dei deepfakes: "Credo che questa sia la prossima ondata di attacchi contro l'America e le democrazie occidentali". Evanina, in risposta, ha rassicurato Rubio che la comunità di intelligence statunitense sta lavorando per contrastare la minaccia dei deepfakes.

Secondo quanto riferito, anche il Pentagono è alacremente al lavoro per contrastare la minaccia dei deepfake stranieri. Secondo un rapporto di notizie del 2018 , la Defense Advanced Research Projects Agency, la divisione di ricerca tecnologica dell'esercito, ha speso decine di milioni di dollari per sviluppare metodi di rilevamento delle immagini deepfake. Sforzi simili  sono in corso in tutto il Dipartimento della Difesa.

Nel 2019, Rubio e il senatore Mark Warner, D-Va, hanno scritto a 11 società americane di Internet esortandole a redigere politiche per individuare e rimuovere i video deepfake. "Se il pubblico non può più fidarsi di eventi o immagini registrate", si legge nella lettera, "questo avrà un impatto corrosivo sulla nostra democrazia".

All'interno del National Defense Authorization Act per l'anno fiscale 2021 c'era una direttiva che incaricava il Pentagono di completare una "valutazione di intelligence della minaccia rappresentata da governi stranieri e attori non statali che creano o utilizzano media manipolati da macchine (comunemente chiamati "deep fake")", compreso "come tali media sono stati usati o potrebbero essere usati per condurre una guerra di informazione".

Solo un paio d'anni dopo, le forze speciali americane sembrano prepararsi a condurre la stessa cosa.

"È una tecnologia pericolosa", ha detto Rizzuto, il ricercatore dell'Atlantic Council.

"Non si può moderare questa tecnologia come si fa con altri tipi di contenuti su Internet", ha detto. "I deepfakes come tecnologia hanno più in comune con le conversazioni sulla non proliferazione nucleare".

I deepfakes sono emersi più di recente durante l'invasione russa dell'Ucraina, con video falsi che mostrano i presidenti ucraino e russo che si arrendono l'uno all'altro.

In un’epoca dove la vera guerra alla fine risulta essere quella della propaganda e dell’informazione, la volontà di investire in queste tecnologie appare decisamente inquietante.

****

Liberamente tratto da Fonte (traduzione a cura di Rossella Fidanza)

****

© Riproduzione riservata

Se volete sostenermi o offrirmi un caffè potete farlo qui, grazie.