Elezioni Usa, l’ombra dei deepfake: come individuare video e foto falsi

La manipolazione delle informazioni ha raggiunto nuovi livelli di sofisticazione grazie all’intelligenza artificiale. Con l’avvicinarsi delle elezioni presidenziali negli Stati Uniti, la minaccia dei deepfake – contenuti multimediali artificialmente generati o manipolati – sta diventando sempre più preoccupante. Un recente articolo del Washington Post ha esplorato questa problematica, mettendo in luce le sfide che la società deve affrontare per distinguere il vero dal falso.

AI ed elezioni Usa, i timori

L’IA sta inondando il web di contenuti generati artificialmente, rendendo sempre più difficile discernere ciò che è autentico. Dagli attacchi politici alle campagne di disinformazione, i deepfake stanno diventando uno strumento potente nelle mani di chi vuole manipolare l’opinione pubblica. Un esempio eclatante è stato un video manipolato di Kamala Harris, che sembrava farfugliare in modo incoerente durante un discorso. Il video, condiviso su X (ex Twitter), ha rapidamente ottenuto oltre 2 milioni di visualizzazioni, dimostrando quanto velocemente la disinformazione possa diffondersi.

Come individuare i deepfake

Per contrastare questa minaccia, sono stati sviluppati strumenti di rilevamento dei deepfake. Questi software utilizzano algoritmi avanzati per analizzare vari aspetti dei contenuti multimediali:

1. Analisi facciale: esaminano l’area intorno al viso per individuare segni di manipolazione.
2. Movimento delle labbra: cercano movimenti anomali o posizioni innaturali delle labbra.
3. Analisi audio: scansionano le frequenze vocali, le pause e le balbuzie insolite.
4. Rumore visivo: esaminano i pattern di “rumore” visivo a livello di pixel.
5. Flusso ottico: analizzano il movimento dei pixel tra i fotogrammi del video.
6. Tecniche di diffusione: tentano di ricreare l’immagine utilizzando tecniche di IA per confrontarla con l’originale.
7. Pattern a scacchiera: cercano segni caratteristici delle vecchie tecniche di generazione di immagini.

Limitazioni e sfide

Tuttavia, gli strumenti di rilevamento dei deepfake presentano significative limitazioni. Uno studio condotto da università e aziende negli Stati Uniti, Australia e India ha rivelato che l’accuratezza di questi strumenti varia dal 25% all’82%. Questo significa che spesso identificano erroneamente clip autentiche come false e viceversa.

Questi strumenti hanno difficoltà nel rilevare anomalie nella fisica dell’illuminazione o nel movimento del corpo. Sono anche meno accurati quando si tratta di immagini di persone con la pelle scura e possono essere ingannati da semplici tecniche di manipolazione come la sfocatura o la compressione dei file.

Un altro problema è che i creatori di deepfake sono sempre un passo avanti alla tecnologia di rilevamento, sviluppando costantemente nuove tecniche per eludere i controlli.

Implicazioni politiche e sociali

La minaccia dei deepfake ha attirato l’attenzione dei legislatori a livello globale. L’Unione Europea, con la sua pionieristica legislazione sull’IA, sta cercando di arginare l’impatto delle immagini false attraverso mandati che aiuterebbero il pubblico a identificare i deepfake, anche attraverso la tecnologia di rilevamento.

Negli Stati Uniti, si stanno facendo pressioni sull’industria tecnologica affinché investa in nuovi modi per rilevare i contenuti generati dall’IA, con l’obiettivo di creare etichette online.

Tuttavia, l’inefficacia degli attuali strumenti di rilevamento solleva preoccupazioni sulla loro reale utilità nel contrastare la disinformazione. La possibilità di etichettare erroneamente contenuti autentici come falsi potrebbe paradossalmente alimentare ulteriori teorie del complotto e sfiducia nei media tradizionali.

Strategie alternative

Data l’inaffidabilità degli strumenti automatizzati, gli esperti suggeriscono di tornare a metodi più tradizionali per identificare i contenuti falsi:

1. Zoom e analisi dettagliata: ingrandire foto e video per controllare anomalie come mani deformi o dettagli di sfondo strani.
2. Ascolto critico: nel caso di audio falsi, prestare attenzione all’assenza di pause naturali e inflessioni vocali che possono rendere una voce robotica.
3. Analisi contestuale: esaminare il contesto più ampio del contenuto, come nel caso del video di Harris dove il leggio riportava il nome dell’account del creatore del deepfake.

Il ruolo delle Tech

Le principali aziende tecnologiche, tra cui OpenAI, Google, Microsoft e Meta, hanno firmato un impegno volontario per sviluppare strumenti che aiutino il pubblico a rilevare le immagini generate dall’IA. Tuttavia, c’è scetticismo sulla fattibilità di questo progetto, con alcuni dirigenti che esprimono dubbi sulla possibilità di realizzarlo efficacemente.

Una delle speranze più grandi dell’industria era il watermarking, un processo che incorpora nelle immagini un marchio invisibile rilevabile solo dai computer. Tuttavia, anche questa tecnica si è dimostrata facilmente manipolabile o duplicabile, confondendo il software destinato a leggerla.

L’incapacità di rilevare con certezza i contenuti generati dall’IA può avere gravi conseguenze nel mondo reale. Un esempio recente è l’immagine virale di un uomo sikh che urinava in una tazza in una stazione di servizio canadese, che ha alimentato una retorica anti-immigrazione. Nonostante il proprietario della stazione di servizio abbia dichiarato che l’incidente non è mai avvenuto, gli strumenti di rilevamento dei deepfake hanno dato risultati contrastanti, aumentando la confusione.

Conclusione

La battaglia contro i deepfake e la disinformazione è lungi dall’essere vinta. Mentre la tecnologia continua a evolversi, è fondamentale adottare un approccio multisfacettato:

1. Educazione mediatica: insegnare al pubblico come riconoscere i segni di manipolazione e promuovere un pensiero critico nei confronti dei contenuti online.
2. Regolamentazione: sviluppare quadri normativi che responsabilizzino le piattaforme social e i creatori di contenuti.
3. Innovazione tecnologica: continuare a investire nella ricerca per migliorare gli strumenti di rilevamento, rendendoli più accurati e resistenti alle tecniche di elusione.
4. Collaborazione internazionale: promuovere lo scambio di informazioni e best practices tra paesi per contrastare la diffusione transnazionale della disinformazione.
5. Responsabilità dei media: incoraggiare i media tradizionali a verificare rigorosamente le fonti e a essere trasparenti sui propri processi di fact-checking.

In conclusione, mentre l’IA continua a plasmare il panorama informativo, la società deve adattarsi rapidamente. La sfida non è solo tecnologica, ma anche sociale e politica. È necessario un impegno collettivo per preservare l’integrità dell’informazione e la fiducia nelle istituzioni democratiche. Solo attraverso una combinazione di consapevolezza pubblica, innovazione tecnologica e regolamentazione oculata possiamo sperare di navigare con successo in questo nuovo e complesso ambiente mediatico.