La minaccia delle immagini satellitari deepfake

THE VERGE / I geografi avvertono che le immagini satellitari deepfake rappresentano una minaccia non così lontana e potrebbero essere usati per la disinformazione e molto altro.

Quando pensiamo ai deepfake, tendiamo a immaginare persone generate dall’intelligenza artificiale. Quello che non immaginiamo è la geografia deepfake: immagini generate dall’intelligenza artificiale di paesaggi urbani e campagne. Ma questo è esattamente ciò di cui alcuni ricercatori sono preoccupati.

Rischi delle false immagini satellitari

In particolare, i geografi sono preoccupati per la diffusione di immagini satellitari false, generate dall’intelligenza artificiale. Tali immagini potrebbero trarre in inganno in una varietà di modi. Potrebbero essere utilizzate per creare bufale su incendi o inondazioni, o per screditare storie basate su immagini satellitari reali. Pensate ai rapporti sui campi di detenzione uiguri della Cina che hanno guadagnato credito grazie alle prove satellitari. Se i deepfake geografici si diffondono, il governo cinese può affermare che anche quelle immagini sono false. La geografia deepfake potrebbe anche essere un problema di sicurezza nazionale, dato che gli avversari geopolitici usano immagini satellitari false per ingannare i nemici.

Esercito USA e fake geography

L’esercito degli Stati Uniti ha messo in guardia proprio su questa prospettiva nel 2019. Todd Myers, un analista della National Geospatial-Intelligence Agency, ha immaginato uno scenario in cui il software di pianificazione militare viene ingannato da dati falsi che mostrano un ponte in una posizione errata. “Così da una prospettiva tattica o di pianificazione della missione, si addestrano le forze ad andare seguendo un certo percorso, verso un ponte, ma non è lì. Allora c’è una grande sorpresa che ti aspetta”, ha detto Myers.

Il primo passo per affrontare questi problemi è quello di rendere le persone consapevoli che c’è un problema, dice Bo Zhao, un assistente professore di geografia presso l’Università di Washington. Zhao e i suoi colleghi hanno recentemente pubblicato un documento sul tema della deep fake geography, che include i loro esperimenti in cui generano e rilevano queste immagini.

L’obiettivo è quello di demistificare la funzione di affidabilità assoluta delle immagini satellitari e di sensibilizzare il pubblico sulla potenziale influenza della geografia deep fake.

Zhao dice che anche se i deepfake sono ampiamente discussi in altri campi, il suo documento è probabilmente il primo a toccare l’argomento in geografia.

Gli autori scrivono che “mentre molti professionisti del GIS [sistema informativo geografico] hanno celebrato i meriti tecnici del deep learning e di altri tipi di IA per il problem solving geografico, pochi hanno pubblicamente riconosciuto o criticato le potenziali minacce del deep fake al campo della geografia o oltre”.

La geografia falsificata è un fenomeno vecchio di secoli

Lungi dal presentare i deepfake come una nuova sfida, Zhao e i suoi colleghi collocano la tecnologia in una lunga storia di geografia falsa che risale a millenni fa. Gli esseri umani hanno mentito con le mappe più o meno da quando esistono le mappe, dicono, dalle geografie mitologiche ideate da antiche civiltà come i Babilonesi, alle moderne mappe di propaganda distribuite durante la guerra “per scuotere il morale del nemico”.

Un esempio particolarmente curioso viene dalle cosiddette “città di carta” e “strade trappola”. Si tratta di falsi insediamenti e strade inseriti dai cartografi nelle mappe per catturare i rivali che rubano il loro lavoro. Se qualcuno produce una mappa che include la tua Fakesville, Ohio, sai – e puoi provare – che stanno copiando la tua cartografia.

“È un fenomeno vecchio di secoli”, dice Zhao della geografia falsificata, anche se la nuova tecnologia produce nuove sfide. “È nuovo in parte perché le immagini satellitari falsificate sono così incredibilmente realistiche. Gli occhi non allenati potrebbero facilmente considerarle autentiche”.

Reti generative avversarie (GAN)

È certamente più facile produrre immagini satellitari false che video falsi di esseri umani. Risoluzioni inferiori possono essere altrettanto convincenti e le immagini satellitari come mezzo sono intrinsecamente credibili. Questo può essere dovuto a ciò che sappiamo sulla spesa e l’origine di queste immagini, dice Zhao. “Poiché la maggior parte delle immagini satellitari sono generate da professionisti o governi, il pubblico di solito preferisce credere che siano autentiche”.

Come parte del loro studio, Zhao e i suoi colleghi hanno creato un software per generare immagini satellitari deepfake, utilizzando lo stesso metodo AI di base (una tecnica nota come reti generative avversarie, o GAN) utilizzato in programmi ben noti come ThisPersonDoesNotExist.com. Hanno poi creato un software di rilevamento che è stato in grado di individuare i falsi in base a caratteristiche come la trama, il contrasto e il colore. Ma come gli esperti hanno avvertito per anni riguardo ai deepfake di persone, qualsiasi strumento di rilevamento ha bisogno di aggiornamenti costanti per tenere il passo con i miglioramenti nella generazione di deepfake.

La cosa più importante è aumentare la consapevolezza.

Per Zhao, però, la cosa più importante è aumentare la consapevolezza in modo che i geografi non siano presi alla sprovvista. Come scrivono lui e i suoi colleghi: “Se continuiamo ad essere inconsapevoli e impreparati al deep fake, corriamo il rischio di entrare in una distopia della fake geography“.

Tradotto da GeograficaMente.ch