Il fenomeno dei deepfake colpisce anche la Chiesa. Sui social sono circolati nelle ultime settimane video manipolati del nuovo Papa Leone XIV, con sermoni inventati generati dall’intelligenza artificiale, pubblicati senza alcuna indicazione sulla loro natura artificiale. I contenuti falsi hanno raggiunto milioni di visualizzazioni prima di essere rimossi da YouTube e TikTok.
Sermoni falsi spacciati per veri: l’allarme lanciato da AFP
L’allerta è partita da un’indagine dell’Agence France Presse, che ha scoperto decine di account su TikTok e canali YouTube intenti a diffondere contenuti artificiali sul pontefice senza alcun contesto. Molti di questi video simulavano discorsi ufficiali del Papa, alterandone completamente il contenuto. I materiali, secondo l’AFP, sono stati creati per generare visualizzazioni ma anche per diffondere disinformazione.
YouTube e TikTok chiudono decine di profili falsi
A seguito della segnalazione, YouTube ha rimosso 16 canali e TikTok ha eliminato 11 account, alcuni dei quali avevano oltre 1,3 milioni di follower. Prima della rimozione, un singolo video in lingua spagnola ha superato 9,6 milioni di visualizzazioni, mentre un altro ha raggiunto oltre 32 milioni. Le piattaforme hanno giustificato la chiusura con la violazione delle linee guida contro spam e contenuti ingannevoli.
Esperti: “Rischio per l’autorità morale e la stabilità sociale”
“Questi deepfake religiosi minano la credibilità morale del Papa e possono essere usati per manipolare l’opinione pubblica”, ha spiegato Brian Patrick Green, direttore dell’etica tecnologica all’Università di Santa Clara. Anche Oren Etzioni, fondatore di TrueMedia.org, ha definito il fenomeno “una crisi reale di fiducia nell’informazione”. Le tecnologie generative, ha sottolineato, offrono “gli strumenti per creare prove di eventi mai avvenuti”.
Il pericolo del “reale sintetico” è già tra noi
La diffusione di questi video rappresenta solo l’inizio di una nuova era di disinformazione, dove l’occhio umano fatica a distinguere il vero dal falso. Le immagini del Papa con piumini di lusso o in discoteca, inizialmente viste come scherzi, hanno aperto la strada a manipolazioni più sofisticate e pericolose. Ora, i contenuti generati dall’IA sono in grado di simulare espressioni, voci e movimenti in modo quasi indistinguibile dalla realtà.
