Lo schermo si ferma su un volto che parla con calma, inclina appena il capo, sorride nel punto giusto, poi pronuncia una frase che sembra perfetta e invece ha qualcosa di storto, come una porta chiusa male in una casa silenziosa. È in quel piccolo attrito che sento scattare l’allarme. Non perché l’immagine tremi o perché la voce sia metallica. Al contrario. È proprio perché tutto fila troppo bene. Gli occhi riflettono la luce come devono, la pelle sembra viva, le pause sono credibili. Eppure non c’è nessuno lì dentro. Oppure, peggio ancora, c’è l’immagine di qualcuno usata come una maschera perfetta per dire ciò che non ha mai detto. Quando entro nel territorio dei deepfake, non ho mai la sensazione di trovarmi soltanto davanti a un trucco tecnologico. Mi sembra di entrare in una stanza dove la fiducia è stata spostata di qualche centimetro, quel tanto che basta per farci inciampare.
I ricercatori che studiano questi sistemi lo spiegano con chiarezza: oggi esistono modelli capaci di ricostruire volti, voci e movimenti con una precisione impressionante, combinando grandi quantità di dati, immagini e registrazioni. Non è magia, e non è neppure fantascienza. È un risultato tecnico reale, nato dall’intelligenza artificiale generativa, e può avere usi utili, per esempio nel cinema, nel doppiaggio, nell’accessibilità, nella ricostruzione storica. Ma il punto non finisce qui, anzi comincia proprio qui. Perché una tecnologia che sa imitare così bene una persona può anche travestire una menzogna da prova. E a quel punto non stiamo più parlando solo di immagini false. Stiamo parlando di potere. Di reputazioni rovinate. Di ricatti. Di propaganda. Di video costruiti per incendiare la rabbia, spostare voti, umiliare un compagno di scuola, ridicolizzare un insegnante, sporcare la faccia di qualcuno in pochi minuti. Il deepfake è inquietante non solo perché falsifica un volto, ma perché tenta di occupare il posto della realtà.
È qui che sento il bisogno di andare a cercare Orwell. Non l’Orwell ridotto a slogan, tirato fuori ogni volta che qualcuno nomina il controllo o la censura, ma quello vero, duro, lucidissimo, che in 1984 ha mostrato come il potere non si accontenti di comandare i corpi. Vuole anche dirigere le parole, i ricordi, i fatti. Lo immagino in una stanza scarna, una sedia, un tavolo, una luce netta sul viso. Mi guarda come se il problema non fosse nuovo, ma solo diventato più veloce.
Gli chiedo: “Se oggi un video falso può sembrare più convincente di un video vero, da dove si comincia a difendere la verità?”
Orwell risponde senza alzare la voce: “Si comincia capendo che la menzogna più pericolosa non è quella goffa. È quella che offre alle persone qualcosa che desiderano già credere. In 1984 il Partito non riscrive il passato per divertimento. Lo riscrive per governare il presente. Se controlli ciò che la gente pensa di aver visto, controlli anche ciò che accetterà domani.”
Resto qualche secondo in silenzio, perché il punto è esattamente questo. Un deepfake ben fatto non lavora solo sull’occhio. Lavora sul desiderio, sulla paura, sul pregiudizio. Se qualcuno è già pronto a credere che un certo personaggio pubblico sia ridicolo, corrotto o mostruoso, un video falso troverà la porta socchiusa. La tecnologia entra, ma prima di lei passa un’idea.
Gli chiedo ancora: “Allora il problema non è soltanto distinguere il vero dal falso?”
“No,” mi dice. “Il problema è più profondo. Quando la falsificazione diventa continua, la gente si stanca. E una popolazione stanca smette di cercare la verità, si limita a scegliere la versione che le pesa meno. Questo è il trionfo del potere. Non quando tutti credono a una bugia, ma quando nessuno crede più che esista un fatto verificabile.”
Qui Orwell ragiona proprio come Orwell. Non difende una verità astratta e luminosa come una statua. Ci costringe a guardare il meccanismo della corruzione mentale. In 1984 c’è una frase famosissima, durissima: “Chi controlla il passato controlla il futuro; chi controlla il presente controlla il passato.” Per un ragazzo di oggi potrebbe sembrare una frase enorme, lontana, ma in realtà tocca una cosa vicinissima. Se un video manipolato entra nelle chat, nei social, nei commenti, e viene condiviso abbastanza in fretta, può cambiare ciò che le persone credono sia accaduto. E se cambia quello, cambia anche il modo in cui giudicano una persona, una notizia, un evento. Prima viene alterato il ricordo, poi il giudizio, poi la decisione.
Gli domando: “Ma perché le immagini hanno tutta questa forza? Perché un video falso ci colpisce così tanto?”
Orwell incrocia le mani, quasi infastidito dalla nostra ingenuità: “Perché l’immagine sembra eliminare il bisogno di pensare. Una frase può essere discussa. Un documento può essere analizzato. Ma davanti a un volto che parla, molti credono di essere già arrivati alla prova. Il potere adora tutto ciò che trasforma l’impressione in obbedienza.”
Ecco il passaggio che mi interessa di più. Il deepfake non inganna soltanto perché appare realistico. Inganna perché sfrutta una debolezza antica: la nostra tendenza a fidarci di ciò che sembra immediato. Lo vedo, dunque è vero. Lo sento con quella voce, dunque è successo. Invece no. Gli esperti di analisi forense digitale, i giornalisti che verificano i contenuti, i laboratori che studiano le tracce sintetiche nei file ripetono sempre la stessa lezione: non basta guardare, bisogna controllare la fonte, il contesto, la data, il file originale, la diffusione iniziale, i dettagli tecnici, le conferme indipendenti. La verità, in questi casi, non arriva come un lampo. Arriva come un lavoro.
A questo punto gli faccio la domanda che brucia di più: “Se il potere può falsificare la realtà, e la tecnologia rende tutto più rapido, allora siamo destinati a perdere?”
Orwell mi fissa con una severità quasi paterna. “No. Ma vincere costa fatica. In La fattoria degli animali ho mostrato che la manipolazione funziona anche cambiando poco alla volta le parole, gli slogan, i ricordi collettivi. Non serve una menzogna gigantesca. Basta correggere ogni giorno una piccola frase, fino a quando nessuno ricorda più il testo di partenza. Per questo la difesa non è solo tecnica. È morale e linguistica. Bisogna imparare a nominare bene le cose, a sopportare il dubbio, a non condividere per rabbia ciò che non si è verificato.”
Qui sento che il dialogo si stringe attorno a noi. Perché il regno dei deepfake non è fatto solo di software sofisticati. È fatto anche di fretta, vanità, impulsività, gusto dello scandalo. Se una persona condivide un falso solo perché conferma ciò che voleva già dire contro qualcuno, in quel momento sta diventando, magari senza accorgersene, un piccolo ingranaggio del meccanismo che Orwell temeva. Non serve avere un ministero della verità sopra la testa. A volte il rischio peggiore è che quel ministero si sparga in mille mani distratte.
Per questo, quando penso ai deepfake, non vedo soltanto un laboratorio di effetti speciali impazzito. Vedo una prova di carattere. La tecnologia corre, e continuerà a farlo. I sistemi per smascherare i falsi miglioreranno, ma miglioreranno anche i falsi stessi. La partita non si chiude con un programma più furbo. Si gioca dentro la testa di chi guarda. Nella pazienza di fermarsi. Nel coraggio di dire non lo so ancora. Nella disciplina di non trasformare un sospetto in accusa. Nella capacità di capire che la verità non è fragile perché è debole, ma perché richiede cura. Un vetro si rompe in un attimo. Una finestra pulita, invece, va tenuta limpida ogni giorno. E mentre lo schermo riparte e quel volto artificiale continua a parlare con una sicurezza quasi perfetta, la domanda non è più soltanto se il video sia falso. La domanda vera è chi, tra noi e quel video, sta tentando di comandare il modo in cui il mondo entra nei nostri occhi.
Breve biografia:
George Orwell visse dal 1903 al 1950 e fu uno scrittore e giornalista inglese tra i più importanti del Novecento. Con opere come 1984 e La fattoria degli animali ha mostrato come il potere possa manipolare linguaggio, memoria e verità. Il suo pensiero conta ancora molto quando si parla di deepfake, propaganda e falsificazione della realtà.