Venerdì 7 febbraio 2025, in occasione di ART CITY Bologna 2025, Mariano Tomatis ha preso parte a “Il fascino della verità”, una conversazione su IA e fake news con Federico Ferrazza e Federico Bomba a margine della performance “The Models” (dmstfctn) coordinata da Sineglossa. Quella che segue è la traccia dell’intervista a Mariano Tomatis.

La crisi della percezione e la perdita dell’aura dell’immagine

Federico Bomba: Come storico dell’illusionismo, Mariano Tomatis ha approfondito in modo particolare le strategie di meraviglia adottate nel Settecento e i modi in cui le macchine illusionistiche venivano impiegate per stupire il pubblico e sfidare il rigore razionalista dell’Illuminismo. Nell’organizzare questo incontro abbiamo pensato che la prospettiva storica potesse portare un contributo originale e obliquo al dibattito odierno sull’Intelligenza Artificiale. Il fatto di giocare in modo consapevole e socialmente accettato con l’inganno rende l’illusionista un interlocutore interessante per certi dilemmi molto attuali, per esempio quello che riguarda il modo in cui percepiamo le immagini generate automaticamente, in un’epoca in cui la capacità di distinguere il vero dal falso sembra sempre più compromessa. Molti temono addirittura che l’IA stia erodendo la nostra fiducia nella realtà. Ma questa paura è davvero giustificata? Oppure, come nel caso delle illusioni del passato, il problema non sta nella tecnologia in sé, ma nel modo in cui la percepiamo e la decodifichiamo?

La paura che l’Intelligenza Artificiale stia compromettendo la nostra capacità di distinguere tra vero e falso parte da un presupposto discutibile: l’idea che l’umanità sia sempre stata abituata a una distinzione netta e binaria tra realtà e illusione, e che ora questa capacità sia improvvisamente in crisi. In realtà, la nostra cultura visiva e cognitiva è da secoli molto più sofisticata e capace di operare distinzioni sottili e sfumate.

Prendiamo l’esempio di questa fotografia della cerimonia di apertura delle Olimpiadi 2024.

L’immagine mostra la Senna sotto un cielo limpido e soleggiato, mentre in realtà quel giorno ha piovuto. Possiamo definirla “falsa”? No, perché non è un falso nel senso di una manipolazione ingannevole: è un rendering, una rappresentazione costruita mesi prima dell’evento per il sito ufficiale che vendeva i biglietti per assistervi. Non è neppure del tutto “vera”, ma una terza cosa: un’immagine progettata con una funzione specifica, che va compresa nel suo contesto. Questo esempio dimostra che la dicotomia vero/falso è spesso inadeguata per comprendere il nostro rapporto con le immagini e con la tecnologia.

Spulciando negli archivi parigini salta fuori questa incisione datata 1784 che è completamente sovrapponibile al rendering moderno.

La torre in corrispondenza della Tour Eiffel non è naturalmente la Tour Eiffel (che nel Settecento non esisteva ancora) ma la guglia di Notre Dame. L’immagine rappresenta un fenomeno paranormale o un miracolo, a seconda che la guardiamo da un paradigma laico o religioso: un uomo attraversa la Senna camminando sulle acque. Che cos’è questa immagine, vera o falsa?

Secondo voi è la cronaca di un evento reale o una fantasia?

Come la fotografia olimpica, anche questa è un’immagine del terzo tipo perché è un rendering. L’immagine fu realizzata per pubblicizzare l’evento straordinario di un uomo che avrebbe attraversato la Senna camminando su speciali scarpe di sua invenzione. Questo annuncio, apparso sul Journal de Paris, attirò grande attenzione e portò molte persone ad acquistare i biglietti per assistere allo spettacolo; l’acquirente più noto fu il generale La Fayette.

Mettiamoci nella prospettiva di quell’anno: nei cieli di Parigi si è appena sollevata la prima mongolfiera, la scienza ha trasformato in realtà l’antico sogno di volare. Forse camminare sull’acqua è solo il prossimo miracolo che diventerà accessibile. Il collegamento tra le due cose è reso alla perfezione da questa illustrazione in cui qualcuno ipotizza che l’uomo userà due piccole mongolfiere per sorreggersi sull’acqua.

Tuttavia, l’evento non si svolse mai: si trattava di uno scherzo orchestrato da un anonimo orologiaio di Lione, che sfruttò l’entusiasmo dell’epoca per gli spettacoli sensazionali e le nuove scoperte scientifiche per prendersi gioco della credulità della stampa. Quando l’inganno fu rivelato, lo stesso giornale che lo aveva promosso pubblicò una smentita, in quella che oggi chiameremmo un’azione di debunking.

Curiosamente, in quello stesso numero del Journal de Paris apparve l’annuncio di un altro evento straordinario: l’arrivo in città del mago italiano Giuseppe Pinetti. Pinetti, celebre per le sue illusioni e per la sua capacità di ingannare il pubblico con effetti spettacolari, rappresentava una forma di spettacolo interamente basata sull’offuscamento dei confini tra vero e falso, illusione e realtà.

[Qui il Relatore mette in funzione una replica del Piccolo Turco Sapiente, l’automa di Giuseppe Pinetti capace di leggere nel pensiero.]

Chi osservava questa scena con occhio critico poteva intuire che il meccanismo si basava su ingranaggi nascosti, ma anche i più scettici si trovavano di fronte a un paradosso: nessun congegno puramente meccanico poteva leggere nel pensiero del pubblico. Questo scarto tra la spiegazione tecnica e il fenomeno dimostrato dalla “macchina” rivelava una lezione più profonda: nel Settecento i professionisti dell’illusione sfruttavano la prestidigitazione non solo per intrattenere, ma anche per mettere in discussione la fiducia cieca nelle spiegazioni razionali. Il loro messaggio era chiaro: la realtà non è sempre riducibile a una formula, e ogni sistema di conoscenza ha punti ciechi che non può colmare. Una critica sottile, ma affilata, all’Illuminismo e alla sua ambizione di svelare ogni mistero del mondo.

L’idea che oggi l’umanità stia perdendo la capacità di distinguere tra vero e falso manca di profondità storica: già nel Settecento, l’opinione pubblica si confrontava con le stesse inquietudini, immersa in un mondo popolato da illusionisti geniali e da un flusso incessante di notizie false, prodigi artificiali e promesse di meraviglie impossibili.

AI come Automazione Illusoria: quando la promessa tecnologica non viene mantenuta

Federico Bomba: Esiste un automa ancora più famoso, anche lui proposto nelle vesti di un Turco: il meccanismo di Wolfgang von Kempelen, che nel XVIII secolo affascinò le corti d’Europa con la sua presunta abilità nel gioco degli scacchi. Anche in questo caso, ciò che sembrava una macchina autonoma era in realtà un’illusione ben orchestrata: all’interno della macchina, nascosto tra ingranaggi e pannelli scorrevoli, si celava un vero giocatore umano. Oggi, dietro molte promesse di automazione avanzata si cela spesso una realtà molto simile: il lavoro umano nascosto, sottopagato e necessario per far funzionare i sistemi di IA che si presentano come totalmente autonomi. In che modo la storia dell’illusionismo ci aiuta a riconoscere e smascherare la persistenza di queste forme di manipolazione dell’opinione pubblica, basate sulla distanza tra le promesse e la realtà degli oggetti tecnologici che ci vengono proposti?

L’illusionismo ha sempre giocato con la distanza tra ciò che il pubblico crede di vedere e ciò che accade realmente dietro le quinte. Il Turco di von Kempelen ne è un esempio perfetto: un automa apparentemente autonomo che, in realtà, nascondeva un giocatore umano tra i suoi ingranaggi.

Il pubblico del XVIII secolo voleva credere nel prodigio di una macchina pensante, e l’illusione funzionava proprio perché rispondeva alle aspettative dell’epoca riguardo al progresso tecnologico.

Oggi, fenomeni simili si ripetono su scala industriale. Il capitalismo tecnologico si regge su narrazioni spettacolari che promettono automazione e intelligenza artificiale avanzata, ma che spesso nascondono meccanismi ben più rudimentali e dipendenti dal lavoro umano. Un caso emblematico è quello dei negozi Amazon “Just Walk Out”, presentati come un trionfo dell’automazione, in cui gli acquirenti possono prendere un prodotto dagli scaffali e uscire senza passare per una cassa.

Dietro la promessa di un’esperienza completamente gestita da algoritmi e sensori avanzati, però, la realtà è molto meno futuristica: gran parte del lavoro di riconoscimento dei prodotti viene svolto manualmente da lavoratori sottopagati in centri remoti, incaricati di verificare le immagini e correggere gli errori dell’intelligenza artificiale.

Questa distanza tra la narrazione pubblicitaria e la realtà operativa è ciò che Jathan Sadowski definisce “Potemkin AI”, un richiamo ai famosi villaggi Potemkin–false facciate costruite per impressionare gli osservatori senza che dietro vi fosse alcuna sostanza.

Facciate di palazzi di un villaggio Potemkin.

La Potemkin AI è l’illusione di un’automazione totale, quando in realtà il sistema dipende ancora pesantemente da una manodopera invisibile. Proprio come il Turco di von Kempelen nascondeva un essere umano tra i suoi ingranaggi, molte soluzioni di IA oggi mascherano la presenza di lavoratori precari, spesso sfruttati, che svolgono attività considerate troppo complesse per essere realmente automatizzate.

Nel gergo tecnico, i meccanismi che nascondono il loro funzionamento sono chiamati black box, ma il termine è riduttivo per spiegare il Turco Meccanico; come spiega Sadowski:

L’Intelligenza Artificiale Potemkin è collegata al concetto di black box, ma spinge l’offuscamento fino all’inganno. Il Turco Meccanico, come molti sistemi di IA particolarmente discussi, non era solo una scatola nera che nascondeva il suo meccanismo interno a occhi indiscreti. Dopo tutto, Kempelen apriva l’armadietto del suo automa e spiegava il funzionamento di quella che sembrava essere una macchina complessa. Il punto è che stava mentendo. Allo stesso modo, il marketing dei sistemi che implementano l’Intelligenza Artificiale utilizza parole chiave tecniche che funzionano come gli incantesimi di un mago: Smart! Intelligente! Automatizzato! Capacità cognitive! Deep learning! Abracadabra! Alakazam! [...] Se i sistemi che sfruttano l’Intelligenza Artificiale genuina non sono abbastanza avanzati per soddisfare le promesse azzardate e i desideri infiniti della finanza, allora dobbiamo aspettarci che l’Intelligenza Artificiale Potemkin continuerà a propagarsi mentre finanzieri e ingegneri continueranno ad alzare ulteriormente il tiro. (1) 

Siamo nei dintorni delle pubblicità degli Anni Settanta di oggetti miracolosi venduti a poche lire: le promesse erano mirabolanti, la realtà quasi sempre deludente.

A un certo punto il gioco era diventato quello di discuterne a bar, chiedendosi in quale dettaglio la pubblicità era ingannevole.

Per esempio, che cosa ti aspettavi di ricevere comprando una mini-pistola atomica?

Quella che ti arrivava era una minuscola pistola giocattolo e le istruzioni dicevano che era fatta di atomi.

I più famosi erano gli occhiali a raggi X che promettevano di poter vedere sotto i vestiti.

All’epoca della mia scuola elementare, la leggenda diceva che le istruzioni dicessero “Indossali e immagina”. In realtà, quando ne ho indossato un paio, ho scoperto che c’è un effetto wow: naturalmente non vedi ai raggi X ma le lenti attivano una visione alterata che esaudisce vagamente la promessa, anche se si resta nell’ambito dell’illusione. Per lasciarvi con l’acquolina in bocca, vi segnalo l’episodio 131 della mia serie Mesmer in pillole dove illustro il trucco e spiego come realizzarne una versione fai-da-te.

“Gli occhiali a raggi X”, ep. 131 di Mesmer in pillole.

Questi occhiali esistevano già nel Settecento e avevano l’aspetto di un monocolo. Chi li vendeva dimostrava il loro funzionamento con questo kit, composto da quattro numeri intercambiabili. Chiuso il coperchio, il monocolo consentiva di vedere l’ordine in cui erano stati messi.

[Qui il Relatore mostra come indovinare il PIN di un Bancomat utilizzando una replica del monocolo settecentesco che simulava la visione ai raggi X.]

Il sistema si basava sul magnetismo. Alla base del monocolo c’era una bussola che rilevava la calamita nascosta all’interno dei quattro blocchi numerici.

Dentro ciascun numero il magnete era orientato secondo i quattro punti cardinali e la bussola era in grado di rilevarlo attraverso il coperchio opaco.

In fondo, per creare un’illusione non bastano degli ingranaggi nascosti: l’ingrediente che manca è il desiderio collettivo di credere in quello che ci viene promesso. Dal Turco di von Kempelen alle moderne Potemkin AI, passando per gli occhiali a raggi X e le pubblicità ingannevoli, il meccanismo è sempre lo stesso: una narrazione affascinante che cela un sistema ben più prosaico. Accanto alla domanda legata all’ingegneria di queste illusioni ce n’è un’altra più imbarazzante: quanto siamo disposti ad abbracciare una bugia, sospendendo il dubbio in favore della meraviglia?

Tra disincanto e reincanto: come svelare senza togliere meraviglia?

Federico Bomba: Nella società odierna, dove abbondano sottili meccanismi di manipolazione, il debunking è una risorsa preziosa per smontare le illusioni, smascherandone il funzionamento. Tuttavia, per rafforzare la capacità critica delle persone è essenziale praticare il pre-bunking, sensibilizzando il pubblico prima ancora che possa cadere nei tranelli che gli vengono tesi. Quali strategie ha messo a punto l’illusionismo per bilanciare questi approcci? È possibile educare le persone alla consapevolezza senza uccidere il senso di stupore e curiosità, che da sempre è anche un motore della conoscenza?

Da sempre l’illusionismo distingue tra due possibili atteggiamenti assunti dal pubblico di fronte alla magia, contrapponendo l’attitudine Mark e quella Smart.

Il Mark è lo spettatore ingenuo, che si lascia incantare senza sospettare la presenza di un trucco. Vuole credere nel prodigio perché la sua esperienza è fondata sul coinvolgimento emotivo, non sull’analisi critica. È il pubblico più fertile per le illusioni sociali e tecnologiche di oggi: chi crede ciecamente nella pubblicità di un’Intelligenza Artificiale onnipotente o di un prodotto rivoluzionario senza chiedersi come funzioni realmente si pone in modalità Mark. In un’epoca di manipolazione industriale dell’attenzione, il rischio è che i Mark vengano sfruttati per perpetuare illusioni che li rendano passivi e manipolabili.

Lo Smart è la persona disillusa, che ha scoperto il trucco e, spesso, si sente superiore per questo. È il tipico atteggiamento di chi, una volta smontata un’illusione, rifiuta il fascino del gioco e riduce tutto a una spiegazione tecnica. Il rischio dello Smart è la perdita del senso di meraviglia: nel debunking aggressivo, nel ridurre ogni cosa a un trucco, può mancare il rispetto per la dimensione emotiva e narrativa dell’esperienza umana.

Sempre di più l’illusionismo contemporaneo sta cercando di plasmare un pubblico capace di abitare la sintesi tra le due attitudini: possiamo chiamare Smark il punto di equilibrio tra le due posizioni, quello di chi sa che c’è un trucco, ma sceglie di partecipare al gioco con intelligenza e curiosità. È la persona che si diverte nel capire il meccanismo senza perdere il gusto della sorpresa, così come il cittadino consapevole può riconoscere una narrativa ingannevole senza necessariamente perdere fiducia nella tecnologia o nell’innovazione.

La triade Mark, Smart e Smark nasce nel mondo del wrestling e rappresenta la versione pop della tripartizione hegeliana tra tesi, antitesi e sintesi.

Questa distinzione offre una chiave di lettura utile per comprendere come si possa educare alla consapevolezza senza distruggere il senso di meraviglia. In quest’ottica, l’illusionismo può diventare una palestra per allenare l’attitudine Smark.

[Qui il Relatore presenta un gioco di prestigio del repertorio degli illusionisti del Settecento, ne svela il meccanismo, rimuove il meccanismo che lo fa funzionare – ma la “macchina” si ribella al disvelamento, continuando a funzionare pur essendo stato menomata del “trucco”.]

La carta che si solleva dalla bottiglia, la dimostrazione di fisica dilettevole che si ribella alla sua spiegazione razionale, continuando a funzionare anche dopo la rimozione del suo nucleo meccanico.

La dimostrazione mette in pratica uno dei consigli che fornisco ne Il mio libro di magia (Tlon 2024):

Presenta un gioco di prestigio una prima volta. Il pubblico vivrà un primo momento di stupore. Poi spiegane il trucco. Il disvelamento susciterà sorpresa perché non è quello che ci si aspetta da uno spettacolo di magia. Sembra un gesto di generosità ma non lo è: serve a rendere più durevole il terzo stupore in arrivo. Metti in scena il gioco una seconda volta, usando un trucco diverso. Il pubblico ne sarà sbalestrato: conoscere il trucco non impedisce alla magia di accadere lo stesso. (2) 

Con questa digressione storica ho cercato di evidenziare che la differenza tra passato e presente è tutt’altro che radicale: allora come oggi, meraviglia e inquietudini nascono dalla tensione tra ciò che appare e ciò che realmente accade dietro le quinte. Quello che davvero spaventa oggi non è l’incapacità di riconoscere un rendering da una fotografia “genuina”, ma il dover fare i conti con una realtà sempre più fluida, in cui i confini rigidi e le certezze assolute vacillano. È il timore di dover rinunciare ai binarismi rassicuranti – vero/falso, umano/macchina, autentico/artificiale – per accettare una visione del mondo più stratificata, inclusiva e complessa. E forse, in questa paura, si nasconde il segnale di una trasformazione più profonda, che riguarda il modo stesso in cui concepiamo la conoscenza, la percezione e la nostra relazione con i nostri corpi e la realtà tutta.

---

Note