L’architettura della persuasione

 

Perché “The Social Dilemma” è il manuale di resistenza cognitiva di cui abbiamo bisogno

Di Luigi Ricci – Analista e autore di Vaticano Zero Day

Questo articolo esce alla vigilia della prima enciclica di Papa Leone XIV, Magnifica Humanitas, sulla custodia della persona umana nel tempo dell’intelligenza artificiale.

Qualche giorno fa, le stanze del Vaticano hanno ospitato un dialogo che, fino a pochi anni fa, sarebbe sembrato pura fantascienza. Non in presenza, ma attraverso le immagini di un documentario proiettato a porte chiuse alla Pontificia Università Urbaniana, la voce di Tristan Harris, ex Design Ethicist di Google e volto simbolo del dissenso tecnologico, ha attraversato le mura oltretevere per lanciare l’ennesimo, accorato allarme: l’intelligenza artificiale e le architetture algoritmiche stanno erodendo l’essenza stessa della cognizione e della convivenza umana.

 

Il 21 maggio, nell’ambito del convegno internazionale “Custodire voci e volti umani”, promosso dal Dicastero per la Comunicazione, la Filmoteca Vaticana ha proiettato The AI Doc: Or How I Became An Apocaloptimist, diretto da Daniel Roher e Charlie Tyrell e prodotto da Daniel Kwan, già premio Oscar per Everything Everywhere All at Once. Presentato in anteprima mondiale al Sundance Film Festival e poi in Europa, il documentario raccoglie le voci di protagonisti, studiosi e critici del mondo dell’AI, con Harris tra i protagonisti centrali.

Il fatto che il Vaticano abbia scelto questo film, in questo momento, non è casuale: è un segno dei tempi. Ma c’è un altro segno, che nessuno sembra voler nominare. L’Europa produce pensiero, produce regolazione, produce persino documentari. Ma quando si tratta di scegliere il film che apre un dibattito globale, si finisce ancora una volta a proiettare un’opera americana. Non è un caso: è la misura di chi controlla il racconto. E chi controlla il racconto, controlla la realtà.

C’è però qualcosa di sottilmente ironico in quella proiezione. Il messaggio di Harris, che denuncia il potere degli schermi di colonizzare la nostra attenzione, è arrivato in Vaticano attraverso uno schermo. Nel cuore di un convegno sulla dignità umana nell’era algoritmica, gli ospiti hanno guardato un film per capire come i film, e i feed, e le piattaforme, stiano cambiando il modo in cui guardiamo il mondo. Non è una contraddizione: è la misura di quanto il problema sia ormai radicato anche nelle nostre pratiche di resistenza.

Mentre leggerete queste righe, la Santa Sede avrà pubblicato la Magnifica Humanitas. Chi ha seguito questo Substack sa già dove quella enciclica intende arrivare: alla difesa della persona umana dall’automazione totale, alla centralità della dignità in un’epoca governata dagli algoritmi, al rilancio di una dottrina sociale capace di rispondere a una rivoluzione non industriale ma cognitiva. Leone XIV firma il documento il 15 maggio, nel 135° anniversario della Rerum Novarum di Leone XIII. Il parallelismo storico è dichiarato, non implicito.

Prima di leggere l’enciclica, conviene capire da dove viene la pressione che l’ha resa necessaria. E per farlo, bisogna tornare alla radice dello svelamento.

La trappola della vulnerabilità simbolica

The Social Dilemma, il documentario Netflix del 2020 da cui The AI Doc eredita la struttura e lo spirito, ha avuto il merito storico di portare nel dibattito di massa ciò che gli analisti più attenti denunciavano da tempo. Harris, insieme agli altri dissidenti della Silicon Valley, ha mostrato al mondo con chiarezza geometrica il momento esatto in cui smettiamo di essere utenti e diventiamo territorio di conquista. Avviene ogni volta che la nostra mano si allunga verso lo smartphone per un riflesso incondizionato, senza una reale necessità, per affogare i tempi morti in un flusso infinito di informazioni. Crediamo di scegliere, ma siamo scelti. Crediamo di guardare uno schermo, ma è lo schermo che sta scansionando noi.

La tesi di fondo del film ribalta il vecchio adagio dell’era web: “Se non paghi per un prodotto, il prodotto sei tu”. Harris precisa che il prodotto non siamo noi. Il prodotto è il cambiamento graduale, impercettibile e costante del nostro comportamento e della nostra percezione della realtà.

Il vero campo di battaglia non è informatico, ma simbolico e psicologico. Le grandi piattaforme non vendono i nostri dati grezzi: vendono la capacità di prevedere e modificare le nostre scelte. Per farlo, gli algoritmi sfruttano i punti di vulnerabilità evolutiva del cervello umano: il bisogno di approvazione sociale, il rilascio di dopamina a intermittenza, la reattività innata di fronte alla rabbia e all’indignazione.

Siamo passati dall’Attention Economy a qualcosa di molto più insidioso. Le macchine non vogliono più solo il nostro tempo: vogliono mappare i nostri simboli di riferimento per colonizzare il nostro spazio decisionale.

Il braccio armato delle guerre ibride

È proprio in questa fessura psicologica che il dilemma da tecnologico si fa squisitamente geopolitico. L’architettura della persuasione descritta da Harris ha involontariamente fornito l’infrastruttura perfetta per i moderni conflitti asimmetrici. Ottimizzando i feed sulla base del coinvolgimento emotivo, che si nutre matematicamente di rabbia, paura e polarizzazione, gli algoritmi hanno di fatto appaltato la stabilità delle nostre democrazie al miglior offerente.

Le campagne di disinformazione mirata, la manipolazione delle opinioni pubbliche occidentali, la proliferazione di deepfake non sono bug del sistema: sono le sue logiche conseguenze. Attori statali e non statali utilizzano queste piattaforme come vettori di guerra ibrida, destabilizzando le istituzioni dall’interno senza sparare un colpo, semplicemente hackerando la fiducia dei cittadini nella realtà condivisa. Quando la verità diventa una variabile algoritmica flessibile, la sicurezza nazionale cessa di essere una questione di confini geografici e diventa una questione di sovranità cognitiva.

Chi ha seguito questo Substack sa che queste tesi non sono nuove per me. Vaticano Zero Day, pubblicato da Lindau in questo stesso mese, analizza l’intersezione tra architetture algoritmiche, guerra ibrida e vulnerabilità istituzionale della Santa Sede: come la stessa macchina persuasiva descritta da Harris diventi uno strumento di pressione su istituzioni millenarie, e perché il Vaticano rappresenti un caso di studio emblematico di questa nuova frontiera del conflitto. La convergenza con la Magnifica Humanitas non è una coincidenza fortunata. È la misura di quanto questi temi fossero già maturi, e di quanto urgesse una risposta dottrinale all’altezza.

Per un’ecologia della mente: la necessità della ridondanza umana

Guardare The Social Dilemma oggi, in un’era in cui l’intelligenza artificiale generativa minaccia di automatizzare non solo i contenuti ma la produzione stessa dei nostri codici culturali, assume il valore di una chiamata alle armi per la sopravvivenza cognitiva. Il linguaggio è diverso da quello dell’enciclica, ma il territorio è lo stesso: la difesa di ciò che la Magnifica Humanitas chiama “custodia della persona umana”.

La via d’uscita non è il luddismo, ma lo sviluppo di una radicale immunità cognitiva. È necessario rivendicare una forma di “ridondanza analogica”: proteggere il pensiero lento, il dubbio metodico, l’archivio storico e la complessità del linguaggio umano dall’automazione totale dei colossi algoritmici. Proteggere, in una parola, quella che Leone XIV chiama magnifica humanitas, la magnifica umanità, che non è un concetto astratto ma una pratica quotidiana di resistenza.

Vedere questo documentario significa fare il primo passo fuori dalla caverna digitale. Significa capire come funziona l’arma per poter, finalmente, disarmarla. L’enciclica vi dirà perché vale la pena farlo. The Social Dilemma vi ha già mostrato da cosa.

English Version

The Architecture of Persuasion: Why “The Social Dilemma” Is the Manual of Cognitive Resistance We Need

Di Luigi Ricci -Analist and Author Vaticano Zero Day

This article is published on the eve of Pope Leo XIV’s first encyclical, Magnifica Humanitas, on the protection of the human person in the age of artificial intelligence. You may read it as an introduction to that document, or as a map for navigating what you are about to read.

A few days ago, the halls of the Vatican hosted a conversation that, until recently, would have seemed like pure science fiction. Not in person, but through the images of a documentary screened behind closed doors at the Pontifical Urbaniana University, the voice of Tristan Harris, former Design Ethicist at Google and symbolic face of technological dissent, crossed the walls of the Holy See to sound yet another urgent alarm: artificial intelligence and algorithmic architectures are eroding the very essence of human cognition and coexistence.

On May 21, as part of the international conference “Custodire voci e volti umani” (”Safeguarding Human Voices and Faces”), promoted by the Dicastery for Communication, the Vatican Film Library screened The AI Doc: Or How I Became An Apocaloptimist, directed by Daniel Roher and Charlie Tyrell and produced by Daniel Kwan, Oscar winner for Everything Everywhere All at Once. Premiered at the Sundance Film Festival and subsequently shown in Europe, the documentary brings together the voices of key figures, scholars, and critics from the world of AI, with Harris as one of its central protagonists. The fact that the Vatican chose this film, at this moment, is not incidental: it is a sign of the times. But there is another sign that no one seems willing to name. Europe produces thought, produces regulation, produces even documentaries. But when it comes to choosing the film that opens a global debate, we once again find ourselves screening an American work. This is no coincidence: it is a measure of who controls the narrative. And whoever controls the narrative controls reality.

There is, however, something subtly ironic in that screening. Harris’s message, denouncing the power of screens to colonize our attention, arrived in the Vatican through a screen. At the heart of a conference on human dignity in the algorithmic age, the audience watched a film to understand how films, feeds, and platforms are changing the way we see the world. This is not a contradiction: it is a measure of how deeply the problem has taken root even in our practices of resistance.

This morning, as you read these lines, the Holy See is publishing Magnifica Humanitas. Those who have followed this Substack already know where that encyclical intends to arrive: the defense of the human person from total automation, the centrality of dignity in an age governed by algorithms, the renewal of a social doctrine capable of responding to a revolution that is not industrial but cognitive. Leo XIV signed the document on May 15, on the 135th anniversary of Leo XIII’s Rerum Novarum. The historical parallel is declared, not implied.

Before reading the encyclical, it is worth understanding where the pressure that made it necessary comes from. And to do that, we must return to the root of the revelation.

The trap of symbolic vulnerability

The Social Dilemma, the 2020 Netflix documentary from which The AI Doc inherits its structure and spirit, had the historical merit of bringing into mass debate what more attentive analysts had long been denouncing. Harris, together with other Silicon Valley dissidents, showed the world with geometric clarity the precise moment at which we stop being users and become territory to be conquered. It happens every time our hand reaches for the smartphone out of conditioned reflex, without any real necessity, to drown dead time in an endless stream of information. We think we are choosing, but we are being chosen. We think we are watching a screen, but it is the screen that is scanning us.

The film’s core argument overturns the old adage of the web era: “If you’re not paying for the product, you are the product.” Harris clarifies that the product is not us. The product is the gradual, imperceptible, and constant change in our behavior and our perception of reality.

The real battlefield is not technological but symbolic and psychological. The major platforms do not sell our raw data: they sell the ability to predict and modify our choices. To do so, their algorithms exploit the evolutionary vulnerabilities of the human brain: the need for social approval, the intermittent release of dopamine, the innate reactivity to anger and outrage.

We have moved beyond the Attention Economy to something far more insidious. The machines no longer want only our time: they want to map our symbolic frameworks in order to colonize our decision-making space.

The armed wing of hybrid warfare

It is precisely in this psychological fissure that the dilemma shifts from technological to distinctly geopolitical. The architecture of persuasion described by Harris has inadvertently provided the perfect infrastructure for modern asymmetric conflicts. By optimizing feeds based on emotional engagement, which feeds mathematically on anger, fear, and polarization, algorithms have effectively outsourced the stability of our democracies to the highest bidder.

Targeted disinformation campaigns, the manipulation of Western public opinion, the proliferation of deepfakes: these are not bugs in the system. They are its logical consequences. State and non-state actors use these platforms as vectors of hybrid warfare, destabilizing institutions from within without firing a single shot, simply by hacking citizens’ trust in shared reality. When truth becomes a flexible algorithmic variable, national security ceases to be a matter of geographic borders and becomes a matter of cognitive sovereignty.

Those who have followed this Substack know that these arguments are not new to me. Vaticano Zero Day, published by Lindau this same month, analyzes the intersection of algorithmic architectures, hybrid warfare, and the institutional vulnerabilities of the Holy See: how the same persuasion machine described by Harris becomes an instrument of pressure on millennial institutions, and why the Vatican represents an emblematic case study of this new frontier of conflict. The convergence with Magnifica Humanitas is not a fortunate coincidence. It is a measure of how ripe these themes already were, and of how urgently a doctrinal response of equal weight was needed.

Toward an ecology of the mind: the necessity of human redundancy

Watching The Social Dilemma today, in an era in which generative artificial intelligence threatens to automate not only content but the very production of our cultural codes, takes on the value of a call to arms for cognitive survival. The language differs from that of the encyclical, but the territory is the same: the defense of what Magnifica Humanitas calls the “protection of the human person.”

The way out is not Luddism, but the development of a radical cognitive immunity. We must reclaim a form of “analogical redundancy”: protecting slow thought, methodical doubt, the historical archive, and the complexity of human language from the total automation of algorithmic giants. Protecting, in a word, what Leo XIV calls magnifica humanitas, magnificent humanity, which is not an abstract concept but a daily practice of resistance.

Watching this documentary means taking the first step out of the digital cave. It means understanding how the weapon works in order to, finally, disarm it. The encyclical will tell you why it is worth doing. The Social Dilemma has already shown you what you are up against.