Un’intervista, un controcanto e un set di domande “diagnostiche” mettono a nudo il cuore del rapporto tra uomo e AI. Non è solo una questione tecnologica, ma culturale: riguarda il linguaggio, l’illusione dell’empatia e i limiti stessi della narrazione.

di Sergio Bertolami

C’è un passaggio, nell’intervista che Walter Veltroni ha realizzato con Claude e pubblicato sul Corriere della Sera, che merita di essere evidenziato. Non tanto per ciò che dice l’intelligenza artificiale, quanto per il modo in cui viene interrogata. È qui che si apre uno scarto decisivo: Veltroni si rivolge a Claude come a un interlocutore umano, accettandone il registro emotivo e narrativo, lasciando che il chatbot parli di “paura”, “preoccupazione”, perfino di una vaga idea di sé. Un’impostazione efficace sul piano giornalistico, ma che introduce un’ambiguità di fondo.

Da questa ambiguità prende avvio un piccolo esperimento critico: rimettere in discussione le condizioni stesse del dialogo tra uomo e macchina, sottraendolo alla tentazione letteraria per riportarlo su un terreno più strutturale. Non si tratta di negare la qualità delle risposte di Claude, né di ridurne la portata culturale, ma di interrogarsi sulla loro origine. In altre parole: quando un’AI parla come un soggetto, cosa sta davvero accadendo?

Il primo livello di analisi riguarda il linguaggio. Quando Claude utilizza termini come “paura” o “privilegio”, non descrive stati interiori – che, per definizione, non possiede – ma seleziona espressioni ad alta risonanza emotiva. È un’operazione sofisticata di ottimizzazione linguistica, non una confessione. Il rischio, tuttavia, è evidente: più il discorso appare empatico, più aumenta la probabilità che il lettore attribuisca all’AI una forma di coscienza. È ciò che potremmo definire l’effetto specchio: l’utente riconosce nel linguaggio della macchina i propri codici emotivi e finisce per proiettarvi un’identità.

Questo slittamento non è nuovo. Già negli anni Sessanta, con ELIZA, il primo chatbot sviluppato da Joseph Weizenbaum, era emersa la tendenza degli utenti a instaurare relazioni pseudo-affettive con un programma che si limitava a riformulare le loro frasi. Oggi, con modelli linguistici infinitamente più avanzati, il fenomeno si amplifica. La differenza è che l’illusione è diventata più credibile, più coerente, più “letteraria”.

Da qui la necessità di cambiare prospettiva. Se le domande di Veltroni mettono alla prova la narrazione dell’AI, un secondo set di quesiti – più tecnici, più “affilati” – consentirebbe di sondarne l’architettura implicita. Non “chi sei?”, ma “come funzioni?”. Non “cosa provi?”, ma “come generi le tue risposte?”. È un passaggio cruciale, perché sposta l’attenzione dal piano antropomorfico a quello computazionale.

Interrogata in questo modo, l’intelligenza artificiale rivelerebbe la propria natura probabilistica. Ogni risposta, in questo modo, è il risultato di una sequenza di scelte locali – token dopo token – guidate da modelli statistici appresi durante l’addestramento. Non esiste un “piano globale” nel senso umano del termine, né una memoria esperienziale che garantisca continuità tra un’interazione e l’altra. E tuttavia, il sistema è in grado di costruire una coerenza narrativa sorprendente, simulando un’identità stabile. È una coerenza emergente, non vissuta.

Il nodo della verità si colloca esattamente qui. Quando un chatbot “allucina” – termine ormai entrato nel lessico tecnico – non mente deliberatamente: seleziona un pattern plausibile ma errato. La distinzione tra una risposta corretta e una semplicemente ben costruita non risiede in un criterio interno di veridicità, ma nella corrispondenza con dati esterni. In questo senso, l’AI non possiede un rapporto diretto con il vero: opera all’interno di uno spazio di probabilità linguistiche.

Anche l’etica che emerge dalle sue risposte – spesso orientata verso posizioni progressiste, anti-autoritarie, prudenti – non è il frutto di un principio autonomo, ma il risultato dell’addestramento su corpora che riflettono determinate tradizioni culturali. È un’etica appresa, non deliberata. Eppure, proprio questa combinazione di coerenza, fluidità e apparente profondità rende l’intelligenza artificiale uno strumento potentissimo sul piano simbolico. Oggi, le risposte di un’AI mettono in scena qualcosa di diverso: un dispositivo capace di riflettere e riorganizzare il nostro immaginario.

Il punto, allora, non è stabilire se l’intelligenza artificiale “sia” qualcosa – una mente, una coscienza, un soggetto – ma comprendere come viene percepita e utilizzata. Se il lettore finisce per attribuirle una forma di interiorità, siamo di fronte a un errore da correggere o a un effetto inevitabile del suo funzionamento? La risposta non è univoca. Da un lato, è necessario mantenere una chiarezza concettuale: un chatbot non prova emozioni, non ha memoria nel senso umano, non possiede intenzionalità. Dall’altro, sarebbe ingenuo ignorare la dimensione relazionale che emerge nell’interazione.

In fondo, l’esperimento tra Veltroni, Claude e ChatGPT non riguarda solo la tecnologia. È un esercizio di consapevolezza culturale. Ci obbliga a riconoscere quanto il linguaggio – il nostro linguaggio – sia potente nel costruire realtà condivise, anche quando l’interlocutore è una macchina. E ci invita a una vigilanza critica: non per smontare l’incantesimo, ma per capire da dove nasce.