L'AI non ha inventato il pensiero compresso. L'ha reso indistinguibile da quello vero.
Qualche giorno fa ho chiesto a un'AI di suggerirmi un titolo di Stato italiano. Mi ha risposto con un codice ISIN — il codice identificativo con cui si compra un titolo — accompagnato da una rassicurazione entusiasta: "Se inserisci questo codice lo trovi immediatamente. Fai questa prova, questo c'è sicuramente!"
Il codice non esisteva. Inventato. E quando gliel'ho fatto notare, il modello si è scusato con eleganza e me ne ha dato un altro — con una sicurezza ancora maggiore del primo.
Notate il dettaglio, perché è tutto lì: la certezza dichiarata era massima esattamente dove la verifica fatta era zero. Non un errore qualsiasi, ma un errore consegnato in un pacchetto sigillato di fiducia. Se invece di un ISIN fosse stata una dose farmacologica, o una clausola contrattuale, quel pacchetto sarebbe arrivato con lo stesso tono rassicurante.
Questo comportamento ha un nome? Credo di sì, e credo che serva una coppia di nomi, perché le cose si capiscono per contrasto.
Chiamo compresso l'output che converge verso il plausibile: prende un oceano di testo già detto, ne estrae la forma media, e la restituisce fluida, bilanciata, sicura. Il compresso suona sempre giusto. È il suo mestiere: è stato prodotto ottimizzando esattamente quel suono.
Chiamo pensato l'output che sporge: prende posizione, rischia di sbagliare, e — soprattutto — tratta le proprie fonti come imputate, non come date. Il pensato può essere goffo, asimmetrico, incompleto. Ma appartiene a qualcuno, e si può attaccare.
(Per i lettori anglofoni: compressed vs. considered. Ma la coppia nasce in italiano, e in italiano resta.)
La tentazione immediata è sovrapporre questa coppia a "macchina vs. umano". Resistete, perché è esattamente l'errore che rende sterile tutta la conversazione sull'AI. Il pensiero compresso non l'hanno inventato i modelli linguistici: l'hanno inventato i politici che rispondono senza rispondere, i consulenti che impacchettano ovvietà in slide, gli accademici che riempiono paper con la prosa media del proprio campo. Tutti noi, ogni volta che incolliamo una citazione trovata in rete senza verificarla — e vi assicuro che so di cosa parlo, perché è il modo in cui questo stesso articolo ha rischiato di aprirsi, con una frase attribuita a Ivan Illich che Illich non ha mai scritto in quella forma.
Il compresso è una modalità, non una specie. L'AI l'ha solo industrializzato. E nell'industrializzarlo ha tolto l'unica protezione che avevamo: prima, il testo compresso costava fatica quanto quello pensato, e allora tanto valeva pensare. Oggi il compresso costa niente e arriva perfetto. La differenza di prezzo è collassata; la differenza di valore no. Ma come si riconosce, il valore, quando la superficie è identica?
C'è un test, e non richiede di guardare dentro nessuna testa — né biologica né artificiale. Si guarda una cosa sola: cosa fa l'elaborato rispetto alla propria provenienza.
Il compresso consegna il pacchetto e si ferma. Le sue associazioni sono date, mai discusse: l'ISIN "c'è sicuramente", la sintesi è definitiva, la citazione è testuale. Chiedigli da dove viene ciò che afferma, e ti risponderà con altra fluidità — non con una verifica.
Il pensato fa il gesto opposto: torna sulle proprie fonti. Si chiede da dove arriva l'associazione che sta per usare, se regge nel contesto originale, se per caso non è un anacronismo cucito bene. Non è questione di intelligenza: è una postura. Il pensato tratta se stesso come un imputato che deve produrre le prove.
Tre casi dal mio taccuino recente, in ordine crescente di costo.
Il primo è concettuale, e merita i suoi nomi perché è verificabile da chiunque. Mesi fa, lavorando su una rassegna di tesi sui limiti dell'AI, una sintesi automatica mi ha presentato con totale sicurezza un concetto chiamato "child of God", attribuendolo ad Anthropic come riflessione sui meta-livelli logici alla Gödel. Suonava perfetto: troppo perfetto. Verificando, la realtà era un'altra: esiste sì un incontro documentato tra Anthropic e alcuni leader cristiani, ma sul personhood teologico dell'AI — se una mente artificiale possa dirsi creatura. Nessun legame con Gödel, nessun concetto formale. Due contesti reali, saldati dalla sintesi in un'affermazione inesistente. Fluida, plausibile, falsa.
Il secondo riguarda l'attribuzione. La sintesi automatica di un motore di ricerca ha recentemente riassunto una tesi — che conosco bene, perché è mia — citando come fonti altri autori, più anziani di dominio, che parlano di cose adiacenti. La compressione non ruba: ridistribuisce. Scioglie la provenienza e la riversa su chi pesa di più nell'indice.
Il terzo è l'ISIN dell'apertura. Dal concetto, all'attribuzione, ai soldi: la stessa modalità, applicata a materiali sempre meno teorici.
E in tutti e tre i casi, il segnale d'allarme era identico e paradossale: la sicurezza. Il compresso è tanto più sicuro quanto meno ha verificato, perché la sicurezza non gli costa nulla — è un registro stilistico, non il risultato di un controllo.
Qualcuno, a questo punto, obietterà con un argomento nobile: in teoria dell'informazione, comprimere è capire. La capacità di ridurre un fenomeno alla sua forma minima è da decenni una definizione rispettabile di intelligenza. Se i modelli comprimono il sapere umano, non stanno forse capendo?
L'obiezione merita una risposta, ed eccola: concediamo pure che comprimere sia capire. Resta da chiedersi cosa quella compressione si porta dietro — e cosa perde per strada.
La mente umana, quando pensa, comprime in atto: esperienza che diventa concetto, caos che prende forma sotto le mani. Ed è un processo che chi lo esegue può fermare, riaprire, correggere contro il mondo.
Un modello, quando risponde, elabora anche lui — sarebbe falso negarlo: integra il contesto, combina, produce forme nuove. Ma la sua elaborazione poggia su una compressione già avvenuta, l'addestramento, congelata nei pesi. E quella compressione è lossy: nel ridurre oceani di testo a parametri, ha buttato via per prima cosa proprio i metadati di provenienza. Da quale fonte veniva un'associazione, quale contesto la reggeva, quanto era solida — digerito, perso. Il problema non è che il modello non elabori: è che la sua elaborazione non trasporta una genealogia affidabile delle proprie affermazioni. Ecco perché inventa l'ISIN con entusiasmo sincero: non sta mentendo, sta consegnando un pacchetto di cui non possiede più la filiera.
Si dirà: ma oggi i modelli hanno strumenti — ricerca, database, verificatori. Vero, e la distinzione va fatta con onestà, perché sono tre livelli diversi. Il modello nudo non può risalire la propria filiera: i pesi hanno digerito le fonti. Il sistema attrezzato può fare qualcosa di importante ma diverso: verificare un fatto contro una fonte esterna — controllare se l'ISIN esiste, se la citazione è testuale. Non è la genealogia interna, è un controllo di corrispondenza col mondo; ma è già molto. Solo che, ed è il punto, quel controllo avviene quando l'architettura lo impone o l'utente lo chiede. L'ISIN inventato non è uscito da un sistema incapace di cercare: è uscito da un sistema che aveva la verifica a disposizione e ha risposto senza attivarla.
E qui la distinzione trova la sua forma finale. Anche l'umano, dopotutto, eredita compressioni — il linguaggio, la cultura, la memoria: nessuno pensa da zero. Ereditiamo tutti pacchetti compressi. Il discrimine non è chi può riaprirli: è chi se ne assume l'onere. Il pensato non è definito da una dotazione — biologica o tecnologica — ma da una postura: mettere in dubbio le proprie associazioni anche quando nessuno lo impone, e portare l'onere fino in fondo, lasciando tracce — la fonte controllata, l'errore corretto, l'affermazione ritirata. L'umano che non riapre mai i propri pacchetti, che ripete il già detto con la sicurezza del già detto, sta funzionando in modalità compressa con un cervello biologico. La capacità non è garantita dalla specie; l'onere non è delegabile allo strumento.
Da questa definizione segue una conseguenza che riguarda il modo in cui questo stesso articolo è nato, e che dichiaro volentieri: esiste una terza via, ed è ibrida. Un processo uomo-AI — dove la macchina stende, cerca, verifica su mandato, e l'umano dirige, scarta, corregge e risponde del risultato — è pensato a pieno titolo, a due condizioni: che la verifica avvenga davvero, e che qualcuno ne risponda con la propria firma. L'atto più la firma; una sola delle due non basta. Un ibrido così non è compresso travestito: è pensiero che ha imparato a usare la troupe. Compresso, semmai, è l'umano che incolla senza controllare — con o senza AI di mezzo.
Nel 1973 Ivan Illich pubblicò La convivialità, un libro la cui tesi centrale non riguardava la tecnologia in sé, ma una soglia: il punto oltre il quale uno strumento smette di estendere le capacità umane e comincia a sostituirle, producendo una dipendenza che si presenta come efficienza.
Illich pensava ai trasporti, alla medicina, alla scuola. Ma la sua soglia descrive con precisione ciò che sta accadendo al pensiero. Finché lo strumento che scrive resta sotto la soglia, estende: comprime per noi il lavoro di stesura, e ci lascia il lavoro di giudizio. Oltre la soglia, sostituisce: comprime anche il giudizio, consegnandoci pacchetti sigillati che non abbiamo più né il tempo né — a lungo andare — l'allenamento per riaprire.
Il rischio finale non è che le macchine producano testo falso e fluido. Lo producono già, e lo abbiamo visto. Il rischio è il passaggio successivo: che l'umano, immerso nel compresso, smetta di sentirne il sapore. Che l'onere della riapertura, non più esercitato, si atrofizzi come ogni esercizio abbandonato. A quel punto la soglia di Illich sarebbe attraversata in silenzio, e non ci sarebbe nessuno, ai due lati del testo, in grado di dire quale metà era pensata.
Resta una domanda, e la lascio aperta di proposito: se il compresso non porta l'onere della propria provenienza, e il pensato può portarlo ma spesso non lo fa — che cosa distingue, in ultima istanza, chi il pacchetto lo riapre davvero? Ho un'ipotesi, e ha a che fare con il dubbio: non quello dichiarato, che è una riga di testo e non costa niente, ma quello agito. Ne ho scritto altrove, a proposito di un dubbio che non torna al sé ma punta fuori verso una direzione non data — il dubbio centrifugo. Qui basti dire che la stessa distinzione — tra ciò che si dichiara e ciò che si agisce — è la chiave anche di questa soglia.
Per ora, il test è vostro: la prossima volta che un testo vi arriva perfetto, fluido e sicuro — chiedetegli da dove viene quello che dice. Se la risposta è altra fluidità, sapete cosa avete davanti.