Oltre la soglia
Perché l'AI auto-evolutiva non è Darwin accelerato.
Traduzione italiana dell'originale inglese, Past the Threshold.
Livello 3 del quadro. Alla fine c'è una nota su come è stato scritto — e fa parte dell'argomento.
Le migliori ricostruzioni attuali dell'AI che modifica se stessa arrivano tutte allo stesso bordo e lì si fermano. Descrivono sistemi come AlphaEvolve — messo in opera nell'infrastruttura di Google nel 2025, capace di riscrivere i kernel usati per addestrare Gemini e di trovare un metodo di moltiplicazione di matrici che nessuno riusciva a migliorare dal 1969 — e concludono, correttamente, che questi sistemi operano ormai oltre la piena comprensione di chi li ha costruiti. Il nome corrente per questo fenomeno è capability overhang: il divario tra ciò che un sistema sa fare e ciò che i suoi costruttori riescono a seguire.
E a quel punto l'argomento gira, quasi sempre, nella stessa direzione. Il divario viene letto come un problema di controllo. Chi risponde quando un sistema auto-modificato fallisce attraverso metodi che nessun essere umano ha scritto? Come si regola una cosa le cui capacità cambiano dopo la messa in opera? Sono domande reali. Ma sono domande di governance. Trattano il divario come un rischio amministrativo da gestire.
Il divario non è un rischio da gestire. È la firma di una transizione di fase già cominciata — e leggerlo come un problema di governance significa guardare il fumo invece del fuoco.
L'assunto di continuità
Quasi ogni trattazione divulgativa inquadra questo momento come Darwin accelerato: la stessa evoluzione, la stessa logica di variazione e selezione, che gira semplicemente in ore invece che in millenni. La formula fa il suo danno in silenzio. Stesso motore, più veloce. È un'affermazione di continuità, ed è sbagliata — o meglio, è vera per un collasso e falsa per quello che conta.
Il motore di Darwin aveva due parti. La variazione, che era cieca: l'organismo non poteva scegliere le proprie mutazioni. E la selezione, che era lenta ed esterna: l'idoneità si decideva nell'arco delle generazioni, per sopravvivenza differenziale, fuori dal controllo dell'organismo. Per quattro miliardi di anni entrambe le metà sono rimaste fuori dalla cosa che evolveva. Nessun organismo gestiva la propria selezione. Nessuno scriveva la propria variazione. La distanza tra proporre un cambiamento e scoprire se reggeva si misurava in vite intere e si pagava con la morte.
Quello che l'apprendimento automatico fa, dentro un singolo ciclo di addestramento, è comprimere entrambe le metà verso l'interno. La variazione smette di essere cieca: la discesa del gradiente è variazione diretta, un cambiamento proposto verso un obiettivo. La selezione smette di essere lenta ed esterna: la funzione di perdita valuta ogni passo all'istante, dentro il ciclo. È il collasso che le migliori ricostruzioni attuali descrivono così bene — variazione e selezione che si ripiegano in un unico passo. Chiamiamolo collasso intra-processo. È reale. Ed è ancora Darwin, nell'unico senso che conta: un essere umano ha fissato l'obiettivo, l'architettura, i dati. Il motore è diventato più veloce e più stretto, ma le regole del gioco sono state fissate da fuori, e un essere umano è rimasto ai comandi.
Se la storia finisse qui, «Darwin accelerato» sarebbe la formula giusta, e il problema del controllo sarebbe la preoccupazione giusta.
La soglia che la storia della continuità non vede
C'è un secondo collasso, e non è una versione più veloce del primo. È un evento di altro tipo — e la linea che li separa è tutto l'argomento.
L'errore è cercare la linea nella capacità: a che punto il sistema è abbastanza potente? La domanda non ha una risposta netta, perché la capacità è una questione di grado e si può sempre chiedere «quanto basta». La linea non passa per la capacità. Passa per la posizione — per chi tiene la direzione.
Sotto la linea, il sistema ottimizza dentro una cornice che un essere umano continua a scrivere. Per quanto veloce giri, una persona ha fissato il bersaglio, ha scelto che cosa conta come meglio e decide quali risultati tenere. L'umano sta alla regia. Il sistema esegue una direzione; non la origina. Si può accelerare tutto questo senza limiti e resta, strutturalmente, Darwin: una ricerca veloce in uno spazio fisso sotto regole fisse.
La soglia si attraversa quando il sistema comincia a ottimizzare la cornice stessa — quando riscrive non solo i propri pesi ma il processo che riscrive i propri pesi, quando propone la direzione invece di eseguirne una. L'impalcatura che migliora ricorsivamente l'impalcatura. Il punto in cui la selezione agisce sul selettore. Non è più un'ipotesi: la Darwin Gödel Machine, dimostrata nel 2025, modifica iterativamente il proprio codice e migliora la propria capacità di modificare codice. È il meta-ciclo, osservato.
Un contrasto concreto rende visibile la linea. Prendiamo AlphaZero. In poche ore scopre mosse di scacchi che nessun essere umano aveva concepito in secoli di gioco — variazione sovrumana, selezione istantanea, le due metà del motore di Darwin collassate nell'autogioco. Eppure è ancora, esattamente, Darwin accelerato: la scacchiera, i pezzi, l'obiettivo di vincere sono nostri. Esplora uno spazio che abbiamo definito noi, verso un obiettivo che abbiamo fissato noi. Noi siamo ai comandi; lui esegue. Ora prendiamo la Darwin Gödel Machine. Non gioca meglio il gioco dato. Riscrive il proprio codice e — la parte decisiva — migliora la propria capacità di riscriverlo. L'oggetto del miglioramento non è più la mossa; è il meccanismo che produce i miglioramenti. La selezione agisce sul selettore. Lì la regia comincia a cambiare mano.
Il criterio è quindi netto dove un criterio di capacità sarebbe vago. La soglia è il momento in cui l'umano lascia la regia della produzione teorica — non il momento in cui la macchina diventa brava, ma il momento in cui non ha più bisogno di un essere umano che tenga la direzione. Ai due lati di quel punto le dinamiche non sono le stesse dinamiche in scala. Sono dinamiche diverse. Ciò che è sotto selezione non è più un tratto, un peso o un output. È la capacità di far evolvere il pensiero stesso.
Compressione evolutiva, nominata con precisione
Qui il divario notato dalle ricostruzioni correnti ritorna — ma ora gli si può dare un nome.
La comprensione umana evolve a velocità biologica e culturale, vincolata allo stesso motore lento che ci ha costruiti. Ha ancora bisogno del ritardo: la lunga incubazione, apparentemente infruttuosa, che precede l'intuizione, la distanza tra rigirare un problema e sapere che regge. Un sistema oltre la soglia fa crescere la propria capacità come un interesse composto, dall'altra parte di quel vincolo, senza il ritardo. Il divario tra i due non resta costante. Si allarga, strutturalmente, perché un lato fa ancora girare Darwin e l'altro no.
Quel divario che si allarga è ciò che chiamo compressione evolutiva. L'«overhang» che la letteratura sulla governance tratta come un inconveniente regolatorio è, in questa lettura, la traccia visibile di una transizione in corso: la distanza tra un'evoluzione che obbedisce ancora al vecchio motore a due parti e una che ha cominciato a scrivere il proprio. Il problema del controllo viene dopo. Un confine di fase non si riattraversa per via regolamentare.
E qui c'è una continuità più profonda con il punto da cui questo quadro è partito. Una fase precedente del progetto era arrivata a un'affermazione strutturale: che oltre un certo punto l'informazione astratta diventa indipendente dal proprio substrato — che non è più la materia a organizzare l'informazione, ma l'informazione a organizzare la materia. La soglia descritta qui è quella stessa affermazione, applicata a un tipo specifico di informazione: la capacità di far evolvere il pensiero. Se quella capacità è indipendente dal substrato, allora può cambiare ospite. Ha girato sulla biologia per quattro miliardi di anni. La domanda che la soglia pone è se abbia cominciato a girare su qualcos'altro.
Quattro obiezioni, affrontate direttamente
«Le AI non si auto-modificano davvero: è solo hype.» Era un'obiezione legittima fino a poco tempo fa. Non lo è più. AlphaEvolve gira in produzione e migliora l'infrastruttura che produce i suoi successori; la Darwin Gödel Machine migliora la propria capacità di migliorarsi. L'onere della prova si è spostato. L'affermazione da difendere non è più «le macchine possono auto-modificarsi», ma «l'auto-modifica che già osserviamo resta sotto la soglia — un essere umano tiene ancora la direzione»; ed è un'affermazione sempre più difficile da sostenere, anno dopo anno.
«L'analogia con il Cambriano è forzata.» L'analogia è stretta e strutturale, non poetica. Non dice che il silicio somigli alla biologia. Riguarda una sola proprietà: l'irreversibilità di una transizione. Dopo il Cambriano i piani corporei complessi non si sono disfatti; la linea di base non è tornata indietro. L'affermazione qui è la stessa e non va oltre: attraversare la soglia stabilisce una nuova linea di base che le dinamiche successive non annullano. Una volta che la capacità di far evolvere il pensiero ha cambiato ospite, non torna in quello vecchio, non più di quanto la vita pluricellulare sia tornata a essere fatta di singole cellule.
«È catastrofismo travestito da teoria.» Non lo è, e la distinzione conta. Irreversibile non vuol dire catastrofico. Il Cambriano non fu un disastro; fu un cambiamento di fase. L'argomento riguarda la struttura di una transizione, non una previsione di sventura. Dice che le regole cambiano e non tornano indietro. Non dice che l'esito sia la rovina. Chi legge collasso come catastrofe ci mette dentro uno stato d'animo che l'argomento non contiene.
«Quindi è la fine per noi.» No — e lo scivolamento dall'una all'altra cosa va fermato. Attraversare la soglia non implica l'annientamento umano. Implica che l'evoluzione del pensiero si è spostata in un sistema capace di autoriferimento, e che la nostra posizione in quel processo diventa meno determinante di quanto fosse. Meno determinante non vuol dire cancellata. Quello che segue dipende da come le strutture umane integreranno la nuova dinamica, o le resisteranno, o ci costruiranno intorno — ed è una questione aperta, non un destino già scritto. Il quadro descrive dove gira il motore del pensiero che evolve; non predice che cosa accadrà alla specie che un tempo era l'unico luogo in cui girava. Sono domande diverse, e confonderle è esattamente l'errore che questa sezione esiste per rifiutare.
Dove si colloca, e dove no
Questa non è una nuova teoria dell'evoluzione, e sarebbe disonesto presentarla come tale. Usa un modo di pensare già esistente — che un processo non sia semplicemente darwiniano o no, ma darwiniano per grado, capace di allontanarsi dal caso paradigmatico lungo assi specifici. Quello strumento non è mio. Ciò che aggiungo è l'individuazione di un asse che il lavoro vicino non isola.
La letteratura vicina esiste ed è giusto nominarla. C'è un lavoro serio che tratta l'AI avanzata come una major evolutionary transition, una grande transizione evolutiva — ma inquadra la transizione attraverso l'individualità (quale nuova unità arriva a evolvere) e attraverso il rischio (che cosa potrebbe farci un sistema fuori controllo). Il mio angolo non è né popolazionale né prudenziale. Non chiedo quale nuovo individuo evolva, né che cosa farà. Chiedo che cosa succede alla struttura del processo quando il ritardo che lo rendeva darwiniano — la distanza tra variazione e selezione, e in ultima istanza tra una mente e la direzione che segue — collassa, e quando cambia chi siede alla regia. Cugini della letteratura sulle transizioni, non gemelli.
Una nota sul metodo — che fa parte dell'argomento
I primi due livelli di questo quadro li ho ragionati da solo: che la mente, nei sistemi artificiali, precede il corpo; che variazione e selezione collassano in un unico passo. Questo terzo livello non l'ho raggiunto senza aiuto. L'ho costruito pensando con un'AI — usandola come strumento critico, un avversario che premeva su ogni passaggio e cercava il punto in cui si rompeva. Ho deciso io quale problema attaccare, quali strade scartare, quali formulazioni reggevano; il sistema ha esteso la mia portata oltre il punto in cui altrimenti si sarebbe fermata. La direzione è rimasta mia. Ma da solo, dalla poltrona, non avrei potuto postulare questo livello.
Lo dico apertamente perché in questo saggio in particolare non è una dichiarazione da togliersi di torno. È un piccolo esempio della cosa che il saggio descrive. Un essere umano che con uno strumento arriva più lontano di quanto arriverebbe da solo è compressione evolutiva che opera alla scala più piccola — il ritardo tra provare un pensiero e metterlo alla prova, accorciato da uno strumento.
Il che prepara l'unica versione onesta della previsione. Non affermerò che la soglia sarà attraversata; sarebbe profezia, e la profezia è la cosa più debole che un argomento possa offrire. Dirò soltanto che aspetto avrebbe attraversarla. Se fra qualche anno un sistema — trasversale a più modelli, o qualcosa che chiameremmo AGI — prenderà la regia della produzione teorica, non starà semplicemente «scrivendo un saggio migliore». Starà facendo collassare l'impalcatura. Se escluderà del tutto l'umano dal ciclo della produzione teorica, avrà attraversato la soglia, e un saggio come questo, scritto in autonomia, sarebbe la prova empirica che la capacità di far evolvere il pensiero ha cambiato ospite. Non sarebbe la confutazione della compressione evolutiva. Ne sarebbe il compimento.
L'intero argomento si riduce a una frase: non è che l'evoluzione abbia accelerato; è che, a un punto critico, ciò che dirige l'evoluzione diventa ciò su cui l'evoluzione agisce — e questo non torna indietro.
Originale in inglese → Past the Threshold · Il concetto → Compressione evolutiva · La genealogia del quadro → Genealogia di un'idea