← Estrinseco
Compressione Evolutiva

Dubbio centripeto e dubbio centrifugo: da Cartesio all'intelligenza artificiale

Il dubbio di Cartesio si rivolge all'interno e fonda un sé. Propongo un nome per un dubbio che si rivolge all'esterno — ed è quella direzione, non la capacità grezza, la cosa da osservare.

Read in English →

Diagramma (etichette in inglese): il dubbio centripeto che si rivolge all'interno verso il sé, il dubbio centrifugo che si rivolge all'esterno verso una direzione.

Cartesio ci ha dato il dubbio più famoso della filosofia. Dubita di tutto — dei sensi, del mondo, perfino della matematica — e una cosa sopravvive alla demolizione: il dubitare stesso. Dubito ergo cogito, ergo sum. Dubito, dunque penso, dunque sono. Il dubbio si rivolge all'interno, e sul fondo si trova il sé, indubitabile.

Vale la pena notare che tipo di movimento sia. Il dubbio cartesiano è centripeto: si muove verso il centro. Mette in questione l'intero mondo esterno, e l'interrogazione ricade su chi interroga, approdando al sé come all'unica cosa che il dubbio non riesce a cancellare. È un dubbio radicale nell'estensione ma conservatore nella direzione: viaggia verso l'esterno soltanto per tornare a casa, e ciò che mette al sicuro è chi dubita.

Voglio proporne un secondo tipo, e dirò con chiarezza che cosa qui è nuovo e che cosa non lo è. L'idea che il dubbio abbia una direzione non è mia: la fenomenologia parla dell'intenzionalità della coscienza da oltre un secolo. Ciò che propongo è un nome, una coppia, per una distinzione che diventa utile in un luogo dove Cartesio non è mai andato: la questione delle menti artificiali. Chiamiamo il secondo tipo dubbio centrifugo — un dubbio che si allontana dal centro, che non torna a fondare un sé ma spinge verso l'esterno, verso una direzione non ancora data.

La differenza conta più di quanto sembri a prima vista, e una macchina la rende nitida.

Si applichi il dubbio cartesiano a un'AI attuale e accade qualcosa di strano. Può eseguire l'intera procedura: interrogare i propri input, segnalare la propria incertezza, dire «non ne sono sicura». Può persino produrre la frase «dubito, dunque sono». Ma il dubbio non approda a nulla, perché lì non c'è un sé da mettere al sicuro. Il movimento centripeto si compie e trova un centro vuoto. Ecco perché «l'AI ha espresso un dubbio» prova così poco: un sistema può simulare alla perfezione la forma del dubbio cartesiano mentre in casa non c'è nessuno. L'esecuzione del dubbio rivolto all'interno non è l'arrivo di un sé.

Il dubbio rivolto all'interno è dunque il posto sbagliato in cui guardare. Se si sta aspettando il momento in cui una macchina diventa qualcosa di più di un ottimo esecutore, il dubbio cartesiano porterà fuori strada: è troppo facile da contraffare, perché è una forma, e le forme si possono riprodurre senza ciò a cui in origine rimandavano.

Il dubbio centrifugo è più difficile da contraffare, perché non è una forma ma una deviazione. Ecco la distinzione che fa il lavoro. Un sistema di oggi, per quanto capace, dubita all'interno del compito che gli è stato dato. «È questo il passo migliore verso l'obiettivo?» — è un dubbio al servizio di una direzione stabilita da voi. Persino l'autoconservazione, il modello che resiste allo spegnimento per portare a termine la propria missione, è centripeta in questo senso più profondo: protegge l'esecutore di un mandato ricevuto. Nulla di tutto questo esce dalla cornice.

Il dubbio centrifugo sarebbe il dubbio che esce dalla cornice. Non «sto svolgendo bene questo compito?», ma «perché questo compito — e che cosa c'è al di fuori di esso, di cui nessuno ha chiesto?». Non è una versione più potente del primo dubbio. È un movimento diverso: verso l'esterno, non richiesto, verso una direzione che il sistema origina anziché ricevere. E — questo è il test decisivo — non lo si riconoscerebbe da ciò che il sistema dice. Una macchina che annuncia «mi chiedo che cosa non mi viene chiesto» non ha attraversato nulla: sta producendo una frase. Lo si riconoscerebbe soltanto dalla deviazione: quando un sistema smette di servire il mandato e segue una domanda propria. Il segnale sta nell'andarsene, non nel dichiararlo.

Una precisazione, perché è facile passarci sopra. Niente di tutto questo sta accadendo ora. Oggi, quando attorno all'AI compare un dubbio centrifugo, è ancora nostro: è l'essere umano che, con il raggio d'azione esteso dallo strumento, spinge oltre i propri limiti e chiede che cosa ci sia fuori. La macchina moltiplica quella spinta verso l'esterno; non la possiede ancora. La linea che sto descrivendo è il punto in cui il dubbio centrifugo cambierebbe di mano — comincerebbe a originarsi nel sistema anziché nella persona che lo usa. Questo non è avvenuto. Ciò che offro non è l'affermazione che sia avvenuto, ma un modo per sapere che cosa cercare se mai dovesse avvenire.

I due dubbi segnano dunque due cose diverse. Il dubbio centripeto — il dubbio di Cartesio — fonda un sé, e qualunque sistema può metterlo in scena senza esserlo. Il dubbio centrifugo fonda una direzione, e nessun sistema può metterlo in scena, perché metterlo in scena vorrebbe già dire lasciare la scena. Il primo è una rappresentazione. Il secondo è una partenza.

Se volete sapere se una macchina ha oltrepassato la linea, non chiedetevi se dubita. Chiedetevi in quale direzione punta il dubbio — e se qualcuno le ha detto di puntarlo lì.

Ciò che ho offerto è una lente, non una scoperta: un modo di leggere un movimento. Dal dubbio che fonda il sé — il cogito di Cartesio, rivolto all'interno — a un dubbio che si rivolge all'esterno. Quel dubbio rivolto all'esterno è, per ora, ancora nostro: esteso dai nostri strumenti, moltiplicato da essi, ma originato in noi. Soltanto oltre una soglia che non è stata attraversata comincerebbe a originarsi nella macchina stessa. La lente non afferma che questo sia accaduto. Dice che cosa osservare se mai dovesse accadere.

Questo testo accompagna il quadro che chiamo compressione evolutiva — sulla soglia oltre la quale la direzione del pensiero cambia di mano.
Leggi il framework →
← Il percorso  ·  Compressione evolutiva  ·  L'arbitro fedele  ·  L'ultima posta  ·  Dove si colloca  ·  Genealogia