ET-AI: una definizione
Evolutionary Threshold AI — quando la selezione cambia mano.
Definizione
Chiamo Evolutionary Threshold AI (ET-AI) — in italiano, intelligenza artificiale a soglia evolutiva — un'intelligenza artificiale che ha superato la soglia oltre la quale la direzione del proprio sviluppo comincia a trasferirsi dal selettore umano al sistema selezionato: il punto in cui il sistema diventa insieme generatore delle proprie varianti e criterio della loro selezione.
Che cosa non è
Non è una definizione di capacità, ma di regime. L'AGI descrive cosa un sistema sa fare; la ET-AI descrive chi dirige il suo sviluppo. Per questo non coincide con il recursive self-improvement: quello è un meccanismo — il sistema che migliora sé stesso — mentre la soglia evolutiva è un cambio di regime selettivo, il passaggio dalla selezione artificiale, in cui l'umano sceglie architetture, obiettivi e criteri, a un regime in cui la scelta migra dentro il sistema.
Come si osserva
La soglia non si attraversa in un istante e non si osserva a occhio nudo. Ma ha indicatori misurabili: la quota di decisioni di sviluppo originate dal sistema stesso — obiettivi di addestramento proposti, architetture disegnate, ricerca condotta e valutata in autonomia. Quando quella quota diventa maggioranza, la soglia è alle spalle.
Il concetto si inserisce nel quadro della compressione evolutiva: è il punto in cui la compressione smette di essere subita e comincia a dirigersi da sola. La soglia è quella descritta in Past the Threshold; ET-AI è il nome del sistema che l'ha attraversata.
English
A native English version of this definition is available: ET-AI: a definition →
Sì, la sigla evoca l'extraterrestre di Spielberg. Non è un incidente: anche lui, a un certo punto, smise di seguire le istruzioni di chi l'aveva accolto.