La dichiarazione di Evan Hubinger riaccende il dibattito sui rischi dell’intelligenza artificiale. Nelle stesse ore un ricercatore di Anthropic si è dimesso accusando l’industria di correre verso sistemi di IA capaci di migliorarsi autonomamente. Ma quel 10% non è una previsione scientifica: è una valutazione personale del rischio.
L’intelligenza artificiale potrebbe rappresentare un rischio esistenziale per l’umanità entro la fine del decennio. A sostenerlo non è un critico esterno del settore, ma Evan Hubinger, ricercatore di Anthropic e figura di primo piano nel campo dell’AI alignment, la disciplina che studia come fare in modo che sistemi sempre più potenti rimangano compatibili con gli obiettivi e i valori umani.
Secondo Hubinger, la probabilità che l’intelligenza artificiale possa arrivare a provocare la morte di tutta l’umanità entro i prossimi dieci anni sarebbe superiore al 10%. È una percentuale enorme se interpretata come rischio di un evento catastrofico, ma va letta correttamente: non significa che Hubinger preveda che l’umanità morirà entro il 2036.
Il punto non è l’IA di oggi
La preoccupazione è rivolta alla possibile evoluzione verso sistemi molto più autonomi, capaci non soltanto di rispondere alle richieste degli utenti, ma di pianificare, agire nel mondo reale, utilizzare strumenti, scrivere software e contribuire allo sviluppo di sistemi di IA ancora più avanzati.
È proprio l’ipotesi dell’auto-miglioramento ricorsivo a rappresentare uno degli scenari più discussi nella ricerca sulla sicurezza dell’IA.
Se un sistema diventasse sufficientemente capace da contribuire alla progettazione della propria generazione successiva, il processo di sviluppo potrebbe teoricamente accelerare. A quel punto, sostiene la corrente più preoccupata della comunità AI safety, potrebbe diventare molto più difficile per gli esseri umani prevederne il comportamento.
Cosa potrebbe succedere davvero?
Gli esperti di sicurezza guardano piuttosto a una combinazione di fattori: sistemi altamente autonomi, capacità di utilizzare computer e infrastrutture, accesso a risorse esterne, capacità di replicarsi o modificarsi, obiettivi non correttamente allineati e difficoltà degli esseri umani nel monitorarne le attività.
La possibilità di comportamenti indesiderati non è soltanto un tema teorico. La ricerca sulla sicurezza dell’IA sta cercando proprio di individuare segnali comportamentali e soglie di rischio che possano permettere di riconoscere in anticipo l’evoluzione verso sistemi potenzialmente pericolosi. Un recente lavoro di ricerca propone, ad esempio, un sistema strutturato di monitoraggio della progressione di comportamenti potenzialmente catastrofici.
Non è la fine del mondo, ma è un campanello d’allarme
Al momento non esiste alcuna evidenza che l’IA attuale sia sul punto di sterminare l’umanità. Né il 10% di Hubinger può essere considerato una previsione scientifica dell’estinzione.
Il settore dell’IA sta entrando in una fase nella quale i sistemi non sono più soltanto strumenti che generano testo o immagini. Gli agenti possono eseguire sequenze di azioni, utilizzare software, programmare e operare con livelli crescenti di autonomia.
La domanda non è se l’IA ci ucciderà entro dieci anni. Nessuno lo sa. La domanda è se stiamo costruendo sistemi abbastanza potenti da rendere questa eventualità non più fantascienza, senza aver ancora dimostrato di saperli controllare.
