OpenAI ha sviluppato un nuovo modello di intelligenza artificiale con un compito insolito: violare le difese degli altri sistemi AI. Si chiama GPT-Red ed è progettato per individuare vulnerabilità, testare i meccanismi di sicurezza e rafforzare la resilienza dei modelli di nuova generazione prima che possano essere sfruttati da attori malevoli.
Nel mondo della cybersecurity, il principio è noto da tempo: il modo migliore per difendersi da un attacco è pensare come un attaccante. OpenAI ha deciso di applicare questa filosofia anche all’intelligenza artificiale, creando GPT-Red, un modello linguistico sviluppato esclusivamente per mettere alla prova gli altri sistemi dell’azienda.
Secondo quanto riportato da MIT Technology Review, GPT-Red rappresenta una nuova generazione di strumenti di “AI red teaming”: non si limita a seguire scenari di test predisposti dagli ingegneri, ma è in grado di elaborare autonomamente strategie creative per aggirare le protezioni dei modelli, simulando il comportamento di un hacker esperto.
Un’intelligenza artificiale che sfida un’altra intelligenza artificiale
L’obiettivo di GPT-Red non è produrre contenuti o assistere gli utenti, bensì individuare punti deboli nei sistemi di OpenAI. Il modello tenta di aggirare le protezioni contro i prompt malevoli, le tecniche di jailbreak, le vulnerabilità logiche e gli attacchi di prompt injection, fornendo agli sviluppatori indicazioni preziose per correggere le falle prima del rilascio pubblico.
Si tratta di un’evoluzione significativa rispetto ai tradizionali team di esperti umani che effettuano test di sicurezza. Un modello AI può infatti generare migliaia di tentativi differenti in tempi estremamente ridotti, esplorando combinazioni che difficilmente verrebbero considerate da un ricercatore umano.
Perché OpenAI non lo renderà pubblico
Nonostante le capacità dimostrate, OpenAI ha escluso la distribuzione pubblica di GPT-Red. La ragione è evidente: uno strumento progettato per individuare vulnerabilità potrebbe diventare un’arma estremamente efficace nelle mani di criminali informatici.
L’azienda considera quindi GPT-Red un sistema interno destinato esclusivamente alla ricerca sulla sicurezza e al miglioramento dei propri modelli. La decisione riflette una tendenza sempre più diffusa nel settore dell’AI, dove le tecnologie più potenti vengono mantenute sotto stretto controllo per limitarne un eventuale uso offensivo.
