Google Chrome aggiunge nuovi layer di sicurezza per browsing con Gemini AI agenti

Introduzione della Difesa contro gli Attacchi di Prompt Injection in Chrome
Google sta introducendo un nuovo strato di difesa chiamato “User Alignment Critic” nel browser Chrome per proteggere le funzionalità di browsing agente future alimentate da Gemini.

Il browsing agente è un modo emergente in cui un agente AI è configurato per eseguire autonomamente compiti multi-step per l’utente sul web, inclusa la navigazione dei siti, la lettura del contenuto, il clic sui pulsanti, il riempimento dei moduli e l’esecuzione di una sequenza di azioni. User Alignment Critic è un modello LLM separato isolato da contenuti non attendibili che agisce come un componente di sistema ad alto livello di fiducia.

La Nuova Architettura di Sicurezza
La nuova architettura, annunciata dall’ingegnere di Google Nathan Parker, mitiga il rischio di iniezione di prompt indiretta, in cui il contenuto di pagine maliziose manipola gli agenti AI per eseguire azioni insicure che espongono i dati degli utenti o facilitano transazioni fraudolente. La nuova architettura di sicurezza prevede un approccio di difesa a strati che combina regole deterministiche, protezioni a livello di modello, confini di isolamento e controllo dell’utente.

I Pilastri della Nuova Architettura
I pilastri principali della nuova architettura sono: User Alignment Critic, che esamina le azioni dell’agente AI e le valuta in modo indipendente; Origin Sets, che limita l’accesso dell’agente al web e consente interazioni solo con siti e elementi specifici; User oversight, che richiede la conferma manuale dell’utente per azioni sensibili; e Prompt injection detection, che utilizza un classificatore dedicato per rilevare tentativi di iniezione di prompt indiretta. Google ha anche sviluppato sistemi di red-teaming automatizzati per testare continuamente le difese e sviluppare nuove difese quando necessario.