Gli assistenti intelligenti possono accedere ai servizi bancari utilizzando le credenziali dei clienti, ma non sempre riescono a rispettare le loro intenzioni. Negli Stati Uniti diversi istituti stanno bloccando questi strumenti per prevenire errori, frodi e possibili controversie legali.
L’intelligenza artificiale entra sempre più spesso nella vita quotidiana degli utenti, ma il suo impiego nella gestione del denaro apre nuovi interrogativi sulla sicurezza dei conti correnti. Negli Stati Uniti, diverse banche hanno iniziato a limitare l’accesso agli agenti AI esterni, programmi capaci di eseguire operazioni online per conto degli utenti, dopo aver rilevato tentativi di accesso attraverso le credenziali dei correntisti.
Tra gli istituti che stanno adottando misure restrittive figurano JPMorgan Chase, Bank of America, Morgan Stanley e Charles Schwab. L’obiettivo è impedire che software di terze parti possano operare sui conti senza un controllo adeguato da parte della banca.
Il problema delle credenziali condivise
Gli agenti AI sono progettati per svolgere autonomamente attività che normalmente richiederebbero l’intervento umano. Possono navigare sui siti, accedere a servizi digitali e interagire con diverse piattaforme per completare un incarico.
Il problema nasce quando l’utente affida loro le proprie credenziali bancarie. Anche se l’accesso viene concesso volontariamente, l’utilizzo di username e password da parte di un agente automatico può violare le condizioni contrattuali dell’istituto.
Le banche temono soprattutto che questi strumenti possano interpretare male una richiesta, superare i limiti stabiliti dall’utente o eseguire azioni differenti da quelle previste. Un assistente incaricato di gestire un’attività finanziaria potrebbe, per esempio, avviare un’operazione che il cliente non intendeva autorizzare.
Il rischio della manipolazione delle istruzioni
Oltre agli errori operativi, esiste un problema di sicurezza informatica noto come prompt injection. Si verifica quando un agente AI incontra istruzioni malevole all’interno di documenti, pagine web o altri contenuti che deve analizzare e finisce per seguirle, allontanandosi dall’obiettivo assegnato dall’utente.
Il rischio è particolarmente rilevante quando il software ha già accesso a strumenti in grado di eseguire pagamenti o modificare dati. In questo caso, un’istruzione ingannevole potrebbe trasformarsi da semplice errore di interpretazione in un’azione concreta.
