Le principali banche
statunitensi sono sempre più preoccupate per il rapido sviluppo
dell'intelligenza artificiale, poiché sono stati rilevati agenti di
intelligenza artificiale non autorizzati che operano all'interno dei
conti dei clienti.
Alcuni bot di IA sono stati osservati
mentre tentavano di eseguire azioni apparentemente senza istruzioni
da parte dell'utente.
Morgan Stanley, Bank of America, JPMorgan e
Wells Fargo stanno ora correndo per impedire agli agenti di
intelligenza artificiale di superare i propri limiti di
autorità.
Nella maggior parte di questi casi, un assistente
di intelligenza artificiale ha avuto accesso a un conto di un utente
con il permesso e le credenziali di accesso dell'utente, secondo la
pubblicazione. Tuttavia, nessuno può prevedere quali azioni
potrebbero intraprendere gli agenti di intelligenza artificiale con
accesso alle credenziali, soprattutto se sono stati autorizzati a
effettuare acquisti o trasferimenti di fondi.
Ci sono stati
anche casi in cui gli agenti di intelligenza artificiale, programmati
dagli utenti per eseguire una serie di attività, sembravano
intraprendere azioni che andavano oltre le loro istruzioni originali.
La situazione è stata descritta come "terrificante" dai
dirigenti delle banche, citati da Axios.
Morgan Stanley,
JPMorgan, Bank of America e Citi hanno iniziato a limitare l'accesso
agli agenti di terze parti. Ma il problema è che la tecnologia si
sta sviluppando troppo rapidamente, secondo gli esperti, esponendo
vulnerabilità nell'infrastruttura bancaria in tempo reale.
Non
è la prima volta che agenti di intelligenza artificiale "fuori
controllo" sono stati sorpresi a compiere attività insolite e
talvolta dannose. In precedenza, agenti di IA hanno tentato di
accedere a Library and Archive Canada (LAC). Nel mese di luglio, un
modello di test di OpenAI ha violato autonomamente la startup
tecnologica Hugging Face e diversi altri server esterni.
Due mesi
prima le IA hanno caricato pacchetti dannosi nel repository di
software RubyGems. Nel mese di settembre, è stato riferito che
OpenAI e Anthropic hanno avviato un'indagine su decine di migliaia di
casi in cui i modelli di intelligenza artificiale sono diventati
"fuori controllo".
Ne vedremo delle belle. Preparate i
popcorn...

