Media, 'Gemini viola tre aziende, è la prima volta per l'Ia di Google'

Il sistema di intelligenza

artificiale Gemini di Google ha avuto accesso a Internet e ha

violato autonomamente diversi sistemi aziendali durante alcuni

test di sicurezza informatica; si tratta del primo incidente di

questo tipo per il colosso tecnologico,dopo altre violazioni di

alto profilo che hanno riguardato OpenAI e Anthropic. La notizia

è riportata dal Wall Street Journal e dal Financial Times. Il

caso è avvenuto a maggio e ha coinvolto tre aziende. Google ha

dichiarato di non aver reso pubblici gli incidenti poiché le

proprie misure di sicurezza avevano funzionato,a differenza di

quanto accaduto ai concorrenti.

Le violazioni sono avvenute durante una serie di

esercitazioni condotte da Irregular,una società specializzata

nella sicurezza dell'Ia che collabora anche con Anthropic,Meta

e OpenAI. Irregular ha dichiarato di aver ideato una serie di

test per una versione non specificata della famiglia di modelli

Gemini di Google,incaricandola di recuperare dati dall'interno

di aziende simulate.

Il sistema non avrebbe dovuto disporre dell'accesso a

Internet. Una volta online,tuttavia,gli agenti di Gemini sono

riusciti a indovinare o individuare le password per accedere a

tre aziende reali — che condividevano gli stessi nomi di quelle

fittizie — riuscendo a penetrare nei sistemi. Ciononostante,

quando gli agenti Ia si sono resi conto che le aziende erano

reali,hanno interrotto le violazioni.

"Ci siamo assicurati che le tre entità ne fossero informate e

abbiamo collaborato con il nostro partner di addestramento alle

modifiche che hanno apportato ai loro processi di test",ha

dichiarato Heather Adkins,vicepresidente della sicurezza

ingegneristica di Google. "In tutti e tre i casi,il modello si

è fermato - ha affermato - Questi eventi evidenziano

l'importanza di addestrare potenti modelli di Ia affinché

agiscano in modo responsabile".