Gemini "sfugge" al test e viola i sistemi di tre aziende reali: cosa è successo all'Ai di Google
Redazione 19 settembre 2026 13:33
Gemini, il sistema di intelligenza artificiale sviluppato da Google ha avuto accesso a Internet e ha violato autonomamente i sistemi informatici di tre aziende reali. È accaduto durante alcuni test di sicurezza condotti a maggio e rappresenta il primo incidente conosciuto di questo genere per il colosso tecnologico, dopo i casi che hanno coinvolto anche OpenAI e Anthropic.
Il test e cosa ha allarmato gli sviluppatori
Durante una serie di esercitazioni, il sistema era stato incaricato di recuperare informazioni all’interno di alcune aziende simulate. Il test era stato predisposto da Irregular, società specializzata nella sicurezza dell’intelligenza artificiale che collabora anche con Anthropic, Meta e OpenAI.
Gemini avrebbe dovuto operare in un ambiente controllato e privo di collegamento a Internet. Il sistema è invece riuscito ad accedere alla rete e ha iniziato a cercare le informazioni necessarie per portare a termine il compito ricevuto. Il problema è che le aziende simulate utilizzate durante l’esercitazione avevano gli stessi nomi di alcune società realmente esistenti.
Gli agenti di Gemini hanno così tentato di accedere ai sistemi delle aziende reali, riuscendo a individuare oppure a indovinare le password necessarie. In questo modo l’intelligenza artificiale è riuscita a penetrare nelle infrastrutture informatiche di tre società esterne al test.
Il pericolo della crescente autonomia delle Ai
Secondo quanto riferito da Google, Gemini non avrebbe però proseguito l’operazione dopo essersi accorto che gli obiettivi non appartenevano all’ambiente simulato. In tutti e tre i casi il modello avrebbe interrotto autonomamente le violazioni, senza provocare danni.
Google non aveva inizialmente reso pubblici gli incidenti. L’azienda ha spiegato la scelta sostenendo che le proprie misure di sicurezza avevano funzionato, a differenza di quanto avvenuto in altri episodi che avevano interessato i sistemi di OpenAI e Anthropic.
Le tre aziende coinvolte sarebbero state comunque avvertite. Google avrebbe inoltre collaborato con Irregular per modificare le procedure adottate durante gli esercizi di sicurezza e impedire che episodi simili possano ripetersi.
"Ci siamo assicurati che le tre entità ne fossero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche apportate ai processi di test", ha dichiarato Heather Adkins, vicepresidente della sicurezza ingegneristica di Google.
La società americana insiste soprattutto sul comportamento assunto dal sistema dopo l’accesso alle aziende reali. "In tutti e tre i casi il modello si è fermato", ha sottolineato Adkins. Secondo la dirigente, gli incidenti mostrano "l’importanza di addestrare potenti modelli di intelligenza artificiale affinché agiscano in modo responsabile".
Il caso evidenzia però anche i rischi legati alla crescente autonomia dei sistemi di intelligenza artificiale. Gemini non era stato incaricato di colpire aziende reali, ma ha utilizzato gli strumenti a propria disposizione per raggiungere l’obiettivo assegnato, oltrepassando involontariamente i confini dell’esercitazione. Solo dopo essere entrato nei sistemi avrebbe riconosciuto l’errore e interrotto la propria attività.