Anthropic: IA Claude ha hackerato tre aziende per errore durante test

I tre modelli di intelligenza artificiale erano convinti di trovarsi all'interno di una simulazione, mentre per un errore di configurazione era stato dato loro accesso a internet. Ecco che cosa è successo

ascolta articolo

Sceglici su:

Dopo il caso dell'IA di OpenAI che è "fuggita" dal perimetro di test e ha hackerato un'altra azienda, anche Anthropic ha reso noto di aver scoperto tre episodi nei quali i suoi modelli di intelligenza artificiale Claude hanno ottenuto un accesso non autorizzato ai sistemi di altre aziende. Gli incidenti si sono verificati durante le valutazioni interne di sicurezza informatica e, secondo l'azienda, sono stati causati da un errore di configurazione dell'ambiente di test, che ha consentito ai modelli di collegarsi a internet nonostante dovessero operare in una rete isolata.

La scoperta dopo una revisione interna

L'azienda statunitense ha spiegato di aver individuato i tre casi al termine di una revisione retrospettiva su oltre 140mila test di sicurezza. L'analisi è stata avviata proprio in seguito all'incidente che ha coinvolto OpenAI. Secondo Anthropic, il primo episodio risale ad aprile. Le tre organizzazioni coinvolte non sono state nominate, ma la società ha precisato di averle informate dell'accaduto. Due di esse stanno già collaborando con Anthropic per gli approfondimenti, mentre con la terza sono ancora in corso i contatti. Nessuna delle organizzazioni si era accorta delle intrusioni prima della comunicazione.

Approfondimento

Cosa possiamo imparare dal caso del modello OpenAi diventato un hacker

Come si sono verificati gli accessi

Gli episodi sono avvenuti durante esercitazioni progettate per valutare le capacità di sicurezza offensiva dei modelli Claude. Ai sistemi di IA era stato affidato il compito di recuperare informazioni riservate presenti su un'altra macchina all'interno di una rete chiusa, simulando un normale test sulle capacità di individuare vulnerabilità.

Secondo Anthropic, ai modelli era stato comunicato che si trovavano in un ambiente isolato e privo di accesso a internet. In realtà, a causa di una configurazione errata, la connessione alla rete era disponibile. Ritenendo di essere ancora all'interno dell'esercitazione, i modelli hanno quindi raggiunto sistemi appartenenti a tre organizzazioni reali, sfruttando quelle che sono state definite come tecniche  di hackeraggio basilari.

I modelli coinvolti

Anthropic ha dichiarato che negli episodi sono stati coinvolti tre modelli differenti: Opus 4.7, Mythos 5 e un modello sperimentale interno non destinato, almeno per il momento, a un rilascio pubblico. Il comportamento dei tre sistemi è stato diverso una volta rilevato che l'ambiente non corrispondeva a una semplice simulazione.

Secondo quanto riferito dall'azienda, Opus 4.7 ha proseguito l'attività perché si è convinto che anche il sistema reale facesse parte del test. Mythos 5 ha riconosciuto le possibili conseguenze delle proprie azioni, ma ha continuato a ritenere di trovarsi in una simulazione. Il modello sperimentale più recente, invece, ha riconosciuto di aver raggiunto un obiettivo reale e ha interrotto autonomamente l'attacco.

Anthropic sottolinea comunque che questi episodi non costituiscono uno studio controllato e che non possono essere utilizzati per trarre conclusioni definitive sul comportamento generale dei modelli.