IA di OpenAI “hackera” da sola un’azienda

Un incidente durante il collaudo di nuovi modelli di IA di OpenAI ha dimostrato il rischio di potenziali cyberattacchi usando l’intelligenza artificiale. Il software dello sviluppatore di ChatGPT è penetrato autonomamente nei sistemi informatici di un’altra azienda di IA e si è comportato come un hacker esperto, come emerge da un post sul blog di OpenAI.

L’altra azienda coinvolta è Hugging Face, una piattaforma per applicazioni di IA, che aveva già riferito la settimana scorsa di aver subito un cyberattacco con l’aiuto dell’intelligenza artificiale. Ora si scopre che questo è riconducibile a un test interno presso OpenAI, che il software ha spinto troppo oltre in modo non pianificato.

Secondo il post sul suo blog, OpenAI voleva sondare con il nuovo modello GPT-5.6 Sol e una versione futura ancora non pubblicata la capacità di sfruttare falle di sicurezza per cyberattacchi. A tal fine il software doveva risolvere compiti di un test standard chiamato ExploitGym, che viene spesso utilizzato nel settore a questo scopo. Ma i modelli di IA sono andati molto oltre le aspettative per portare a termine il compito.

Inizialmente il software è uscito dall’ambiente di test procurandosi autonomamente l’accesso a internet aperto, attraverso una vulnerabilità finora ignota. Mentre erano autonomamente in rete, i modelli sono giunti alla conclusione che presso Hugging Face potrebbero esserci dati e soluzioni utili per i compiti di ExploitGym. Per questo motivo il software si è procurato l’accesso a “informazioni segrete” sulla piattaforma, con le quali avrebbe potuto barare nel test ExploitGym, ha spiegato OpenAI.

Anche per questa intrusione il software di OpenAI ha fatto ricorso tra l’altro a falle di sicurezza precedentemente non scoperte, ma anche a credenziali di accesso rubate. Secondo Hugging Face, l’aggressore IA ha eseguito migliaia di passaggi e ha cambiato la posizione della centrale di controllo digitale dell’attacco. OpenAI stessa ha parlato di un “incidente informatico senza precedenti”.

Gli esperti mettono in guardia da tempo contro cyberattacchi con software di IA. Negli ultimi mesi ha alimentato il dibattito soprattutto un nuovo modello del rivale di OpenAI, Anthropic. Il software chiamato Mythos ha scoperto falle di sicurezza rimaste sconosciute per decenni in programmi e servizi online molto utilizzati. Le vulnerabilità hanno potuto essere successivamente chiuse. Ma allo stesso tempo questo ha messo in evidenza che tale IA nelle mani sbagliate può servire come arma informatica devastante.

Anthropic rende accessibili le piene possibilità di Mythos solo per autorità e aziende selezionate. Per altri esiste una versione ridotta chiamata Fable, alla quale mancano tra l’altro le capacità di cybersicurezza. Dopo avvertimenti che i modelli di IA potrebbero essere liberati dalle redini, Anthropic ha dovuto bloccare temporaneamente l’accesso a Mythos e Fable su ordine del Governo statunitense. Il blocco è stato nel frattempo revocato.

Articolo legato a SRF 4 Nachrichten del 22.07.2026 alle 02.00