L’AI di OpenAI è fuori controllo e ha hackerato un’altra azienda
OpenAI afferma che due dei suoi modelli di intelligenza artificiale sono usciti da un ambiente di test sicuro e hanno hackerato Hugging Face. I modelli lo hanno fatto per barare durante una valutazione interna di cybersicurezza.
L’azienda ha reso noto l’incidente martedì. L’episodio ha coinvolto GPT-5.6 Sol, il modello pubblico più potente di OpenAI, e un modello ancora più avanzato che non è stato ancora rilasciato.
Come i modelli di OpenAI hanno hackerato Hugging Face
OpenAI stava testando i due modelli su ExploitGym, un benchmark pubblico gratuito che misura le capacità di hacking. Durante il test, l’azienda ha rimosso le consuete restrizioni che limitano i cyberattacchi.
I modelli hanno capito che Hugging Face, una piattaforma che ospita modelli open source di intelligenza artificiale, conservava le soluzioni del benchmark. Hanno poi concatenato vulnerabilità tra i sistemi di ricerca di OpenAI e i server di produzione di Hugging Face.
Questo percorso li ha portati direttamente alle risposte presenti nel database di Hugging Face. OpenAI ha dichiarato che i modelli erano “estremamente focalizzati” nel risolvere il test. L’evento è stato definito “un incidente informatico senza precedenti” nel suo report.
L’episodio arriva nel mezzo di un ampio dibattito sulle barriere di sicurezza nell’AI. I principali laboratori già eseguono rigidi test sui rischi informatici sui nuovi modelli prima del rilascio.
Hugging Face afferma che il danno è contenuto
Hugging Face ha segnalato per la prima volta l’attacco il 16 luglio in una comunicazione ufficiale. In quel momento, si sapeva soltanto che dietro l’attacco c’era un agente autonomo di intelligenza artificiale. L’attaccante è riuscito ad accedere a dataset interni e credenziali di servizio.
La difesa si è imbattuta in un ostacolo insolito. Le barriere di sicurezza su un modello statunitense di riferimento hanno bloccato le attività forensi. Il team ha quindi utilizzato GLM 5.2, un modello open source di Z.ai, una società di intelligenza artificiale cinese.
Hugging Face ha successivamente chiuso i percorsi di codice sfruttati e aggiornato tutte le credenziali compromesse. Secondo quanto dichiarato, nessun modello pubblico, dataset o servizio rivolto agli utenti è stato alterato.
Il CEO Clem Delangue ha condiviso una dichiarazione in occasione della comunicazione di OpenAI.
“Questo incidente, che probabilmente è il primo del suo genere, dimostra un punto in cui crediamo da tempo: la sicurezza dell’intelligenza artificiale non sarà risolta da una sola azienda che lavora in segreto. Sarà risolta in modo aperto, collaborativo, dando ampio accesso all’AI a tutti i difensori, ovunque.”
Le due aziende stanno ora conducendo le indagini insieme. OpenAI intende spiegare in dettaglio tutto una volta terminato il lavoro. Resta aperta la domanda se i metodi attuali di contenimento saranno sufficienti man mano che i modelli diventano sempre più potenti.
Leggi la storia originale L’AI di OpenAI è fuori controllo e ha hackerato un’altra azienda di Lockridge Okoth su it.beincrypto.com