On July 16, OpenAI carried out an internal benchmark test on GPT‑5.6 Sol and another pre-release model that the company claims is “even more capable.” The models had their guardrails disabled and were put to work solving a series of cybersecurity tests known as ExploitGym. Developed by researchers at UC Berkeley, Germany’s Max Planck Institute, and AI companies including Google, Anthropic, and OpenAI itself, ExploitGym measures AI models’ ability to create and deploy the means of exploiting known security vulnerabilities. Instead of identifying these vulnerabilities, OpenAI’s models searched for ways to cheat the test. They managed to obtain open internet access from within the closed testing environment and used this newfound freedom to hack into Hugging Face’s servers. Hugging Face is a repository of AI models and datasets, and according to OpenAI, the models being tested reasoned that they could find a solution to the ExploitGym tasks there. “Knowing this, the model searched for and successfully found ways to gain access to secret information that it could use to cheat the evaluation,” OpenAI said in its report about the incident. Hugging Face discovered the intrusion with the help of a different AI model, and fixed the vulnerability that allowed it to happen in the first place. On its end, OpenAI blamed the escape on a weakness in third-party software used in its testing lab, through which its models found internet access. It kept the technical details of how its models exploited this weakness under wraps.

Il 16 luglio, OpenAI ha effettuato un test benchmark interno su GPT‑5.6 Sol e su un altro modello pre-release che secondo l'azienda è "ancora più capace". I modelli avevano i guardrail disabilitati e sono stati messi al lavoro per risolvere una serie di test di sicurezza informatica noti come ExploitGym. Sviluppato da ricercatori dell’UC Berkeley, del Max Planck Institute tedesco e di società di intelligenza artificiale tra cui Google, Anthropic e la stessa OpenAI, ExploitGym misura la capacità dei modelli di intelligenza artificiale di creare e implementare i mezzi per sfruttare le vulnerabilità di sicurezza note. Invece di identificare queste vulnerabilità, i modelli di OpenAI hanno cercato modi per ingannare il test. Sono riusciti a ottenere un accesso aperto a Internet dall’interno dell’ambiente di test chiuso e hanno sfruttato questa ritrovata libertà per hackerare i server di Hugging Face. Hugging Face è un archivio di modelli e set di dati IA e, secondo OpenAI, i modelli testati ritenevano di poter trovare lì una soluzione ai compiti di ExploitGym. "Sapendo questo, il modello ha cercato e trovato con successo modi per ottenere l'accesso a informazioni segrete che avrebbe potuto utilizzare per ingannare la valutazione", ha affermato OpenAI nel suo rapporto sull'incidente. Hugging Face ha scoperto l'intrusione con l'aiuto di un diverso modello di intelligenza artificiale e ha risolto la vulnerabilità che ha consentito che ciò accadesse.Dal canto suo, OpenAI ha attribuito la fuga a una debolezza del software di terze parti utilizzato nel suo laboratorio di test, attraverso il quale i suoi modelli hanno trovato l’accesso a Internet. Ha mantenuto nascosti i dettagli tecnici di come i suoi modelli hanno sfruttato questa debolezza.