In Breve
- Qual è l'episodio recente che ha coinvolto OpenAI?
- Un gruppo di ricercatori ha sfruttato vulnerabilità nei sistemi OpenAI utilizzando il modello Claude di Anthropic.
- Qual è stata la ricompensa per i ricercatori?
- I ricercatori hanno ricevuto un premio di 6.500 dollari per la segnalazione delle vulnerabilità.
- Cosa evidenzia questo episodio?
- L'episodio evidenzia i rischi legati alla sicurezza informatica e come l'IA possa semplificare lo sviluppo di exploit.
Un recente episodio ha messo in luce le vulnerabilità nei sistemi di OpenAI, grazie all’intervento di un gruppo di tre ricercatori di Hacktron AI. Utilizzando il modello Claude (Opus 5) di Anthropic, i ricercatori sono riusciti a concatenare due falle di sicurezza, ottenendo accesso a diversi account ChatGPT di dipendenti OpenAI e a parti della loro infrastruttura aziendale.
L’attività è stata condotta nell’ambito di un programma di bug bounty, che premia i ricercatori per la segnalazione di vulnerabilità. In questo caso, il team ha ricevuto un premio di 6.500 dollari per il loro lavoro, mentre OpenAI ha provveduto a risolvere i problemi identificati.
Il primo accesso è avvenuto il 25 luglio, attraverso una vulnerabilità nel software del forum della comunità basato su Discourse, legata all’upload di file immagine nei formati HEIF/HEIC. Discourse, infatti, convertiva questi file tramite ImageMagick e la libreria libheif. Un bug di memoria in libheif ha portato a un calcolo errato della posizione di un’immagine sovrapposta, sufficiente a compromettere il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema.
I ricercatori hanno notato che il modello Opus 4.8 ha faticato a generare un exploit funzionante, mentre, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrlo. Una volta ottenuto l’accesso al server Discourse, il team ha scoperto una seconda vulnerabilità che ha consentito il controllo degli account ChatGPT e Codex, incluso quello di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio. Questo episodio mette in evidenza come modelli avanzati e strumenti commerciali possano ridurre il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha dichiarato: “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni.”
È interessante notare che Opus 5 non ha subito le restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, limitata temporaneamente per timori sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente si verifica in un contesto di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali, sottolineando l’importanza di una vigilanza costante e di misure di sicurezza adeguate.
