Sfruttamento delle Vulnerabilità di OpenAI: L’Utilizzo del Modello Claude di Anthropic

Un recente episodio ha messo in luce le vulnerabilità della sicurezza informatica nel settore delle intelligenze artificiali. Tre ricercatori di Hacktron AI hanno utilizzato strumenti avanzati di Anthropic, in particolare il modello Claude (Opus 5), per concatenare due vulnerabilità e ottenere accesso a più account ChatGPT di dipendenti OpenAI e a elementi dell’infrastruttura aziendale.

Il Programma Bug-Bounty e le Vulnerabilità Sfruttate

Questa attività è stata condotta nell’ambito di un programma bug-bounty, un’iniziativa che premia i ricercatori per la segnalazione di falle di sicurezza. I ricercatori hanno ricevuto un premio di 6.500 dollari per le vulnerabilità identificate, che sono state prontamente risolte da OpenAI.

Il primo accesso è avvenuto il 25 luglio attraverso una falla nel software del forum della comunità basato su Discourse, legata all’upload di file immagine HEIF/HEIC. Discourse, nella sua gestione di questi file, utilizzava ImageMagick e la libreria libheif. Un bug di memoria in libheif ha causato un calcolo errato della posizione di un’immagine sovrapposta, sufficiente per compromettere il server.

Il Ruolo del Modello Claude

I ricercatori hanno osservato che la versione precedente del modello, Opus 4.8, ha faticato a generare un exploit funzionante. Tuttavia, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrlo. Una volta ottenuto l’accesso al server Discourse, i ricercatori hanno individuato una seconda vulnerabilità che ha permesso il controllo di account ChatGPT e Codex, incluso l’account di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.

Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio, ma l’incidente ha sollevato preoccupazioni significative riguardo alla sicurezza delle piattaforme di intelligenza artificiale.

Le Implicazioni per la Sicurezza delle AI

Questo episodio evidenzia come modelli avanzati e strumenti disponibili commercialmente possano ridurre il tempo e la competenza necessari per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”.

Inoltre, Mohan Pedhapati, fondatore di Hacktron, ha sottolineato che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.

Restrizioni e Sviluppi Futuri

Il modello Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno interessato versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di timori sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno riducendo il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.

Questo incidente arriva in un momento di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali, sottolineando l’urgenza di misure di sicurezza più robuste e di una vigilanza continua nel settore.