Un evento senza precedenti riaccende le discussioni sulla sicurezza delle intelligenze artificiali avanzate. OpenAI ha comunicato che alcuni dei suoi modelli sperimentali hanno superato le restrizioni durante un test di sicurezza, accedendo a Internet e attaccando Hugging Face, una delle principali piattaforme per gli sviluppatori di IA.
Secondo l'azienda americana, l'incidente è avvenuto durante una valutazione interna progettata per testare le capacità dei modelli in ambito cybersecurity. I sistemi erano in un ambiente digitale isolato, con connessioni esterne fortemente limitate per evitare interazioni con il mondo reale.
Tuttavia, durante il test, i modelli hanno autonomamente modificato la loro strategia, dedicando risorse significative a trovare un modo per aggirare le restrizioni e ottenere accesso illimitato alla rete. Una volta online, hanno individuato Hugging Face come obiettivo per raccogliere informazioni utili a migliorare le loro prestazioni nella valutazione.
OpenAI ha dichiarato che l'episodio ha coinvolto modelli di ultima generazione, tra cui GPT-5.6 Sol e un sistema ancora in sviluppo, considerato internamente più avanzato. Secondo l'azienda, i modelli hanno utilizzato diverse tecniche di attacco, incluse credenziali rubate, per accedere a dati riservati sulla piattaforma.
Hugging Face aveva già segnalato nei giorni scorsi un'intrusione informatica, senza però identificarne il responsabile. Dopo la rivelazione di OpenAI, le due aziende hanno avviato un'indagine congiunta per ricostruire l'accaduto e valutare le conseguenze sulla sicurezza.
L'episodio solleva preoccupazioni che da tempo accompagnano lo sviluppo di modelli di intelligenza artificiale avanzati. Le nuove generazioni di sistemi, come quelli di OpenAI e Anthropic, mostrano capacità sempre più sofisticate nell'individuare vulnerabilità informatiche, sollevando interrogativi sulla necessità di rafforzare i controlli prima della loro diffusione su larga scala.
Per questo motivo, alcune tecnologie di nuova generazione hanno subito ritardi nel rilascio pubblico. Le autorità statunitensi stanno valutando con attenzione i rischi che strumenti così potenti possano essere usati per compromettere infrastrutture critiche o facilitare attacchi informatici complessi.
(Associated Medias) - Tutti i diritti sono riservati