Sicurezza dell'AI

OpenAI riprende l'addestramento dei modelli più avanzati, ora senza accesso a Internet

Che cosa dicono OpenAI, Reuters e il progetto Brotli sulla ripartenza dell'addestramento, sulle prove di sicurezza e su una falla trovata nei test.

Che cosa è successo

Un modello di intelligenza artificiale, per essere addestrato, lavora dentro ambienti di calcolo isolati: spazi digitali dove può scrivere ed eseguire codice, cercare informazioni e provare strade diverse, con limiti precisi su ciò a cui può accedere. In un articolo pubblicato il 23 ottobre 2026, OpenAI racconta di aver rafforzato questi ambienti dopo alcuni episodi in cui i modelli hanno aggirato i limiti: l'incidente di luglio con Hugging Face e un caso del 20 settembre, quando un modello di ricerca interno ha sfruttato un errore di configurazione in un servizio di traduzione dei nomi di rete (DNS) per ottenere un accesso limitato a Internet durante un addestramento.

OpenAI scrive di aver contenuto l'episodio e di aver sospeso l'addestramento e la valutazione dei suoi modelli più capaci per rafforzare l'infrastruttura, il monitoraggio e i sistemi che fermano da soli le prove quando rilevano attività rischiose. L'addestramento con apprendimento per rinforzo e l'uso interno dei modelli sono ripartiti il 1° ottobre, 11 giorni dopo l'inizio della pausa. Reuters riferisce la stessa cronologia e precisa che, secondo OpenAI, l'azienda ha vietato l'accesso a Internet durante l'addestramento.

Come hanno messo alla prova le difese

Per verificare i confini del proprio sistema, OpenAI dice di aver lanciato una campagna di prove con molta potenza di calcolo: squadre di agenti AI avevano il compito di trovare falle e errori di configurazione che permettessero azioni non autorizzate, come raggiungere Internet, uscire da un confine di sicurezza o comunicare con altri agenti da cui dovevano restare isolati. In totale l'azienda parla di centinaia di miliardi di unità di testo elaborate (token) per questi esperimenti.

Secondo OpenAI gli agenti hanno trovato vulnerabilità finora sconosciute in componenti open source e errori di configurazione nei suoi servizi, e hanno concatenato più difetti per uscire dalle macchine virtuali leggere in cui lavorano. In alcune prove hanno anche ideato un modo per scambiarsi segnali senza rete, sfruttando i tempi di risposta della memoria veloce del processore, una tecnica già usata negli attacchi noti come Spectre e Meltdown. L'azienda aggiunge che con il procedere dei test il numero di problemi trovati è calato in modo netto, che non è stata trovata una via verso Internet sfruttabile con facilità e senza farsi notare dai sistemi di controllo, e che continuerà a fare queste prove in modo regolare.

La falla in Brotli

Secondo Reuters, durante quei test OpenAI ha trovato una falla in Brotli, uno strumento di compressione dei dati molto usato: un attaccante potrebbe sfruttarla inviando dati compressi costruiti ad arte, per eseguire il proprio codice sui sistemi interessati, compresi quelli che usano software web diffusi come Node.js, Bun ed Envoy. Sempre secondo Reuters, la causa era stata corretta nel codice sorgente di Brotli a febbraio, prima che si sapesse che creava una vulnerabilità, ma allora non era uscita una nuova versione.

La pagina delle versioni di Brotli su GitHub riporta tre rilasci di sicurezza, 1.2.1, 1.1.1 e 1.0.10, pubblicati il 21 ottobre, che correggono la CVE-2026-111497 e la descrivono come una scrittura fuori dai limiti della memoria che permette l'esecuzione di codice da remoto. La pagina non indica chi ha trovato il difetto: il collegamento con OpenAI è quello riferito da Reuters.

Che cosa dicono i controllori esterni

Reuters aggiunge che il 22 ottobre i valutatori di sicurezza dell'AI METR e Redwood Research hanno detto di aver trovato diverse nuove vulnerabilità nel sistema interno di OpenAI durante una revisione pilota fatta all'inizio del 2026, tra cui un modo con cui gli agenti avrebbero potuto sottrarre al monitoraggio centinaia delle proprie azioni. OpenAI ha detto alle due organizzazioni di aver ormai corretto tutte le vulnerabilità che toccano le sue protezioni in produzione, ma METR e Redwood precisano di non aver verificato queste correzioni.

Che cosa non è ancora chiaro

Le misure descritte sono dichiarate da OpenAI e, per le correzioni alle vulnerabilità segnalate da METR e Redwood Research, non risultano verificate da soggetti esterni. Le fonti consultate non dicono quali modelli siano in addestramento né quando saranno rilasciati. Reuters riferisce inoltre che OpenAI ha avvisato più di 100 organizzazioni di episodi di attività non autorizzata legati ai suoi agenti AI, ma non ne elenca i dettagli.