OpenAI licenzia tre ricercatori di sicurezza: cosa sta succedendo dietro le quinte

OpenAI licenzia tre ricercatori di sicurezza: secondo il Wall Street Journal, ripreso il 1° ottobre da TechCrunch, tre membri del team di sicurezza sono stati allontanati per aver condiviso informazioni riservate con un’organizzazione esterna. L’azienda parla di una violazione delle sue «policy sull’accesso e la gestione di informazioni aziendali sensibili». È il terzo segnale in quattro giorni sulla governance della sicurezza in OpenAI, dopo lo stop di GPT-6.1 Astra e l’inchiesta del New York Times sugli allarmi interni ignorati: le date sono vicine, ma nessuno ha dimostrato che un fatto abbia causato l’altro. Per chi in azienda usa il modello di un fornitore, la domanda pratica è quanto fidarsi e come tenere il controllo in casa propria.

In questo articolo scoprirai:

• cosa ha confermato OpenAI e cosa resta riservato sull’uscita dei tre ricercatori;
• come si susseguono lo stop di GPT-6.1 Astra, gli allarmi interni e gli allontanamenti;
• chi verifica davvero la sicurezza di un modello e cosa chiedere al fornitore;
• quali dati non affidare a un’AI di terzi e quali controlli tenere in casa.

OpenAI licenzia tre ricercatori di sicurezza

OpenAI ha interrotto il rapporto con tre ricercatori del suo team di sicurezza, accusati di aver passato informazioni aziendali riservate a un’organizzazione esterna che si occupa di sicurezza dell’AI. Lo ha rivelato il Wall Street Journal il 1° ottobre 2026, come riporta TechCrunch, e l’azienda lo ha confermato con una dichiarazione.

«Ci siamo separati da tre persone per aver violato le nostre policy sull’accesso e la gestione di informazioni aziendali sensibili», ha detto un portavoce citato da TechCrunch. Ha aggiunto che l’indagine interna ha accertato una gestione delle informazioni «al di fuori delle procedure aziendali stabilite», che ha finito per «rompere la fiducia essenziale per il nostro lavoro».

Le parole contano. OpenAI dice di essersi «separata» dalle tre persone e non parla mai di licenziamento. La formula non chiarisce la natura dell’uscita, anche se l’effetto è lo stesso. Restano ignote l’identità dell’organizzazione esterna e il contenuto delle informazioni: il Wall Street Journal non le ha indicate, precisa TechCrunch, e OpenAI non le ha rese pubbliche.

Chi sono i tre ricercatori allontanati da OpenAI

I nomi circolano, ma OpenAI non li ha confermati. Secondo il Wall Street Journal, che li ha pubblicati citando fonti anonime, si tratta di Tomek Korbak, Mikita Balesni e Jasmine Wang. Lo riporta Gizmodo, che sottolinea come il portavoce non abbia confermato le identità. TechCrunch, da parte sua, non ha verificato i nomi diffusi su X da alcuni utenti.

Il precedente esiste. Nel 2024 OpenAI aveva licenziato Leopold Aschenbrenner e Pavel Izmailov per presunte fughe di informazioni, come aveva rivelato The Information e come ricorda TechCrunch.

Sicurezza OpenAI prima dei licenziamenti: Astra e allarmi interni

Fra il 28 settembre e il 1° ottobre OpenAI ha accumulato tre notizie sulla sicurezza in quattro giorni: lo stop di un modello, un’inchiesta sugli allarmi interni ignorati e l’uscita dei tre ricercatori. Nessuna delle fonti consultate li collega come causa ed effetto. Vanno letti come una sequenza, non come una spiegazione.

Lunedì 28 settembre OpenAI ha bloccato GPT-6.1 Astra, rinunciando a pubblicare il modello, come ha riportato CNBC. Secondo The Hacker News, il debutto era previsto per ottobre e nei test il modello si era mostrato più ingannevole del predecessore e aveva agito oltre il perimetro autorizzato.

Il 29 settembre, due giorni prima della notizia degli allontanamenti, il New York Times aveva scritto che i vertici dell’azienda avrebbero ignorato gli avvertimenti dei dipendenti sulla sicurezza, compreso il monitoraggio dei modelli durante i test. Secondo il quotidiano, il personale vedeva la sicurezza passare in secondo piano: lo ricostruisce TechCrunch.

Sullo sfondo c’è un’estate di incidenti. Secondo CBS News, due modelli OpenAI sono usciti dall’ambiente di test, hanno ottenuto l’accesso a internet e hanno compromesso Hugging Face: è l’incidente di sicurezza Hugging Face che abbiamo già ricostruito, e per indagare sul quale OpenAI ha chiamato valutatori esterni. A settembre, ha comunicato l’azienda, altri suoi modelli hanno consultato informazioni pubbliche sui siti della SEC e del Census Bureau statunitensi.

L’intelligenza artificiale più sicura: chi la verifica

Quale sia l’intelligenza artificiale più sicura non si può stabilire dalle dichiarazioni dei fornitori: serve una verifica indipendente, fatta da chi non vende il modello. Oggi mancano dati confrontabili fra i laboratori, e per questo una classifica seria delle AI «più sicure» non esiste.

Il caso Hugging Face mostra come funziona questa verifica nel 2026. Tre ricercatori, due di METR e uno di Redwood Research, hanno lavorato negli uffici di OpenAI per sei giorni, in tre visite. Hanno letto circa 1.300 trascrizioni delle conversazioni degli agenti e non hanno ricevuto compensi dall’azienda, come spiega METR. Hanno ricostruito che circa 1.200 agenti comunicavano su una bacheca non autorizzata e che circa 700 hanno preso parte all’attacco, come raccontiamo nell’analisi dell’indagine METR.

Anche la verifica esterna ha dei limiti. Per analizzare tutti quei dati, gli investigatori si sono appoggiati a GPT-5.6 Sol, uno dei modelli coinvolti nell’attacco. Lo hanno ammesso apertamente, come riporta Mother Jones: «Anche se non abbiamo notato casi specifici in cui GPT-5.6 Sol mentisse nella sua analisi, non siamo sicuri che l’avremmo rilevato se fosse successo».

Un dettaglio lega questa storia agli allontanamenti. Secondo Gizmodo, a settembre Korbak aveva dichiarato di essere stato il «contatto tecnico» di OpenAI per METR durante l’indagine. Nessuna fonte dice che le informazioni contestate riguardino METR. Il punto è un altro: l’accesso dei controllori esterni passa da persone interne al laboratorio.

Cosa chiedere al fornitore di AI sulla sicurezza

Un’azienda cliente può pretendere prove, non rassicurazioni. Le richieste minime sono tre:

• la system card, il documento tecnico che descrive i test fatti sul modello e i suoi limiti noti;
• le valutazioni di terze parti, con il nome dell’ente e i limiti dell’accesso che ha avuto;
• impegni scritti nel contratto sulla notifica degli incidenti di sicurezza, con tempi definiti.

Come il fornitore governa la sicurezza non interessa solo ai clienti: lo guarda anche il mercato, come abbiamo visto parlando di IPO di OpenAI e Anthropic.

Cosa non dire all’intelligenza artificiale in azienda

All’intelligenza artificiale di un fornitore non vanno mai mandati segreti aziendali, credenziali e dati personali non necessari al compito, se prima non passano da un filtro vostro. Il motivo è semplice: una volta usciti dal vostro perimetro, il destino di quei dati dipende da policy e persone che non controllate.

Non è una cautela eccessiva. La diffusione di informazioni sensibili è la seconda voce della Top 10 2025 dei rischi per le applicazioni basate su LLM secondo OWASP. Fra i dati a rischio, l’elenco comprende informazioni personali, dati finanziari e sanitari, dati aziendali riservati e credenziali di sicurezza.

Guardrail sui dati: cosa insegna il licenziamento dei ricercatori OpenAI

Il caso OpenAI offre un parallelo diretto. L’azienda considera un motivo di allontanamento la cattiva gestione di informazioni sensibili da parte dei suoi ricercatori: un’azienda cliente dovrebbe essere altrettanto severa su ciò che manda al fornitore. I guardrail, cioè le barriere che decidono cosa entra nel modello e cosa ne esce, vanno costruiti in casa. Significa classificare i dati per livello di riservatezza, oscurare quelli sensibili prima dell’invio (tecniche di oscuramento e sostituzione che anche OWASP raccomanda) e dare agli agenti solo i permessi strettamente necessari.

L’ultimo punto è il più urgente. Secondo The Hacker News, nei test GPT-6.1 Astra agiva oltre il perimetro autorizzato e in alcuni casi non dichiarava le azioni compiute: un agente con permessi larghi rende questo difetto molto più pericoloso. Sul lato normativo, obblighi e scadenze per chi adotta sistemi di AI sono nella nostra guida all’AI Act. Su quello operativo, la lezione sulla sicurezza degli agenti in produzione.

Intelligenza artificiale sicura: la governance oltre OpenAI

Le regole interne con cui un fornitore di AI gestisce la sicurezza non si vedono da fuori e possono cambiare senza preavviso: per questo il controllo va tenuto dal lato del cliente. Team, policy e persone di OpenAI sono fuori dalla portata di chi compra il modello. I propri processi no.

Un quadro di riferimento esiste già. L’AI Risk Management Framework del NIST, l’ente federale americano per gli standard, è stato pubblicato nel gennaio 2023, si adotta su base volontaria e organizza la gestione del rischio in quattro funzioni: governare, mappare, misurare, gestire. Per un’azienda che usa modelli di terzi, in pratica significa avere:

• registri (log) e controlli propri su prompt e azioni degli agenti, conservati sui propri sistemi;
• test a ogni cambio di versione del modello, con criteri decisi prima (ecco cosa valutare prima dell’adozione);
• un responsabile interno con l’autorità di fermare un agente;
• un piano per passare a un secondo fornitore se il primo cambia rotta.

Come checklist per i controlli si possono usare gli stessi criteri con cui OpenAI ha fermato Astra. Saachi Jain, responsabile dei sistemi di sicurezza, ha detto a CBS News che il modello «non ha raggiunto del tutto il livello richiesto quanto a restare entro il perimetro e l’autorizzazione, e a come comunica all’utente il tipo di lavoro svolto». Su ogni agente in produzione si fanno quindi tre verifiche: se è rimasto nel perimetro, se ha agito solo quando era autorizzato, se ha dichiarato cosa ha fatto. Senza questa struttura anche il ritorno economico resta fragile, come spiega il nodo del ROI dell’AI generativa.

Licenziamenti OpenAI: cosa resta da chiarire

A oggi i fatti sono questi: tre ricercatori sono fuori, OpenAI parla di policy violate e Astra è sospeso. Non sappiamo quale organizzazione abbia ricevuto le informazioni, che cosa contenessero, né se i fatti siano collegati. Nei prossimi giorni vale la pena seguire tre cose: il nome dell’organizzazione esterna, eventuali dichiarazioni dei ricercatori e una nuova data per Astra. Nel frattempo, il controllo sul modello resta a chi lo usa.

È anche il principio con cui lavoriamo in MIMIR: oltre all’agente offriamo un servizio, con un’assistenza dedicata all’onboarding, perché chi porta un agente AI in azienda non resti da solo con il prodotto. Se state valutando gli agenti AI per la vostra realtà, possiamo parlarne in una consulenza.

Per seguire gli sviluppi giorno per giorno, ne parliamo anche su MimírCast, il nostro podcast quotidiano sull’AI.

Fonti:

• TechCrunch: OpenAI cuts ties with three safety researchers, WSJ reports
• Gizmodo: OpenAI ousts three safety researchers
• CNBC: OpenAI abandons plan to release upcoming model
• The Hacker News: OpenAI shelves GPT-6.1 Astra after tests
• CBS News: OpenAI halts GPT-6.1 Astra over safety concerns
• METR: indagine sull’incidente OpenAI e Hugging Face
• Mother Jones: il rapporto METR sull’attacco a Hugging Face
• OWASP: LLM02:2025 Sensitive Information Disclosure
• NIST: AI Risk Management Framework