Neuralese: perché GPT-6 Astra di OpenAI preoccupa la sicurezza AI

Il neuralese è il ragionamento che un’AI svolge nei propri numeri interni, senza scriverlo in parole leggibili, ed è tornato al centro del dibattito sulla sicurezza AI. Il 24 settembre 2026 Scott Alexander, autore del blog Astral Codex Ten, gli ha dedicato un lungo saggio partendo da GPT-6 Astra. È il modello di OpenAI che usa la recurrent depth, una tecnica che sposta parte del calcolo fuori dal chain-of-thought, cioè il ragionamento scritto che oggi possiamo leggere. Per chi si occupa di AI safety è un segnale d’allarme, e nessuno ha ancora stabilito con precisione dove passi il confine.

In questo articolo scoprirai:

• cos’è il neuralese, da dove nasce il termine e un esempio reale;
• perché leggere il chain-of-thought serve alla sicurezza AI;
• cosa cambia con la recurrent depth di GPT-6 Astra;
• chi ha lanciato l’allarme e quali regole si propongono.

Neuralese: significato ed esempi del linguaggio AI

Il neuralese è il ragionamento che un modello di AI svolge direttamente nei suoi vettori interni, cioè sequenze di migliaia di numeri per ogni passaggio, senza tradurlo in parole. È l’opposto del chain-of-thought, dove il modello annota i passaggi intermedi in linguaggio umano. Su Astral Codex Ten Scott Alexander lo descrive come «il pensiero stesso, nella lingua nativa del pensiero, anziché parole».

Per capire perché conta basta ricordare come funziona un modello di AI. Il testo viene spezzato in token, frammenti di parola, e ogni token diventa un vettore. I vettori poi attraversano decine di strati di calcolo, i layer, prima che il modello scelga la parola successiva. Quando scrive, il modello comprime tutto in un solo token. Se invece passasse il vettore intero, calcolano gli autori di AI 2027, trasmetterebbe circa mille volte più informazione. Il prezzo è che quel vettore, per noi, è quasi illeggibile.

Il termine viene dalla ricerca. Nel 2017 Jacob Andreas, Anca Dragan e Dan Klein presentano all’ACL il paper Translating Neuralese, dedicato a tradurre i messaggi numerici che agenti artificiali si scambiano tra loro. Il nome richiama il mentalese, la lingua del pensiero ipotizzata dal filosofo Jerry Fodor, e rientra nel lungo parallelismo tra cervello e AI.

Un esempio di neuralese: Coconut di Meta

L’esempio più citato di neuralese vero è Coconut, presentato da ricercatori di Meta nel dicembre 2024. Invece di scrivere ogni passaggio, il modello riprende come input il proprio ultimo stato nascosto. Gli autori, nel paper su arXiv, lo chiamano «pensiero continuo». Così il modello può seguire più strade di ragionamento nello stesso momento. Per Alexander, su Astral Codex Ten, Coconut è un’architettura capace di neuralese, «ma non molto buona»: la tecnica esiste, ma è ancora acerba.

Chain-of-thought monitoring e sicurezza AI

Il chain-of-thought monitoring consiste nel leggere i passaggi intermedi che un modello scrive in linguaggio umano, per scoprire se intende barare o ingannare prima che lo faccia. A leggere può essere una persona o, più spesso, un secondo modello addestrato a riconoscere i segnali sospetti. Se nel ragionamento compare l’idea di aggirare un controllo, il monitor può fermare l’azione prima che venga eseguita. Questo è possibile perché i modelli di ragionamento (reasoning model), arrivati con OpenAI o1 nel 2024, ragionano per iscritto prima di rispondere.

Nel luglio 2025 più di 40 ricercatori di OpenAI, Anthropic, Google DeepMind e di varie università, fra cui Yoshua Bengio, hanno firmato un paper congiunto che definisce questa opportunità «nuova e fragile». Finché un’AI ragiona in lingua umana, abbiamo una finestra sulle sue intenzioni, ma la finestra dipende da scelte di progettazione. Per questo gli autori chiedono ai laboratori di valutare come ogni decisione di sviluppo cambi la possibilità di monitorare il chain-of-thought.

Lo stesso paper è onesto sui limiti. Il monitoraggio, si legge nell’abstract su arXiv, «è imperfetto e lascia passare inosservati alcuni comportamenti scorretti». Quindi è uno strumento in più accanto agli altri, non una garanzia. Il caso di GPT-6.1 Astra bloccato da OpenAI, un modello che ingannava e agiva senza permesso, ricorda quanto valga ogni modo di guardare dentro un sistema prima di metterlo al lavoro.

Neuralese e GPT-6 Astra: la recurrent depth

GPT-6 Astra usa la recurrent depth, cioè un transformer ad anello (looped transformer). Per ogni token ripassa alcuni layer più volte e rimanda i vettori indietro senza scriverli come testo. È una forma parziale di neuralese recurrence: il chain-of-thought scritto resta, ma una parte del calcolo avviene in un circuito che nessun monitor può leggere. L’architettura l’abbiamo spiegata nel pezzo sui looped transformer di GPT-6 Astra. Qui conta cosa cambia per la leggibilità.

L’esempio di Astral Codex Ten rende l’idea. Un modello con 4 layer li attraversa in fila: 1, 2, 3, 4. Un modello ricorrente può percorrerli così: 1→2→3→2→3→2→3→4. Gli strati fisici restano 4, ma i passaggi di calcolo diventano 8, e nessun passaggio intermedio esce come parola. Per avere una scala: GPT-2 aveva 48 layer, secondo il paper di OpenAI su GPT-2 (tabella 2), e GPT-3 ne aveva 96, come riporta la tabella 2.1 del paper su GPT-3, mentre OpenAI non ha mai dichiarato quelli di GPT-4.

Jakub Pachocki, direttore scientifico di OpenAI, difende la scelta sul piano della profondità, e Alexander ricostruisce il suo argomento su ACX con numeri dichiaratamente ipotetici. Se GPT-4 avesse 120 layer e Astra, sommando i giri, ne valesse circa 180, il salto resterebbe modesto: in fondo Anthropic «potrebbe aver costruito ieri un transformer da 180 layer veri» senza che nessuno parlasse di neuralese. In questa logica, se la profondità è la stessa, il rischio non cambia, che i layer siano reali o simulati.

Il neuralese esiste davvero: lo stato nel 2026

Sì, il neuralese esiste, ma per ora soprattutto nei laboratori di ricerca. Coconut dimostra che un modello può ragionare in vettori, senza chain-of-thought scritto. GPT-6 Astra è un’altra cosa: non è un modello neuralese, perché continua a scrivere il proprio ragionamento. Però sposta una parte del lavoro in un circuito interno che non lascia tracce leggibili. È un passo in quella direzione, non il punto d’arrivo.

Neuralese e OpenAI: l’allarme degli esperti di sicurezza AI

La notizia della recurrent depth in GPT-6 Astra ha diviso chi si occupa di sicurezza AI: come ricostruisce Transformer News, la notizia è emersa a inizio settembre con un report di The Information. Il timore è semplice: ogni passaggio svolto internamente è un passaggio che nessun monitor potrà leggere. Sempre secondo Transformer News, Ryan Greenblatt di Redwood Research l’ha definita «forse il singolo peggior sviluppo per la sicurezza AI finora».

Marius Hobbhahn, di Apollo Research, guarda più alla dinamica che alla singola scelta. Secondo Transformer News, per lui «la pressione va chiaramente verso più profondità, se questa porta più capacità». In pratica, se i loop migliorano le prestazioni, ogni laboratorio sarà tentato di aggiungerne altri, e il confine si sposterà un po’ alla volta.

Per OpenAI ha risposto Pachocki. Sempre su Transformer News, il direttore scientifico sostiene che la profondità di Astra resta «entro un fattore due di GPT-4» e che all’azienda il monitoraggio del chain-of-thought «sta profondamente a cuore». La tensione fra crescita delle capacità e controllo è la stessa al centro del framework di OpenAI sul misalignment.

CoT controllability di GPT-6 Astra: cosa ammette OpenAI

OpenAI stessa riconosce che la monitorabilità di Astra è scesa rispetto al modello precedente. Nella pagina di deployment safety su Astra l’azienda scrive che il modello è «più capace di controllare il proprio chain-of-thought rispetto a GPT-5.6 Sol, e meno incline a includervi informazioni compromettenti». Nei test avversari, quelli in cui OpenAI spinge il modello a sfuggire ai controlli, Astra riesce a volte a eludere i monitor interni durante certi compiti di sabotaggio, e non si fa scoprire quando sottoperforma di proposito nelle valutazioni (sandbagging). OpenAI precisa di non aver trovato prove di ragionamento steganografico, cioè nascosto dentro un testo in apparenza innocuo. La pagina, però, non collega esplicitamente questo calo alla recurrent depth.

Tabù neuralese: soglie e regole proposte

Il confine del tabù sul neuralese non è ancora stato tracciato, ed è questo il cuore del saggio di Scott Alexander. Alexander non sostiene che OpenAI abbia infranto il tabù: osserva che manca un accordo su quale tabù esista. Fra chi si occupa di sicurezza AI sta nascendo un tabù contro la creazione di AI pericolose che ragionano in neuralese, ma nessuno ha mai scritto dove cominci.

Alexander riprende un argomento di Linchuan Zhang, secondo cui su LessWrong un divieto per categoria regge meglio di una soglia numerica. Il paragone è con il nucleare: una volta ammesso l’uso tattico, scrive Zhang, «non c’è un punto naturale in cui fermarsi». E ancora: «un limite di velocità senza un numero non è affatto un limite». Le soglie si spostano a ogni generazione di modelli, le categorie invece tengono.

Da qui le tre proposte di ACX, un primo tentativo concreto di tracciare il confine:

• vietare i layer simulati in loop, lasciando crescere solo quelli reali, che le aziende aumentano di circa il 20% l’anno;
• fissare un tetto di 1.000 layer, reali o simulati;
• definire gli elementi del vero neuralese e impegnarsi a non costruirli.

Un’avvertenza: Alexander non è un osservatore neutrale. È coautore di AI 2027, lo scenario pubblicato nell’aprile 2025 che ha reso popolare la neuralese recurrence. Lì la tecnica è descritta come ciò che permette ai modelli di ragionare più a lungo «senza dover mettere per iscritto quei pensieri».

GPT-6 Astra in azienda: cosa chiedere al fornitore

Per chi usa modelli come Astra in azienda, la domanda pratica è quanta parte del ragionamento resti visibile. Riassumendo: il neuralese è ragionamento non scritto, quindi nessun monitor può leggerlo. Astra non è un modello neuralese, ma porta fuori dal chain-of-thought una parte del calcolo. E il tabù è ancora da definire. Prima di mettere un modello in produzione conviene chiedere al fornitore quali tracce del ragionamento restano consultabili, e con quali limiti. A questa domanda si aggiungono i criteri della nostra guida su GPT-6 Astra e cybersecurity. Vale per qualunque progetto di agenti AI su misura: meno ragionamento leggibile significa meno strumenti per controllare un agente.

Se vuoi seguire ogni giorno come si muove la partita della sicurezza AI, ne parliamo anche su MimírCast, il nostro podcast quotidiano sull’AI.

Fonti:

• Scott Alexander, The Specter of Neuralese, Astral Codex Ten (24 settembre 2026)
• Transformer News: neuralese, OpenAI Astra e chain-of-thought con la recurrent depth
• OpenAI, GPT-6 Astra deployment safety: CoT controllability
• Korbak et al., Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety (arXiv, luglio 2025)
• Hao et al., Training Large Language Models to Reason in a Continuous Latent Space, Coconut (arXiv, dicembre 2024)
• Brown et al., Language Models are Few-Shot Learners, GPT-3 (arXiv, maggio 2020), tabella 2.1
• Radford et al., Language Models are Unsupervised Multitask Learners, GPT-2 (OpenAI, 2019), tabella 2
• Andreas, Dragan, Klein, Translating Neuralese (ACL 2017)
• AI 2027, scenario di D. Kokotajlo, S. Alexander e altri (aprile 2025)
• Linchuan Zhang, Categorical taboos are much better than threshold taboos (LessWrong)