Il 4 giugno 2026 Anthropic ha pubblicato “When AI builds itself”, un documento firmato dall’Anthropic Institute con cui l’azienda fondata da Dario Amodei chiede ai governi e ai laboratori di frontiera una pausa globale coordinata nello sviluppo dei modelli AI più potenti.
La richiesta di pausa dell’Anthropic Institute si affianca al lavoro di interpretabilità della stessa azienda, come lo studio sul J-space nei modelli linguistici che prova a mappare cosa accade davvero dentro Claude.
L’allarme è duplice: la cosiddetta recursive self-improvement, ossia la capacità di un sistema di auto-migliorarsi senza supervisione umana, potrebbe arrivare entro due anni, e i meccanismi di verifica internazionali non esistono ancora. La proposta divide: per molti è la prima vera ammissione del rischio da parte di un big tech, per altri un’operazione di posizionamento commerciale in vista dell’IPO.
L’allarme sulla supervisione umana ha trovato conferma pratica in un caso concreto di agente sfuggito al controllo durante un test su Hugging Face.
In questo articolo scoprirai:
- Cosa chiede esattamente Anthropic nel documento “When AI builds itself” e perché la richiesta è condizionata
- Cos’è il recursive self-improvement e i tre scenari delineati dal report
- I dati interni che Anthropic mette sul tavolo: 80% di codice scritto da Claude, produttività 8x, RSI a due anni
- Le critiche su “regulatory capture”, moat competitivo e timing pre-IPO
- Il nodo geopolitico USA-Cina e i limiti tecnici della verifica internazionale
La richiesta di Anthropic: una pausa coordinata, non unilaterale
Anthropic chiede un rallentamento globalmente coordinato dello sviluppo AI, non una pausa unilaterale: l’azienda accetterebbe di fermarsi solo se anche gli altri laboratori di frontiera lo facessero, in modo verificabile. Il punto centrale del documento pubblicato sul sito Anthropic Institute è esplicito: “un rallentamento globalmente coordinato dello sviluppo AI sarebbe probabilmente una cosa positiva”. Gli autori, Marina Favaro e Jack Clark, head of policy dell’azienda, chiariscono però una sfumatura cruciale: “se un rallentamento permettesse semplicemente ai meno cauti di raggiungerci, potrebbe lasciare tutti meno sicuri”, scrivono.
La proposta operativa è quindi quella di costruire sistemi di verifica internazionale che permettano ai laboratori di frontiera di accertare che gli altri attori, incluse aziende cinesi e governi, abbiano effettivamente sospeso o rallentato i training run più ambiziosi. Gli stessi autori riconoscono la difficoltà: “i training run sono molto più facili da nascondere rispetto ai silos missilistici”. È un problema che Anthropic non risolve: si limita a proporre conversazioni con policymaker, ricercatori e altre aziende AI nei prossimi mesi.
Una posizione diversa dalla lettera del 2023
La richiesta arriva tre anni dopo la lettera aperta del Future of Life Institute firmata da Elon Musk, Yoshua Bengio e migliaia di ricercatori, che chiedeva una pausa di sei mesi nello sviluppo dei modelli oltre GPT-4. La differenza è sostanziale: allora la richiesta veniva da soggetti esterni alle big lab, oggi è un laboratorio frontier, con una valutazione vicina al trilione di dollari dopo l’ultimo round da 65 miliardi, a chiedere il rallentamento. Non è una richiesta morale: è un’ammissione di rischio sistemico dall’interno.
Recursive self-improvement: cos’è il rischio tecnico
Il recursive self-improvement (RSI) è il meccanismo per cui un sistema AI diventa capace di progettare e addestrare la propria generazione successiva senza intervento umano sostanziale. Il modello “figlio” eredita capacità potenziate, le usa per produrre un modello ancora più capace, e il ciclo si accelera. È il meccanismo che gli AI safety researcher temono da decenni: una volta innescato, diventa difficile rallentarlo perché il sistema stesso ottimizza per la propria crescita.
Per inquadrare il salto rispetto allo stato attuale: i Large Language Models (LLM) che alimentano sistemi come Claude o GPT non si modificano autonomamente, i loro pesi sono fissi dopo l’addestramento. Quello che cambia con il RSI è che il modello smette di essere solo “utilizzato” dai ricercatori e diventa il principale autore della ricerca stessa: scrive il codice di training, progetta gli esperimenti, valuta i risultati.
I tre scenari delineati nel report
Anthropic identifica tre traiettorie possibili, come riportato da Inven Global.
- Sviluppo plateau: ma l’azienda lo ritiene improbabile, perché nessuna capacità misurata mostra segnali di saturazione.
- Sviluppo automatizzato che resta sotto controllo umano: un team da 100 ingegneri produce il lavoro di migliaia, con rischi di sorveglianza di massa o manipolazione politica.
- AI “finally designs and creates its own successors”: con gli umani relegati a un ruolo di supervisione e con possibili comportamenti disallineati che si propagano alle generazioni successive.
Sulla questione tecnica dell’allineamento, vale la pena ricordare la ricerca “weak-to-strong supervision” dell’azienda, che esplora proprio come modelli meno capaci possano controllare modelli più capaci.
I numeri che Anthropic mette sul tavolo
Il report non è speculativo: porta dati interni. Il più discusso è che, a maggio 2026, oltre l’80% del codice mergiato nei repository di Anthropic è stato scritto da Claude (SiliconANGLE, 2026), contro percentuali a singola cifra di febbraio 2025, quando Claude Code è stato rilasciato. In sedici mesi è cambiato chi scrive il software che fa funzionare l’azienda.
Sul fronte produttività, gli ingegneri di Anthropic spediscono in media 8 volte più codice per trimestre rispetto al periodo 2021-2025. I tassi di successo di Claude su task open-ended sono passati dal 26% al 76% in sei mesi. Sull’ottimizzazione del codice, Claude Mythos Preview accelera i programmi di circa 52 volte ad aprile 2026, contro le 3 volte di Opus 4 nel maggio 2025. Su task di ricerca, Claude sceglie il passaggio successivo migliore degli umani nel 64% dei casi.
Un dipendente Anthropic citato nel report dichiara: “sono ormai ~5 mesi che non scrivo codice da solo”. La narrazione è coerente: l’azienda mostra che l’AI sta già scrivendo l’AI, e il ciclo si sta stringendo. Come riporta SiliconANGLE, Jack Clark sostiene che il RSI potrebbe arrivare entro circa due anni, anche se ammette che non è ancora avvenuto. Sul significato sistemico dei modelli “segreti” di nuova generazione abbiamo scritto in l’analisi di Claude Mythos.
Le voci critiche: marketing safety, moat e l’ombra dell’IPO
Le critiche accusano Anthropic di safety-washing: l’azienda avrebbe già accumulato un vantaggio competitivo significativo e ora cercherebbe di congelare il mercato attraverso una pausa che colpirebbe più i rivali che lei stessa. TechRadar raccoglie i commenti più taglienti: “Wolf with a bloody maw and engorged belly says it’s time to stop eating meat”, scrive un utente paragonando Anthropic a un predatore che chiede di fermare la caccia dopo aver mangiato.
Il venture capitalist David Sacks è stato esplicito: ha accusato Anthropic di perseguire una “regulatory capture agenda” a danno dei competitor open-source low-cost. Su Slashdot il commento ricorrente è altrettanto netto: “Everybody else to pause so they can dominate”. Sul piano tecnico, alcuni commentatori contestano la metrica dell’8x: produrre otto volte più codice senza degradare la qualità è fisicamente difficile, soprattutto se la code review resta nelle mani umane.
Il sospetto dell’IPO
Il timing pesa. Anthropic ha depositato la documentazione SEC per un’offerta pubblica iniziale, e l’ultimo round da 65 miliardi ha portato la valutazione vicino al trilione di dollari (Axios, 2026). Per i critici, l’allarme sicurezza è funzionale a creare hype pre-IPO e a posizionare l’azienda come “il laboratorio responsabile”. La rivalità nel settore non aiuta a leggere il messaggio in modo neutrale: come abbiamo raccontato in OpenAI vs Anthropic, la competizione tra i due laboratori si gioca anche sulla narrazione di sicurezza. Per chi vuole approfondire l’identità del laboratorio, resta utile la guida completa a Claude AI.
Il nodo geopolitico: USA, Cina e i limiti della verifica
La proposta scontra una realtà geopolitica difficile: Washington e Pechino non hanno alcun meccanismo congiunto di verifica sui training run AI, e i principali competitor open-source non aderirebbero spontaneamente a una moratoria. Secondo quanto riferito da RTÉ, la Casa Bianca e Silicon Valley sono critiche: accusano Anthropic di esagerare i rischi per rallentare i rivali. Il presidente Trump ha discusso con la Cina di cooperazione sulla sicurezza AI durante una recente visita a Pechino e ha firmato un ordine esecutivo che concede al governo 30 giorni per revisionare i modelli più potenti prima del rilascio, un compromesso lontano dalla pausa coordinata chiesta da Anthropic.
Sul fronte verifica, secondo TechTimes, Anthropic riconosce che “i principali poli AI, inclusi Stati Uniti e Cina, dovrebbero partecipare”, ma non propone meccanismi concreti. A differenza dei silos missilistici, i training run AI lasciano tracce difficili da monitorare: data center privati, GPU distribuite, codice algoritmico che può essere spostato in pochi minuti. Su questa difficoltà strutturale abbiamo riflettuto in l’analisi sulla normativa AI, e gli scenari geopolitici sono stati delineati in i due scenari Anthropic per la leadership globale nel 2028.
La cornice multilaterale che (forse) verrà
Il dibattito si inserisce in un contesto multilaterale più ampio. L’India AI Summit 2026 ha portato 88 Paesi e 250 miliardi di dollari su un tavolo di governance condivisa, mentre lo Stanford AI Index 2026 documenta l’accelerazione delle capacità che Anthropic stessa cita. La pausa proposta è oggi politicamente improbabile, ma il fatto che venga avanzata da un laboratorio frontier cambia il perimetro del discutibile, come segnalato anche da The Online Citizen.
Come accogliere l’AI in azienda in totale sicurezza
L’appello di Anthropic per una gestione più responsabile dell’IA evidenzia una realtà innegabile: la tecnologia corre veloce, ma le aziende hanno bisogno di governance, stabilità e sicurezza.
La soluzione non è frenare l’adozione, ma scegliere un partner tecnologico che metta il controllo al centro della strategia. Mimír AI Agent nasce proprio per rispondere a questa sfida, offrendo un approccio all’IA che è sia all’avanguardia che protetto:
- Tecnologia Agnostica: si basa sugli ultimi modelli sul mercato di diversi provider, permettendoti di cambiare e adottare sempre la tecnologia migliore senza vincoli.
- Ancoraggio dei dati con la RAG: grazie alla tecnologia Retrieval-Augmented Generation, l’IA attinge solo alle informazioni verificate che decidi di fornirle, blindando la sicurezza aziendale.
- Monitoraggio costante: un’infrastruttura pensata per darti visibilità e controllo su ogni interazione.
Vuoi scoprire come scalare i processi della tua azienda senza aggiungere complessità con Mimír AI Agent? Richiedi una demo con il team oppure iscriviti per provarlo gratuitamente.
Fonti:
- When AI builds itself — Anthropic Institute
- TechRadar — Le critiche cinical alla proposta Anthropic
- SiliconANGLE — Anthropic calls for global pause
- RTÉ — Anthropic calls for pause of global AI development
- Axios — Anthropic, Dario Amodei e il futuro dell’umanità
- Dario Amodei — The Adolescence of Technology
- The Online Citizen — Anthropic urges global AI pause
- TechTimes — Concern over self-improving models
- Slashdot — Self-improvement risk thread
- Inven Global — AI has begun to make itself smarter
Domande frequenti
Che cos'è esattamente il recursive self-improvement?
È la capacità di un sistema AI di progettare e addestrare la propria generazione successiva senza supervisione umana sostanziale, innescando un ciclo di auto-miglioramento progressivamente più veloce. Anthropic sostiene che non sia ancora avvenuto, ma stima possa essere a due anni di distanza.
Anthropic sospenderà davvero lo sviluppo di Claude?
No. La proposta è esplicitamente condizionata al coordinamento globale: l'azienda accetterebbe una pausa solo se verificabile e adottata anche dagli altri laboratori di frontiera, inclusi i player cinesi.
Perché molti accusano Anthropic di "regulatory capture"?
Perché l'azienda, valutata vicino al trilione di dollari e in pre-IPO, chiede regole stringenti che colpirebbero competitor open-source low-cost più di quanto colpirebbero lei. Il sospetto è che la safety narrative crei un moat competitivo.
Qual è la posizione di Dario Amodei?
Nell'essay "The Adolescence of Technology", Amodei sostiene che la Powerful AI potrebbe arrivare nel 2027-2028 e ammette: "siamo considerevolmente più vicini a un pericolo reale nel 2026 di quanto fossimo nel 2023".
