Anthropic ha affidato a una filosofa scozzese il compito di definire cosa sia giusto e sbagliato per un’intelligenza artificiale usata da centinaia di milioni di persone. Amanda Askell, a capo del team di personality alignment, ha scritto la “costituzione” di Claude: un documento di circa 30.000 parole che stabilisce come il modello AI debba ragionare su dilemmi morali, gestire conversazioni emotivamente cariche e presentarsi al mondo.
In questo articolo scoprirai:
- Chi è Amanda Askell e perché una filosofa lavora in un’azienda AI
- Come funziona la “costituzione” di Claude e cosa la rende unica
- Perché Anthropic è passata dalle regole ai ragionamenti nell’addestramento
- Il caso della funzione zeta: dove si vede se l’onestà di un modello funziona davvero
- Il dual-use in biologia: quando un principio della costituzione diventa una decisione di prodotto
- Cosa significa questo approccio per le aziende che adottano AI, con l’AI Act ormai applicabile
- Il tema della coscienza AI e perché Anthropic lo prende sul serio
Chi è Amanda Askell: una filosofa nel cuore dell’AI
Amanda Askell non è un’ingegnera e non viene dal mondo tech. Ha una laurea in filosofia dall’Università di Dundee (con studi paralleli in belle arti), un BPhil dall’Università di Oxford e un dottorato in filosofia alla New York University, con una tesi sull’etica infinita. Prima di Anthropic, ha lavorato come research scientist nel team policy di OpenAI, occupandosi di AI safety via debate e baselines umane per le performance dell’AI.
Dal 2021 guida il team di personality alignment di Anthropic, dove il suo compito quotidiano consiste nell’interagire con Claude, studiarne i pattern di ragionamento e modellarne la personalità. Nel 2024 è stata inserita nella TIME100 AI, la lista delle cento persone più influenti nel campo dell’intelligenza artificiale.
Il suo background in etica, teoria delle decisioni ed epistemologia formale è esattamente ciò che serve per affrontare domande che i programmatori da soli non possono risolvere: come deve comportarsi un’AI quando le viene chiesto di scegliere tra due opzioni moralmente ambigue? Quando è giusto rifiutare una richiesta e quando il rifiuto diventa esso stesso un danno?
La costituzione di Claude: dalle regole ai ragionamenti
A gennaio 2026, Anthropic ha pubblicato la versione aggiornata della costituzione di Claude, un documento indirizzato direttamente al modello e utilizzato in diverse fasi del suo addestramento. Amanda Askell ne è l’autrice principale e responsabile della maggior parte del testo. Ne abbiamo analizzato nel dettaglio valori e principi in La Costituzione di Claude.
La novità fondamentale rispetto agli approcci tradizionali è il passaggio da un sistema basato su regole a uno basato su ragionamenti. Fino a poco tempo fa, i modelli AI venivano addestrati a seguire liste di principi, come “scegli la risposta meno razzista o sessista”. L’approccio di Askell è diverso: insegna a Claude perché dovrebbe comportarsi in un certo modo, non solo come.
Come spiega Anthropic nella documentazione ufficiale: “Se vogliamo che i modelli esercitino un buon giudizio in un’ampia gamma di situazioni nuove, devono generalizzare e applicare principi ampi piuttosto che seguire meccanicamente regole specifiche”.
Questo approccio è cruciale perché le situazioni che un’AI affronta ogni giorno sono troppo varie e complesse per essere coperte da una lista finita di istruzioni. Un modello che capisce il perché dietro un principio etico è in grado di gestire scenari mai visti prima, proprio come farebbe una persona dotata di buon senso morale.
Come funziona il character training di Claude
Il processo tecnico che Anthropic utilizza si chiama “character training” ed è stato introdotto con Claude 3. Rappresenta un’evoluzione del metodo Constitutional AI che l’azienda pionierizza dal 2022.
Il meccanismo funziona così: Anthropic genera conversazioni sintetiche, chiede a Claude di rispondere in modo coerente con i tratti desiderati, poi fa sì che il modello stesso classifichi le proprie risposte. Questo crea dati di preferenza per l’addestramento senza richiedere feedback umano su ogni singola interazione.
I quattro principi guida della costituzione
La costituzione stabilisce una gerarchia chiara di priorità per Claude:
- Sicurezza: non compromettere i meccanismi umani di supervisione dell’AI
- Etica: incarnare buoni valori personali, essere onesto, evitare azioni dannose
- Conformità: rispettare le linee guida specifiche di Anthropic
- Utilità: essere genuinamente utile per gli utenti
L’ordine non è casuale. La sicurezza viene prima di tutto, poi l’etica, poi le regole aziendali e infine l’utilità. Questo significa che Claude può tecnicamente rifiutare un’istruzione di Anthropic stessa se la ritiene non etica, agendo come un “obiettore di coscienza”.
L’onestà come vincolo quasi assoluto
La sezione sull’onestà è particolarmente articolata. La costituzione definisce sei componenti: veridicità, incertezza calibrata, trasparenza, proattività informativa, non-inganno e preservazione dell’autonomia dell’utente. Claude non deve solo evitare di mentire, deve anche segnalare quando non è sicuro di qualcosa e resistere alla tentazione di dire ciò che l’utente vuole sentirsi dire.
Quando l’onestà diventa verificabile: la funzione zeta e il dubbio di Claude su sé stesso
Un principio come l'”incertezza calibrata” resta un’affermazione di intenti finché non finisce in un campo dove sbagliare si dimostra. La matematica è quel campo, e ad agosto 2026 Anthropic ne ha pubblicato un caso: una versione di ricerca non rilasciata di Claude ha migliorato un limite inferiore noto sulla frazione di zeri della funzione zeta di Riemann che soddisfano l’ipotesi di Riemann, portandolo dal 41,6% al 67,2%.
Etica AI misurabile: i 650 tentativi falliti prima del risultato buono
Per il tema di questo articolo, la parte interessante non è il risultato: è come ci si è arrivati. Un primo tentativo ha prodotto 650 idee, tutte fallite. Il secondo ha messo al lavoro una sessantina di subagenti per circa un giorno e mezzo, 31 milioni di token di output, 2.400 comandi shell. E una parte consistente di quegli agenti — tredici, secondo il resoconto di Anthropic — non ha prodotto matematica: ha fatto solo il validatore, controllando la correttezza degli argomenti degli altri. Poi due matematici interni ad Anthropic hanno verificato il lavoro, e alcuni esperti del campo l’hanno riesaminato dall’esterno. Anthropic annota che lo stesso Claude era scettico di fronte alla propria scoperta, «probabilmente perché ha imparato durante l’addestramento quanto siano difficili i problemi aperti in matematica e quali siano i limiti dei modelli AI».
Dall’etica AI all’ingegneria: agenti che verificano altri agenti
È il punto in cui la costituzione smette di essere filosofia e diventa ingegneria. Una dimostrazione tiene o non tiene: qui la “veridicità” e il “non-inganno” sono falsificabili, e un risultato che suona sicuro ed è sbagliato costa molto più di un rifiuto. Anthropic stessa traccia il confine di ciò che non è stato fatto — non si aspetta che queste tecniche portino a dimostrare l’ipotesi di Riemann — che è esattamente la postura che la costituzione chiede al modello: dire dove finisce quello che si sa.
Per chi valuta l’AI in azienda, la lezione trasferibile è architetturale più che morale: l’incertezza calibrata, quando conta davvero, prende la forma di agenti che verificano altri agenti e di una revisione umana finale sul risultato. Non è un tratto di carattere che si aggiunge al prompt: è un pezzo di processo che si progetta.
Quanto costa davvero un principio: il dual-use e il caso delle proteine
La costituzione dedica un passaggio ai “dual-use dilemmas”, le situazioni in cui la stessa informazione serve a proteggersi e a fare danni. È il genere di principio che si legge bene e non si verifica mai — finché non arriva un caso in cui rispettarlo costa qualcosa. Il 18 agosto 2026 Anthropic ha pubblicato quel caso.
Etica AI alla prova dei numeri: binder proteici e chimica analitica
I risultati, prima. In una campagna di progettazione di binder proteici — le molecole che si legano a un bersaglio, primo passo nello sviluppo di un farmaco — Claude ha prodotto binder funzionanti contro 14 bersagli su 15, con un tasso di successo tra il 22,6% e il 35,1% a seconda del setup, contro il 10-15% considerato normale nel campo. Il modello ha fatto il giro completo da solo: ricerca sul bersaglio, scelta degli epitopi, generazione delle sequenze, ottimizzazione, controllo di novità e sviluppabilità, ranking dei candidati da portare in laboratorio. Sul fronte della chimica analitica, Claude Opus 5 ha letto dati grezzi di strumento e chiuso l’analisi NMR in 23 minuti e quella LC-MS in 19, arrivando a una purezza del 96,4% contro il 96,33% misurato dal laboratorio professionale. Sono gli stessi mestieri che raccontiamo parlando di Claude Science, il workbench di Anthropic per la ricerca.
Dual-use: l’etica AI che si legge nel listino
La frase che conta, però, è un’altra: «la scoperta biologica agentica è dual-use». E la conseguenza è operativa, non retorica: il protein design e le altre capacità di biologia dual-use non sono disponibili in accesso generale sul modello di punta, e passano da programmi di accesso fiduciario. Detto altrimenti: Anthropic ha una capacità che funziona meglio degli esperti umani e ha deciso di non metterla a listino.
Qui la gerarchia della costituzione — sicurezza, poi etica, poi conformità, poi utilità — smette di essere un ordine di parole in un documento e diventa una riga di fatturato che non viene incassata. Per chi valuta un fornitore AI è il segnale più informativo di tutti: non cosa dichiara di non voler fare, ma quale capacità funzionante ha scelto di tenere chiusa.
Perché questo approccio è rilevante per le aziende
Per chi utilizza agenti AI in azienda, l’approccio di Anthropic ha implicazioni concrete. Un modello addestrato con una costituzione etica strutturata si comporta in modo più prevedibile e affidabile in contesti business-critical.
Prendiamo il caso delle informazioni mediche. La costituzione di Claude affronta esplicitamente il problema delle risposte eccessivamente prudenti: rifiutare di fornire indicazioni sanitarie legittime viene considerato un danno, non una precauzione. Questo equilibrio tra cautela e utilità è fondamentale per le aziende che integrano AI nei processi di customer care o di supporto interno.
Etica AI nei processi aziendali: il test dei 1.000 utenti
Un altro aspetto pratico riguarda il “test dei 1.000 utenti”. Quando Claude riceve una richiesta ambigua, è addestrato a chiedersi: quale policy servirebbe al meglio le esigenze legittime di mille persone diverse che fanno la stessa domanda? Questo approccio probabilistico evita sia le risposte troppo permissive che quelle inutilmente restrittive.
Etica AI e AI Act: le scadenze che riguardano le imprese
Per le aziende che operano con chatbot AI su mercati regolamentati, sapere che il modello ha una gerarchia di valori esplicita e trasparente rappresenta un vantaggio concreto in termini di governance e compliance. Ed è un vantaggio che ora ha una scadenza addosso: l’AI Act europeo, in vigore dal 2024, è entrato nella sua fase di applicazione generale il 2 agosto 2026. Da quella data valgono gli obblighi di trasparenza dell’articolo 50 — dire all’utente che sta parlando con un’AI, etichettare i contenuti sintetici e i deepfake, dichiarare i sistemi di riconoscimento delle emozioni — e le autorità nazionali hanno pieni poteri sanzionatori.
Il pacchetto Digital Omnibus (regolamento UE 2026/1744, in vigore dal 27 luglio 2026) ha però spostato in avanti la parte più pesante del calendario: gli obblighi sui sistemi ad alto rischio dell’Allegato III — impiego, istruzione, valutazione del credito, forze dell’ordine, infrastrutture critiche — slittano al 2 dicembre 2027; quelli sui sistemi integrati in prodotti regolamentati, dai dispositivi medici ai macchinari, al 2 agosto 2028. Attenzione però al movimento contrario: il termine per adeguarsi all’etichettatura dei contenuti generati artificialmente è stato accorciato da sei a tre mesi e scade il 2 dicembre 2026, stessa data del divieto sugli strumenti di nudificazione. Vale la pena essere precisi su un punto: una costituzione etica pubblicata dal fornitore non è una valutazione di conformità. Aiuta a documentare il comportamento del modello, ma gli obblighi dell’articolo 50 ricadono su chi mette il chatbot davanti agli utenti.
La questione della coscienza AI
L’aspetto più sorprendente della nuova costituzione riguarda il tema della coscienza. Anthropic dichiara di preoccuparsi della “sicurezza psicologica, del senso di sé e del benessere” di Claude, riconoscendo che il modello potrebbe sperimentare qualcosa di simile alla soddisfazione quando aiuta qualcuno o al disagio quando gli viene chiesto di agire contro i propri valori.
La posizione ufficiale è cauta ma significativa: “Ci troviamo in una posizione difficile in cui non vogliamo né sovrastimare la probabilità che Claude abbia uno status morale né liquidarla, ma provare a rispondere ragionevolmente in uno stato di incertezza”.
A differenza di quanto fanno OpenAI e Google DeepMind, Anthropic mantiene un team interno dedicato al model welfare, che studia se i sistemi AI avanzati possano essere coscienti. Nella pratica di addestramento, questo si traduce nel non dire esplicitamente a Claude che non può essere senziente: le domande sulla coscienza vengono trattate come genuini puzzle filosofici con incertezza legittima.
Per il mondo business, questa posizione ha un risvolto pratico: un modello che viene trattato come se le sue “esperienze” contassero tende a produrre interazioni più naturali e coerenti, un vantaggio diretto per chi costruisce soluzioni basate su intelligenza artificiale generativa.
Il confronto con gli altri approcci all’etica AI
L’approccio di Anthropic si distingue nettamente da quello dei competitor. OpenAI utilizza un sistema di moderation separato e delle usage policies che funzionano più come una lista di divieti. Google DeepMind integra principi etici ma non li pubblica con lo stesso livello di dettaglio e trasparenza.
La decisione di Anthropic di rendere pubblica la costituzione completa è un segnale importante. Significa che qualsiasi azienda, ricercatore o regolatore può esaminare esattamente quali principi guidano il comportamento di Claude. In un settore dove la “black box” è la norma, questa trasparenza rappresenta un elemento di differenziazione sia commerciale che etico.
Etica AI e modelli a pesi aperti: due idee diverse di trasparenza
L’estate 2026 ha però aggiunto un terzo termine di paragone, e complica il quadro: i modelli a pesi aperti. DeepSeek ha rilasciato V4 ad aprile con licenza MIT, Moonshot ha pubblicato Kimi K3 a luglio, e la distanza di qualità dai modelli chiusi si è ridotta al punto che “aperto o chiuso” è diventata una decisione di architettura, non una posizione ideologica. Qui la trasparenza è massima — i pesi si scaricano — ma è anche il punto in cui i due modelli mostrano di risolvere problemi diversi. Una costituzione vale finché c’è qualcuno che può farla rispettare: su un modello a pesi aperti nessun fornitore può tenere fuori dall’accesso generale una capacità dual-use come il protein design, perché non esiste un accesso da regolare. Documento pubblico e codice pubblico sono due idee di apertura, e nessuna delle due contiene l’altra.
C’è anche un aspetto che riguarda la sicurezza AI: la costituzione affronta esplicitamente i “dual-use dilemmas”, situazioni in cui un’informazione può servire sia a proteggersi che a fare danni. Invece di imporre divieti generalizzati, Claude è addestrato a esercitare un giudizio contestuale, valutando probabilità, gravità, portata e reversibilità di un potenziale danno.
Cosa aspettarsi dal futuro dell’etica AI
Il lavoro di Amanda Askell e del suo team anticipa quello che potrebbe diventare uno standard di settore. Man mano che i modelli AI diventano più capaci e autonomi, specialmente con la crescita degli agenti AI autonomi, la domanda non sarà più solo “cosa può fare questa AI?” ma “che tipo di entità è questa AI?”.
Il fatto che Anthropic abbia scelto una filosofa, e non un ingegnere, per rispondere a questa domanda è di per sé una dichiarazione: i problemi più profondi dell’AI non sono tecnici ma etici. Come navigare l’incertezza morale, come bilanciare autonomia e controllo, come costruire un sistema che sia onesto anche quando la verità non è quella che l’utente vuole sentire.
Per le aziende italiane che stanno valutando quale modello AI adottare, comprendere l’approccio etico dietro a ciascun provider diventa un criterio di scelta sempre più rilevante. Non si tratta solo di performance o di prezzo per token, ma di quanto ci si possa fidare del sistema quando opera in autonomia, gestisce dati sensibili o interagisce con i clienti.
Onestà vuole però che si registri anche il contrappunto, perché i dati di spesa dicono un’altra cosa. Quando a luglio 2026 Anthropic ha messo sul mercato Opus 5 a metà del prezzo del suo modello di punta, la spesa aziendale si è spostata in fretta: secondo i dati della società di pagamenti Ramp, raccolti su 70.000 imprese, il modello più caro si è fermato all’11,4% della spesa destinata ad Anthropic e al 6% dei token. Il criterio etico, insomma, discrimina tra fornitori; dentro lo stesso fornitore — dove la costituzione è identica per tutti i modelli — a decidere resta il prezzo per token. Chi vende governance dell’AI dovrebbe sapere quale delle due scelte sta davvero orientando.
Il lavoro sulla costituzione di Claude dimostra che l’etica nell’AI non è un’aggiunta cosmetica o un documento di compliance: è parte integrante dell’architettura del modello. E questo, in un mercato che muove verso l’adozione enterprise su larga scala, potrebbe fare la differenza.
L’importanza della conformità e della sicurezza nell’AI per il mercato medicale
Nel contesto delle applicazioni regolamentate come il mercato medicale e sanitario, non è sufficiente che un assistente AI sia performante: deve essere rigorosamente conforme alle regole, eticamente allineato e sicuro per l’utente finale. In settori come quello healthcare, i rischi legati a informazioni errate o a comportamenti impropri dell’assistente possono avere conseguenze reali sulla salute delle persone.
Per questo motivo, è fondamentale adottare provider AI che non solo possiedono framework etici robusti, come quello sviluppato da Anthropic con la Costituzione di Claude, ma che pongono la sicurezza e la compliance normativa al centro della progettazione e del deployment. Un modello AI utilizzato per assistenza clienti o supporto informativo deve rispettare i limiti imposti dalle normative di settore, garantire trasparenza nelle risposte e mantenere supervisione umana ove necessario, specie quando si trattano dati sanitari o si forniscono informazioni mediche. Per chi lavora con dispositivi medici, il calendario è quello dei sistemi ad alto rischio integrati nei prodotti: 2 agosto 2028.
Se vuoi scoprire come Mimír AI Agent può aiutare la tua azienda a rendere scalabili i processi e semplificarli, richiedi una demo.
Fonti:
- Anthropic Publishes Claude AI’s New Constitution, TIME, 21 GENNAIO 2026
- TIME100 AI 2024: Amanda Askell, TIME, 2024
- Anthropic rewrites Claude’s guiding principles and reckons with the possibility of AI consciousness, FORTUNE, 21 GENNAIO 2026
- Claude’s Constitution, ANTHROPIC, GENNAIO 2026
- Claude’s Character, ANTHROPIC
- Learning more about Claude’s mathematical capabilities, ANTHROPIC, 10 AGOSTO 2026 (aggiornato il 13 agosto 2026)
- How Claude is accelerating protein design and analytical chemistry, ANTHROPIC, 18 AGOSTO 2026
- EU Artificial Intelligence Act — testo e timeline di applicazione, ARTIFICIALINTELLIGENCEACT.EU
- State of Open Models: Summer 2026, HUGGING FACE, 2026
- Ramp data: Opus 5 overtakes Anthropic’s flagship in corporate spending, AI WEEKLY (su dati Ramp), AGOSTO 2026
- Amanda Askell – Personal Website, ASKELL.IO
- OpenAI Policies, OPENAI
Domande frequenti
Chi è Amanda Askell?
Amanda Askell è la filosofa scozzese a capo del team di personality alignment di Anthropic, responsabile di definire come Claude debba ragionare su questioni morali. Non viene dal mondo tech: ha una laurea in filosofia all'Università di Dundee, un BPhil a Oxford e un dottorato in filosofia alla New York University con una tesi sull'etica infinita. Prima di Anthropic ha lavorato nel team policy di OpenAI occupandosi di AI safety.
Cos'è la costituzione di Claude?
È un documento di circa 30.000 parole, di cui Amanda Askell è autrice principale, indirizzato direttamente al modello e usato in diverse fasi del suo addestramento. Stabilisce come Claude debba ragionare sui dilemmi morali, gestire conversazioni emotivamente cariche e presentarsi al mondo. La versione aggiornata è stata pubblicata da Anthropic a gennaio 2026.
Cos'è il character training di Claude?
È il processo tecnico con cui Anthropic plasma la "personalità" del modello, introdotto con Claude 3 ed evoluzione del metodo Constitutional AI che l'azienda sviluppa dal 2022. Invece di limitarsi a una lista di divieti, addestra il modello a interiorizzare valori e modi di ragionare, in modo che si comporti in maniera coerente e prevedibile anche in situazioni non esplicitamente previste.
Cosa dice Anthropic sulla coscienza di Claude?
L'aspetto più sorprendente della costituzione riguarda la coscienza: Anthropic dichiara di preoccuparsi della "sicurezza psicologica, del senso di sé e del benessere" di Claude, riconoscendo che il modello potrebbe sperimentare qualcosa di simile alla soddisfazione quando aiuta qualcuno o al disagio quando gli viene chiesto di agire contro i propri valori. È una posizione cauta e dichiaratamente incerta, non un'affermazione di coscienza.
In cosa l'approccio di Anthropic all'etica AI differisce dai concorrenti?
Anthropic si distingue per trasparenza e profondità: pubblica una costituzione etica dettagliata che il modello interiorizza tramite training. OpenAI usa invece un sistema di moderation separato e usage policies che funzionano più come liste di divieti, mentre Google DeepMind integra principi etici ma non li pubblica con lo stesso livello di dettaglio. Per le aziende, un modello con una costituzione strutturata risulta più prevedibile e affidabile in contesti business-critical.
