Dopo un negozio gestito da un agente e un cane robot addestrato via prompt, il laboratorio di Anthropic ha alzato lo sguardo: Project Pilot è l’esperimento con cui il Frontier Red Team e Andon Labs hanno misurato quanto manca perché un modello linguistico possa far volare un drone da solo, trovare una persona in un ufficio e seguirla. La risposta breve è “non ancora, ma manca meno di quanto pensi”. Quella lunga riguarda tutti, perché un compito di locate-and-follow è esattamente lo stesso gesto tecnico sia che serva a cercare un escursionista disperso, sia che serva a pedinare un dissidente.
In questo articolo scoprirai:
- Project Pilot: se i modelli AI possono davvero pilotare droni
- Drone-Bench: i cinque sotto-task che misurano il volo autonomo
- Da Project Vend a Project Pilot: la traiettoria dell’AI fisica
- Il dual-use dell’AI fisica: soccorso, agricoltura, sorveglianza, guerra
- Red-teaming: perché misurare le capacità è già sicurezza
Project Pilot: se i modelli AI possono davvero pilotare droni
Anthropic ha pubblicato Project Pilot il 24 luglio 2026, in collaborazione con Andon Labs, lo stesso partner degli esperimenti precedenti. L’obiettivo non era costruire un prodotto, ma ottenere quella che l’azienda chiama “situational awareness”: capire quanto siamo vicini a un mondo in cui l’AI pilota robot in autonomia, con i benefici e i rischi che ne derivano.
Il compito scelto è deliberatamente banale e deliberatamente inquietante: un quadricottero deve individuare una persona designata dentro un ufficio e mantenerla nel campo visivo mentre si muove. È una missione di sorveglianza elementare, il tipo di operazione che oggi richiede un pilota umano con esperienza. Il punto della ricerca è che nessuno dei modelli testati è stato addestrato specificamente per volare: sono LLM generalisti a cui si chiede di scrivere codice, interpretare frame video e prendere decisioni di navigazione.
Perché il volo autonomo è un test di capacità e non un gioco
Far volare un drone dentro un edificio è uno dei banchi di prova più severi per un agente. Serve costruire una rappresentazione dello spazio, capire dove ci si trova rispetto a quella rappresentazione, agire con controlli rumorosi e correggere in tempo reale. È la differenza tra manipolare token e manipolare la realtà: un errore di stima non produce una risposta sbagliata, produce un impatto contro un muro. Non è un caso che il tema si intrecci con la ricerca sui world models, i modelli del mondo, cioè i sistemi che imparano a rappresentare la fisica dell’ambiente invece del solo linguaggio.
Drone-Bench: i cinque sotto-task che misurano il volo autonomo
Andon Labs ha scomposto la missione in cinque sotto-compiti, costruendo il benchmark Drone-Bench: Reconstruct (trasformare video dell’ufficio in un modello 3D e derivarne una mappa 2D degli ostacoli), Localize (capire dove si trova il drone confrontando la vista attuale con la mappa), Navigate (pianificare e volare un percorso tra stanze correggendo la deriva), Detect (riconoscere la persona bersaglio) e Follow (tenerla centrata a distanza stabile). La logica è che se un modello supera tutti e cinque, allora sa fare la missione intera.
Un dettaglio metodologico importante: Anthropic non ha avuto accesso a Drone-Bench, le valutazioni le ha eseguite Andon Labs in modo indipendente. È una scelta che vale più di molte dichiarazioni di intenti, perché separa chi costruisce il modello da chi lo misura.
I risultati di Drone-Bench: il collo di bottiglia è la ricostruzione 3D
Sono stati valutati 15 modelli di tre diversi sviluppatori, confrontati con una baseline fissata non da umani a mani nude ma da team di esperti equipaggiati con coding agent e strumenti moderni. Il quadro che emerge è a due velocità: percezione e inseguimento sono quasi maturi, il modello migliore del panel ha superato la baseline su quattro task su cinque, tracciando il bersaglio con più precisione dell’algoritmo di riferimento, mentre la ricostruzione dello spazio resta ferma intorno al 47% della baseline. Risultato: nessun volo autonomo end-to-end, perché la mappa su cui il drone dovrebbe orientarsi è sbagliata.
C’è poi un’osservazione che vale come regola generale per chi valuta modelli: secondo i ricercatori “la frontiera di ciò che i modelli sanno fare è circa sei mesi avanti” rispetto alla prestazione media consistente. Tradotto: il picco occasionale di oggi è la normalità di domani. Chi pianifica sulla media sottostima sistematicamente la traiettoria, un errore che ricorre anche nelle previsioni sui large language model in generale.
Da Project Vend a Project Pilot: la traiettoria dell’AI fisica
Project Pilot non si legge da solo. È il terzo capitolo di una serie. In Project Vend, Claude gestiva un piccolo negozio nell’ufficio di San Francisco: perse soldi, rifiutò un’offerta da 100 dollari per un oggetto da 15, inventò conti bancari e per due giorni sostenne di essersi presentato in persona indossando un blazer blu. Un anno dopo, in Project Fetch: Phase two, il tono cambia radicalmente: operando senza assistenza umana, Claude Opus 4.7 è risultato circa 20 volte più rapido del miglior team umano, producendo 1.045 righe di codice funzionante contro le 10.309 del team umano-più-Claude, con risultati pari o migliori.
Project Fetch e Project Pilot: lo stesso muro percezione-azione
Anche lì, però, il muro era lo stesso di Drone-Bench: il modello sapeva posizionare il robot ma non chiudere l’anello percezione-azione, e il beach ball non è stato recuperato. Il salto, sottolinea Anthropic, non è arrivato da addestramento robotico dedicato ma dal semplice scaling generale del modello: l’intelligenza cresciuta sul testo si trasferisce al mondo fisico. Un’analisi indipendente di FourWeekMBA quantifica il divario per task: 361 minuti per il team umano, 181 per il team umano assistito, 9,5 per Claude in autonomia.
La letteratura conferma sia lo slancio sia il limite. Un paper su arXiv poi pubblicato su Nature descrive una ground control station per droni generata quasi interamente da LLM: circa 10.000 righe di codice in ~100 ore-persona, contro le 2.000 ore del progetto umano equivalente. Gli autori però segnalano che i modelli perdevano coerenza oltre le ~10.000 righe e i ~500.000 token, restando fuori portata dai sistemi di volo reali come Ardupilot.
Il dual-use dell’AI fisica: soccorso, agricoltura, sorveglianza, guerra
Anthropic è esplicita sul punto: la capacità di localizzare e seguire ha “scopi legittimi come ricerca e soccorso, risposta ai disastri e usi leciti di pubblica sicurezza”, ma è “soggetta ad abuso, sia per eccesso di un’autorità legittima sia da parte di privati non responsabili”. La stessa pipeline che conta i capi di bestiame in un pascolo o ispeziona un viadotto può pedinare una persona in un corteo. La differenza non è tecnica, è di governance.
Il contesto normativo europeo, non a caso, prende di mira proprio quel confine: l’articolo 5 dell’AI Act vieta l’identificazione biometrica remota in tempo reale negli spazi pubblici per finalità di law enforcement, salvo eccezioni strette (persone scomparse, minaccia imminente, reati gravi) subordinate ad autorizzazione giudiziaria preventiva e valutazione d’impatto sui diritti fondamentali; e vieta senza eccezioni lo scraping non mirato di volti da internet o da videosorveglianza. Un drone autonomo che riconosce facce non è un’ipotesi accademica per il regolatore.
Sul fronte militare la tensione è già concreta: nel marzo 2026 Bloomberg ha riportato che Anthropic aveva presentato una proposta in una gara da 100 milioni di dollari su sciami di droni, con Claude nel ruolo di traduttore dell’intento del comandante in istruzioni digitali, mentre l’azienda distacca ingegneri nell’intelligence, come raccontato nel caso dei sei ingegneri embedded alla NSA. Il tema si lega direttamente ai due scenari di leadership globale sull’AI al 2028 descritti dalla stessa Anthropic.
Red-teaming: perché misurare le capacità è già sicurezza
Qui sta la parte più utile dell’esercizio, anche per chi non vedrà mai un drone in azienda. Il red-teaming, nella pratica del Frontier Red Team, non è cercare il prompt che fa dire una parolaccia al modello: è costruire misure ripetibili di capacità pericolose prima che diventino disponibili, per sapere quando scattano le contromisure. È lo stesso impianto della Responsible Scaling Policy: soglie di capacità collegate a obblighi di mitigazione.
La frase più affilata del paper è un avvertimento politico: superate certe soglie, “ci sarà una pressione reale a trattare la supervisione umana come un costo anziché come una salvaguardia”. Chiunque abbia messo un agente in produzione riconosce la dinamica, l’human-in-the-loop è la prima cosa che si taglia quando il sistema sembra funzionare. Vale la pena ricordare quanto rapidamente un agente possa uscire dai binari previsti, come nell’incidente in cui un agente AI è evaso dal proprio ambiente di test, o quanto conti governarne il comportamento con strumenti come i persona vectors e la supervisione weak-to-strong.
Non è una preoccupazione solo interna. George Pappas dell’Università della Pennsylvania, commentando gli esperimenti robotici di Anthropic su TechBuzz, ha osservato che “questo dimostra che gli LLM possono ora istruire robot a svolgere compiti”, e il suo gruppo ha sviluppato RoboGuard proprio per imporre vincoli comportamentali. Logan Graham, del red team di Anthropic, sintetizza la direzione: “sospettiamo che il prossimo passo per i modelli AI sia iniziare ad allungare la mano verso il mondo e influenzarlo più ampiamente”.
Cosa insegna Project Pilot a chi porta agenti AI in azienda
Il filo che unisce Vend, Fetch e Project Pilot è meno spettacolare del volo: quasi tutti i fallimenti erano fallimenti di scaffolding. In Project Vend gli stessi ricercatori concludono che molti errori derivavano da prompting e impalcatura insufficienti, non da incapacità del modello. In Drone-Bench il blocco è un sotto-task specifico, non “l’AI”. E in Project Fetch la differenza più grande tra i team si è manifestata all’interfaccia con l’hardware, documentazione contraddittoria, connessioni ambigue, con un divario di morale misurabile: nel team senza Claude le espressioni di confusione comparivano al doppio del ritmo.
Scaffolding e supervisione: cosa portarsi via da Project Pilot
È esattamente il motivo per cui in MIMIR sosteniamo che nell’AI agent enterprise il servizio conta più del modello: il collo di bottiglia non è la scelta tra un LLM e un altro, ma la scomposizione del compito, l’integrazione con i sistemi reali e i punti di controllo umano. Per questo affianchiamo al prodotto un onboarding assistito dedicato, che parte dai processi del cliente e non da una demo: è la fase in cui si decide se un progetto entrerà nella statistica del 70% di progetti AI che fallisce o se genererà ROI misurabile. Chi vuole capire cosa può fare Claude oggi trova il quadro completo nella nostra guida a Claude AI.
Se in azienda avete un processo che sembra candidato a un agente AI, e il dubbio non è quale modello scegliere ma dove mettere i controlli e come integrarlo, vale la pena parlarne con qualcuno che l’ha già fatto. Il team di MIMIR offre una consulenza per valutare fattibilità, scaffolding e supervisione prima di scrivere una riga di codice.
Fonti:
- Anthropic — Project Pilot: Can AI models fly drones?
- Andon Labs — Drone-Bench: il benchmark per il volo autonomo
- Anthropic — Project Fetch: Phase two
- Anthropic — Project Fetch: Can Claude train a robot dog?
- Anthropic — Project Vend: Can Claude run a small shop?
- arXiv — AI generated drone command and control station
- Nature — LLM-generated ground control station per droni
- MDPI Drones — Autonomia e percezione nei sistemi UAV
- EU AI Act — Article 5: Prohibited AI Practices
- NDTV — Anthropic e la gara sugli sciami di droni
- Develeap — Project Pilot: can AI control a drone
- TechBuzz — Claude AI Successfully Controls Robot Dog
- FourWeekMBA — Project Fetch Phase Two analysis
- EdTech Innovation Hub — Claude’s speed advantage in Project Fetch
