L’adozione dell’intelligenza artificiale (AI) continua a crescere in modo esponenziale, trasformando le operazioni aziendali e offrendo nuove opportunità di innovazione. Nel 2026, con l’AI Act europeo ormai pienamente operativo e l’esplosione di modelli generativi e agentici, la sicurezza AI è diventata una priorità strategica per ogni organizzazione enterprise. Le evidenze raccolte nel 2024 State of AI Security Report di Orca Security restano un punto di riferimento: l’aumento nell’uso di modelli AI personalizzati nei servizi cloud ha aperto la strada a rischi significativi, oggi amplificati da minacce emergenti come prompt injection, agent hijacking e supply chain AI.
In questo articolo scoprirai:
- Come è cambiato lo scenario della sicurezza AI dal 2024 al 2026 con l’AI Act in piena applicazione.
- Le principali vulnerabilità di modelli AI, misconfigurazioni cloud e pacchetti open-source.
- I rischi emergenti: prompt injection, agent hijacking, Shadow AI e supply chain compromise.
- Best practice e controlli operativi per proteggere modelli AI nel cloud enterprise.
Sicurezza AI nel 2026: lo scenario aggiornato
La sicurezza AI nel 2026 è un requisito di design obbligatorio, non un’aggiunta opzionale. Due fattori hanno trasformato il panorama enterprise rispetto al 2024: l’AI Act dell’Unione Europea è entrato in piena applicazione, imponendo per i sistemi ad alto rischio controlli obbligatori su robustezza, cybersecurity, gestione del rischio, tracciabilità e supervisione umana. La diffusione di agenti AI autonomi e di modelli multimodali ha inoltre ampliato la superficie d’attacco, introducendo classi di rischio prima marginali — dalla manipolazione del contesto via prompt injection fino al furto di credenziali attraverso tool integrati.
Le aziende che stanno consolidando un’architettura AI enterprise matura trattano la sicurezza come requisito di design, non come aggiunta post-deploy. Il rispetto delle nuove regole non è più opzionale: come spiegato nella nostra analisi sul perché la normativa sull’AI è diventata inevitabile, governance e compliance sono oggi indicatori di affidabilità per clienti e partner, oltre che leve competitive sui mercati regolamentati.
Crescita nell’adozione dei modelli AI personalizzati
L’adozione di modelli AI personalizzati ha superato la soglia critica nelle enterprise globali. Uno dei dati più rilevanti emersi dal report Orca Security è che il 56% delle organizzazioni stava sviluppando e utilizzando modelli AI personalizzati per soddisfare le proprie esigenze specifiche. Nel 2026 questa quota ha superato l’80% nelle indagini di settore, riflettendo la rapida integrazione delle tecnologie AI nei settori più disparati, dalla finanza all’industria manifatturiera, fino alla pubblica amministrazione.
Oltre alla sicurezza, un tema centrale per le enterprise è la pianificazione economica: ecco quale budget per un agente AI aziendale considerare nel 2026.
Tuttavia, molte di queste organizzazioni continuano a trascurare le pratiche di sicurezza AI, esponendo modelli e dati sensibili a rischi elevati, come evidenziato anche nei nostri approfondimenti sui rischi dell’AI generativa per le aziende.
Se nel 2024 i modelli più utilizzati erano GPT-3.5, DALL-E e Whisper, oggi il quadro è profondamente cambiato: domina la famiglia GPT-4 / GPT-5 di OpenAI, seguita da Claude di Anthropic (con la linea Opus e Sonnet 4.x) e da Gemini di Google. Tra i servizi cloud, spicca ancora Azure OpenAI, mentre su AWS gran parte dei carichi è migrata da SageMaker classico verso Amazon Bedrock. La domanda di hosting privato e di modelli open-weight (Llama, Mistral, DeepSeek) è cresciuta in modo significativo per ragioni di sovranità del dato e compliance.
Vulnerabilità nei modelli AI e nelle loro configurazioni
La maggior parte delle organizzazioni accetta le impostazioni predefinite dei servizi AI cloud, esponendo modelli e dati a rischi critici. Il report di Orca Security rilevava questo schema già nel 2024 e le audit condotte nel 2025-2026 confermano che persiste, soprattutto nelle PMI che adottano l’AI senza un team dedicato di sicurezza.
Nel 2024, il 45% dei bucket di Amazon SageMaker utilizzava ancora nomi predefiniti non sicuri, esponendo i dati a potenziali attacchi. Inoltre, il 98% delle aziende non aveva disabilitato l’accesso root predefinito nei notebook SageMaker, una pratica estremamente rischiosa.
Le chiavi di accesso API non configurate correttamente restano un problema comune: nel 2024 il 20% delle organizzazioni che utilizzano OpenAI aveva esposto le proprie chiavi API, mentre il 35% di quelle che usavano Hugging Face aveva lasciato le chiavi pubblicamente accessibili nelle repository. Casi recenti — come la violazione di Mixpanel che ha coinvolto dati di clienti OpenAI — mostrano che l’esposizione di credenziali e l’errata segmentazione restano vettori d’attacco di prima linea.
I rischi legati ai pacchetti AI vulnerabili
I pacchetti AI open-source sono una delle principali fonti di rischio nelle pipeline di produzione. Nel 2024, il 62% delle organizzazioni aveva implementato un pacchetto AI con almeno una vulnerabilità CVE. Una CVE (Common Vulnerabilities and Exposures) è un identificativo standard che indica una vulnerabilità di sicurezza nota pubblicamente. Nel 2025-2026 il numero di CVE legate a librerie AI/ML è cresciuto in modo significativo: nuove classi di bug coinvolgono runtime di inference, formati di serializzazione dei modelli (pickle, safetensors) e framework agentici.
Pacchetti come Scikit-learn, Transformers, Keras, LangChain e LlamaIndex sono ampiamente utilizzati nello sviluppo di modelli AI e applicazioni RAG/agent, ma sono soggetti a vulnerabilità note che spesso vengono trascurate.
Le tipologie di attacchi includono:
- Prompt injection e jailbreaking, in cui input malevoli (anche nascosti in documenti, immagini o pagine web) manipolano il comportamento del modello.
- Attacchi di inversione del modello, in cui gli attaccanti tentano di risalire ai dati di addestramento o ai parametri del modello attraverso l’analisi delle sue uscite.
- Avvelenamento dei dati, dove gli attori malevoli introducono dati falsi o manipolati nel modello AI per alterarne il comportamento o comprometterne l’integrità.
- Furto del modello, dove gli attaccanti riescono a rubare il modello AI stesso, sfruttando la sua implementazione in ambienti non sicuri.
- Agent hijacking, dove un agente AI con accesso a tool (email, codice, browser) viene indotto a eseguire azioni non autorizzate per conto di un attaccante.
Misconfigurazioni nei servizi AI: un problema sottovalutato
Le misconfigurazioni dei servizi AI nel cloud sono tra le principali cause di vulnerabilità. Il 77% delle aziende che utilizzano Amazon SageMaker non aveva configurato la versione più sicura del servizio di autenticazione IMDSv2, e il 98% non aveva disabilitato l’accesso root predefinito nei notebook SageMaker.
Un altro aspetto preoccupante riguarda l’uso dei private endpoints. Nel 2024, il 27% delle aziende che utilizzano Azure OpenAI non aveva configurato i propri account con private endpoints, aumentando il rischio di intercettazioni o manomissioni dei dati trasmessi tra risorse cloud e servizi AI.
I private endpoints sono cruciali per mantenere i dati al sicuro: impediscono che le comunicazioni avvengano tramite indirizzi IP pubblici, riducendo la possibilità di attacchi esterni. Soluzioni come Claude Security di Anthropic stanno introducendo strumenti dedicati per il monitoraggio continuo della postura di sicurezza AI in ambienti enterprise.
Come migliorare la sicurezza dei modelli AI
Per mitigare i rischi legati all’uso di modelli AI nei servizi cloud, le raccomandazioni cardine restano valide, arricchite da nuovi controlli nati con l’AI Act e con la diffusione di agenti. Per orientarsi tra i nuovi obblighi, il whitepaper La normativa sull’AI: i primi passi offre una checklist degli adempimenti iniziali. Le aziende dovrebbero:
- Evitare l’uso delle impostazioni predefinite, configurando manualmente i servizi AI per garantire conformità alle best practice.
- Gestire proattivamente le vulnerabilità nei pacchetti AI utilizzati, con SBOM specifici per AI/ML, patching automatico e scansione delle dipendenze.
- Limitare i privilegi di accesso applicando il principio del minimo privilegio, particolarmente critico per gli agenti AI che invocano tool esterni.
- Isolare le reti in cui vengono utilizzati i modelli AI, con private endpoints e segmentazione fine-grained.
- Adottare l’uso di chiavi di crittografia gestite autonomamente (CMK/HYOK) per proteggere i dati a riposo e in transito.
- Implementare guardrail e filtri di prompt contro injection, jailbreaking e leak di dati sensibili in input/output.
- Mantenere un registro dei sistemi AI coerente con i requisiti di trasparenza e tracciabilità dell’AI Act europeo.
Le sfide emergenti nella sicurezza AI
Il ritmo dell’innovazione AI supera la capacità delle organizzazioni di implementare adeguate misure di sicurezza. Nel 2026 l’introduzione massiva di agenti autonomi, modelli multimodali e workflow di copilota nelle pipeline di sviluppo ha aggiunto pressione sui team SecOps, costretti ad aggiornare playbook, threat model e procedure di incident response.
Il fenomeno della Shadow AI rappresenta una minaccia in crescita: la Shadow AI è l’uso non autorizzato o non tracciato di strumenti di intelligenza artificiale all’interno di un’organizzazione, spesso da parte di dipendenti che adottano chatbot o plugin SaaS senza approvazione IT. Garantire la visibilità e la gestione centralizzata di tutte le risorse AI è fondamentale per ridurre la superficie d’attacco. Si aggiungono i rischi di supply chain AI: modelli open-weight scaricati senza verifica, dataset compromessi e plugin di terze parti diventano potenziali backdoor.
Sicurezza AI: consulenza per la tua azienda
Se la tua azienda sta implementando modelli AI e hai dubbi sulla sicurezza dei tuoi sistemi, è fondamentale affrontare queste sfide in modo proattivo. Le vulnerabilità, le misconfigurazioni e i nuovi rischi legati ad agenti e prompt injection possono esporre dati e modelli a rischi significativi — ma con le giuste pratiche di sicurezza, allineate ai requisiti dell’AI Act, puoi proteggere i tuoi asset digitali e mantenere l’integrità dei tuoi processi.
Contattaci oggi stesso per una consulenza personalizzata. Il nostro team di esperti in sicurezza AI ti guiderà nella valutazione e protezione delle tue infrastrutture, aiutandoti a implementare soluzioni sicure, conformi e affidabili.
Fonti
- Orca Security — 2024 State of AI Security Report
- European Commission — AI Act: Regulatory framework for AI
- OWASP — Top 10 for Large Language Model Applications
- NIST — AI Risk Management Framework
- CSIRT Italia — Glossario CVE
Domande frequenti
Perché la sicurezza dei modelli AI nel cloud è una priorità?
Perché l'adozione dell'AI è cresciuta in modo esponenziale e, con l'AI Act europeo pienamente operativo e la diffusione di modelli generativi e agentici, la sicurezza è diventata un requisito di design obbligatorio e non un'aggiunta opzionale. Un uso crescente di modelli personalizzati nei servizi cloud apre rischi significativi, amplificati da agenti autonomi, prompt injection e nuovi vettori d'attacco.
Quali sono le principali vulnerabilità dei modelli AI?
Tra le più diffuse: l'uso di pacchetti AI open-source con vulnerabilità note (CVE), presenti in una quota molto ampia delle organizzazioni, e l'accettazione delle impostazioni predefinite dei servizi cloud, che espone modelli e dati a rischi critici. A questi si aggiungono i rischi legati agli agenti autonomi e alla prompt injection emersi più di recente.
Cosa sono le misconfigurazioni dei servizi AI?
Sono configurazioni di sicurezza non adeguate dei servizi AI nel cloud, tra le principali cause di vulnerabilità. Il report Orca Security rilevava ad esempio che la maggior parte delle aziende che usano Amazon SageMaker non aveva attivato la versione più sicura dell'autenticazione (IMDSv2) né disabilitato l'accesso root predefinito nei notebook, lasciando aperte porte sfruttabili dagli attaccanti.
Cosa impone l'AI Act sulla sicurezza dei modelli AI?
Con l'AI Act pienamente applicato, i sistemi ad alto rischio sono soggetti a controlli obbligatori su robustezza, cybersecurity, gestione del rischio, tracciabilità e supervisione umana. La sicurezza AI diventa così un adempimento normativo oltre che tecnico, e le organizzazioni devono allineare le proprie pratiche ai requisiti del regolamento.
Come migliorare la sicurezza dei modelli AI nel cloud?
Le raccomandazioni cardine includono: non accettare le configurazioni di default, abilitare autenticazione robusta e disabilitare accessi root non necessari, monitorare e aggiornare i pacchetti AI per eliminare le CVE, applicare il principio del minimo privilegio, presidiare i rischi di prompt injection negli agenti e adottare tracciabilità e supervisione umana in linea con l'AI Act.
