Modelli AI open source in azienda: i conti veri di Muse Glimmer 30B

Il 10 agosto 2026 Meta ha rilasciato Muse Glimmer, un modello open-weight da 30 miliardi di parametri, sotto licenza Apache 2.0 e con una promessa precisa: un agente capace di girare interamente su una singola GPU da 24 GB. Per chi valuta i modelli AI open source in azienda è la notizia più concreta dell’anno, perché sposta la domanda da «esiste un’alternativa alle API?» a «quanto mi costa davvero gestirla?». La risposta onesta è che dipende da numeri che quasi nessuno mette sul tavolo: VRAM, token al secondo sotto carico concorrente, ore di ingegneria. Questo articolo li mette.

In questo articolo scoprirai:

• Muse Glimmer 30B: cosa ha rilasciato davvero Meta
• Quanta GPU serve per far girare un modello open da 30B
• Quando conviene un modello AI open source in azienda (e quando no)
• Perché i calcoli di break-even che trovi online non tornano fra loro
• Dal checkpoint HuggingFace all’agente aziendale: cosa manca

Muse Glimmer 30B: cosa ha rilasciato davvero Meta

Il lancio e i benchmark li abbiamo raccontati qui; questo pezzo risponde a un’altra domanda: quanto costa gestirlo. Per la decisione di deployment contano due cose. La prima: secondo il model card di Hugging Face è un transformer denso, non un mixture-of-experts, quindi tutti i 30 miliardi di parametri si attivano a ogni forward pass: la VRAM va occupata tutta, sempre, e non ci sono risparmi di calcolo da sperare. La seconda: è un modello addestrato attorno alla sequenza operativa di un agente, pianifica, chiama tool, interpreta i risultati, recupera dagli errori, quindi è un ottimo specialista locale di workflow agentici, non un sostituto generalista dello stato dell’arte.

Licenza Apache 2.0: cosa cambia per un modello AI open in azienda

La novità che conta per un ufficio legale è la licenza. Come nota VentureBeat, Apache 2.0 elimina il tetto dei 700 milioni di utenti mensili che accompagnava la community license di Llama e consente uso commerciale, modifica e ridistribuzione senza vincoli. Per una PMI italiana è una differenza teorica; per chi costruisce prodotto sopra il modello, no.

Quanta GPU serve per far girare un modello open da 30B

VRAM e quantizzazione: i numeri di Muse Glimmer

In BF16 il modello chiede circa 64 GB di VRAM: fuori portata per qualsiasi scheda consumer. Meta ha rilasciato due varianti quantizzate, e i costi in accuratezza sono dichiarati nel model card: K-Quant-Dynamic gira in 32 GB con lo 0,2% di degrado, la variante da 17 GB gira in 24 GB con l’1% di degrado. La regola pratica che circola nel settore, riportata anche da AI Superior, è di circa 0,5 GB di VRAM per miliardo di parametri a 4 bit, e qui torna.

Tradotto in hardware: una RTX 4090 o 3090 (24 GB) regge la variante piccola, una RTX 5090 (32 GB) quella buona. Un laptop aziendale da 16 GB no. Se vuoi capire perché la quantizzazione funzioni senza distruggere il modello, la meccanica è spiegata nella nostra guida su come funziona davvero un modello di AI.

Il salto da «gira sul mio PC» a «serve 200 colleghi»

Qui casca quasi ogni valutazione fatta in autonomia. I 233,4 token/secondo che Meta misura su RTX 5090 con speculative decoding DFlash (contro 74,9 senza) sono una cifra single-stream: un utente, una richiesta. Sotto carico concorrente il collo di bottiglia diventa la KV cache, non il calcolo.

È esattamente il problema che risolve vLLM con PagedAttention e continuous batching, contro cui i tool da scrivania non competono: nel confronto di Prem AI, vLLM sostiene circa 793 token/secondo e latenza P99 sotto i 100 ms con 128 utenti concorrenti, dove Ollama schizza a 673 ms. Ollama e LM Studio servono a valutare un modello, non a esercirlo.

Quando conviene un modello AI open source in azienda (e quando no)

Il costo hardware è la parte facile e la più piccola. I prezzi di gennaio 2026 raccolti da AI Pricing Master: RTX 4090 fra 1.600 e 2.000 dollari, A100 80GB fra 10.000 e 13.000, H100 80GB fra 25.000 e 35.000. In noleggio cloud si scende molto, RunPod quota la 4090 a 0,34 $/ora e l’H100 a 1,99 $/ora, cioè circa 245 e 1.433 dollari al mese in esercizio continuo.

Poi arriva il resto. Elettricità: una RTX 5090 assorbe 575 W e costa una sessantina di dollari al mese di corrente. Colocation, raffreddamento, ridondanza. E soprattutto le persone: la stessa fonte stima un team minimo per l’AI in produzione a 1,5-2 FTE, cioè fra 270.000 e 550.000 dollari l’anno. È la voce che rende il confronto «GPU contro token» sistematicamente fuorviante, ed è la stessa dinamica che raccontiamo in quanto costa implementare un agente AI in azienda.

I casi in cui l’open self-hosted perde quasi sempre

Le condizioni sfavorevoli sono ricorrenti in tutte le fonti serie. Alpacked ne elenca tre: volumi sotto il milione di token al giorno, traffico imprevedibile (l’infrastruttura va dimensionata sul picco e resta ferma il resto del tempo) e necessità di modelli di frontiera, che semplicemente non sono scaricabili. Se il tuo caso d’uso richiede il modello migliore in assoluto, il confronto onesto è fra le API e l’abbonamento, non fra API e self-hosting.

Vince invece quando ricorre almeno uno di questi: volumi alti e stabili, vincoli di conformità stringenti, ambienti air-gapped, fine-tuning su dati proprietari, latenza sotto i 100 ms. Prem AI segnala che gli approcci ibridi, modello open per il traffico di base, API per i casi difficili, riportano riduzioni di costo del 40-70% rispetto al solo cloud.

Perché i calcoli di break-even che trovi online non tornano fra loro

Vale la pena dirlo, perché nessuno lo dice: le tre fonti più citate sul punto di pareggio danno risposte incompatibili. Alpacked e Prem AI collocano il break-even intorno ai 2 milioni di token al giorno. AI Superior lo mette a 50.000 richieste giornaliere. AI Pricing Master, con una tabella per configurazione, sostiene che una 4090 da 500 $/mese pareggia GPT-4o già a 67.000 token al giorno.

Non è che uno sbagli: misurano cose diverse. Il primo numero include il personale, il terzo no. Il primo confronta con modelli di fascia alta, il terzo con prezzi diversi a seconda dell’API sostituita, e contro un’alternativa economica come DeepSeek lo stesso hardware pareggia a 735.000 token al giorno, dieci volte più in là. Il rapporto input/output ipotizzato (67/33), l’ammortamento a 36 mesi e l’utilizzo all’80% sono assunzioni, non misure.

I quattro numeri da avere prima di scegliere un modello open

La conseguenza operativa è netta: nessuna soglia presa da un articolo è utilizzabile senza rifare il conto sui propri volumi. Serve sapere quanti token consumi oggi, con che distribuzione oraria, con quale mix input/output e quale modello staresti realmente sostituendo. Se questi quattro numeri non li hai, non hai una decisione: hai una preferenza. È lo stesso errore di impostazione che analizziamo in se l’AI generativa non genera ROI, il problema non è la tecnologia.

Dal checkpoint HuggingFace all’agente aziendale: cosa manca

Muse Glimmer ha superato 591.000 download nel primo mese. Quanti siano diventati sistemi in produzione è un’altra storia, e i dati di settore sono impietosi: secondo la previsione Gartner ripresa da The Daily Brief, oltre il 40% dei progetti agentici verrà cancellato entro fine 2027, per costi fuori controllo, ROI poco chiaro e violazioni di policy. Circolano anche cifre più drammatiche (86%, 88%, 89% di pilot che non arrivano in produzione): le abbiamo verificate e non sono riconducibili a un report primario consultabile, quindi le citiamo per quello che sono, numeri di seconda mano.

Il punto è che scaricare i pesi risolve il 10% del problema. Restano: lo stack di inferenza dimensionato sul carico reale, una pipeline RAG che colleghi il modello ai documenti aziendali, il tuning sul dominio, un set di valutazione che dica se una modifica migliora o peggiora le risposte, i guardrail, il monitoraggio dei costi e l’onboarding delle persone che dovranno usarlo.

Perché il servizio conta più del modello

Nessuna di queste voci è nel checkpoint, e nessuna si compra con la GPU. È la ragione per cui, come argomentiamo in AI agent enterprise: perché il servizio conta più del modello, la scelta del modello è la decisione meno determinante dell’intero progetto. Con Mimír lavoriamo esattamente su questo scarto: il modello è un componente sostituibile, l’impianto che gli sta attorno è il prodotto. E l’onboarding assistito, mettere le persone in condizione di usare l’agente sui loro casi reali, non su una demo, è la parte che decide se il sistema verrà adottato o abbandonato dopo tre settimane.

Prompt injection e guardrail: il rischio che il self-hosting non risolve

C’è un equivoco diffuso: portare il modello dentro casa mette al sicuro. Non è così, e a dirlo è Meta stessa. Il model card elenca fra le limitazioni note la vulnerabilità al prompt injection in contesti agentici, e l’azienda raccomanda esplicitamente di inserire il modello in un sistema più ampio con guardrail e conferma umana per le azioni irreversibili.

Injection indirette: il rischio quando l’agente legge documenti

Il motivo è strutturale. OWASP classifica il prompt injection come LLM01, il rischio numero uno, proprio perché la natura stocastica dei modelli rende incerta una prevenzione completa. Quando il modello ha accesso a tool e function calling, un’istruzione iniettata può attivare funzioni non autorizzate, eseguire comandi sui sistemi collegati ed escalare privilegi. Le injection indirette sono le peggiori: l’istruzione malevola è nascosta in un documento o in una pagina web che l’agente legge per fare il suo lavoro.

Le contromisure OWASP per un modello open self-hosted

Le contromisure che OWASP indica sono ingegneristiche, non di prompt: validazione deterministica dei formati di output, marcatura esplicita del contenuto non fidato, privilegio minimo con token applicativi al posto dell’esposizione diretta delle funzioni, filtri semantici in ingresso e uscita, e test avversariali periodici. Un agente che parla con i sistemi aziendali via MCP ha bisogno di tutto questo, che il modello giri a Dublino o in sala macchine.

AI Act e GDPR: cosa cambia se il modello gira sui tuoi server

Il timing conta: dal 2 agosto 2026 le violazioni degli obblighi GPAI dell’AI Act sono sanzionabili. Ospitare il modello internamente cambia il perimetro, ma meno di quanto si creda, e in una direzione che può sorprendere.

Self-hosting e obblighi GPAI: quando resti deployer

Secondo l’analisi di Legal for Digital, il self-hosting non trasforma automaticamente l’azienda in fornitore, a due condizioni: che il modello resti a uso interno e che non subisca modifiche sostanziali. Gli obblighi pesanti degli articoli 53 e 55 restano in capo a chi il modello lo ha rilasciato. Al deployer restano l’AI literacy del personale (art. 4, già in vigore), la trasparenza sugli output generati da AI (art. 50) e la governance su prompt e dati immessi.

Fine-tuning: quando diventi fornitore di un modello AI open

Attenzione però al fine-tuning, che è proprio ciò che rende interessante un modello aperto. Come chiarisce PAD lex, l’esenzione per i modelli open source decade quando si appone il proprio marchio, si effettuano modifiche sostanziali o si cambia la finalità d’uso portando il sistema in area ad alto rischio, selezione del personale, scoring creditizio, con riclassificazione come fornitore ai sensi dell’art. 25. Il vantaggio di sovranità sui dati resta reale e rilevante per il GDPR, ma non è un salvacondotto: il quadro completo delle scadenze è nella nostra guida sull’AI Act.

Se stai valutando un modello open per la tua azienda e ti mancano i quattro numeri per decidere, volumi, distribuzione del traffico, mix input/output, modello sostituito, quella è la conversazione da fare prima di comprare qualsiasi GPU. Se vuoi affrontarla con qualcuno che ha già portato agenti in produzione, puoi parlarne con noi di Mimír: l’analisi del caso d’uso e l’onboarding delle persone fanno parte del servizio, non sono un accessorio.

Fonti:

• Model card di Muse Glimmer 30B su Hugging Face
• Meta Research — Introducing Muse Glimmer, open agentic model
• VentureBeat — Meta torna all’open source con Muse Glimmer, licenza Apache 2.0
• AI Pricing Master — Self-hosting AI models: costi contro API
• Alpacked — Guida al self-hosted LLM
• Prem AI — Self-hosted LLM: setup, tool e confronto costi 2026
• AI Superior — Costi di hosting di un LLM
• Documentazione ufficiale di vLLM
• OWASP GenAI — LLM01: Prompt Injection
• PAD lex — Obblighi per i distributori di sistemi AI open source
• The Daily Brief — Adozione degli AI agent in azienda: previsioni Gartner e IDC