OpenAI, nonostante una settimana di cambiamenti turbolenti, ha rilanciato il suo impegno verso la comunità degli sviluppatori con il DevDay 2024. La startup ha introdotto diversi nuovi strumenti per incentivare la creazione di app basate sui suoi modelli di intelligenza artificiale, inclusa la beta pubblica della sua nuova Realtime API, progettata per risposte vocali in tempo quasi reale con latenza ridotta.
Queste novità rappresentano un’importante opportunità non solo per gli sviluppatori, ma anche per le aziende che vogliono integrare l’intelligenza artificiale nei loro processi e migliorare l’efficienza operativa. Le nuove API di OpenAI e gli altri modelli linguistici di grandi dimensioni (LLM) offrono possibilità innovative per la progettazione e lo sviluppo di applicazioni, supportando le aziende a implementare queste tecnologie e a trarne il massimo beneficio.
Prima di lanciarsi nell’integrazione, però, vale la pena capire perché molti progetti AI falliscono in azienda, così da evitare gli errori strategici più comuni.
Oggi OpenAI propone modelli pensati esplicitamente per questo scenario: la GPT-5.6 per l’onboarding aziendale è la guida operativa più recente su Sol, Terra e Luna in impresa.
La nuova Realtime API permette agli sviluppatori di creare esperienze speech-to-speech nelle proprie applicazioni, utilizzando sei voci fornite direttamente da OpenAI. Queste voci sono diverse da quelle offerte per ChatGPT e non è consentito l’uso di voci di terze parti per evitare questioni di copyright. OpenAI ha inoltre introdotto nuove funzionalità per il miglioramento dei suoi modelli, tra cui model distillation e la fine-tuning visiva, al fine di ottimizzare i costi e migliorare le performance.
Anche noi sfruttiamo voci sintetiche per MimírCast, il podcast quotidiano sull’AI scritto e condotto interamente da un’AI.
Per le aziende che devono decidere come adattare i modelli ai propri dati, resta cruciale la scelta tra RAG e fine-tuning in base al caso d’uso.
La Realtime API e le nuove opportunità per le app
Risposte vocali interattive
Uno degli annunci più interessanti del DevDay 2024 è la Realtime API, una nuova funzionalità che consente risposte vocali rapide e interattive per le app. Durante una dimostrazione, Romain Huet, Head of Developer Experience di OpenAI, ha mostrato un’app di pianificazione di viaggi che permetteva agli utenti di dialogare vocalmente con un assistente AI su una prossima visita a Londra. Grazie a strumenti integrati, come la possibilità di annotare una mappa con i ristoranti consigliati, l’app offre un esempio pratico delle potenzialità del nuovo strumento.
Su queste basi OpenAI ha successivamente lanciato OpenAI Presence per gli agenti vocali enterprise, portando la Realtime API dentro le aziende.
Queste nuove capacità rappresentano un’importante opportunità per le aziende, che possono beneficiare di soluzioni personalizzate per rispondere alle proprie esigenze di business e rendere l’integrazione dell’AI nei processi aziendali un elemento strategico per migliorare l’efficienza e l’innovazione.
Prima di avviare un progetto simile, però, è utile capire quanto costa implementare un agente AI in azienda nel 2026, tra licenze, integrazione e formazione interna.
Per le imprese che superano la fase di sperimentazione, il passo successivo è portare un agente AI in produzione, dove le sfide operative differiscono profondamente da quelle di un pilota.
Integrazione con API di terze parti
Nonostante le similitudini con Google Duo, la Realtime API di OpenAI non è ancora in grado di chiamare direttamente ristoranti o negozi, ma può integrarsi con altre API, come Twilio, per effettuare chiamate. Importante sottolineare che, almeno per ora, OpenAI non aggiunge automaticamente una divulgazione nelle chiamate che indichi l’utilizzo di un modello AI, lasciando questo aspetto alla responsabilità degli sviluppatori. Questo potrebbe diventare un requisito a causa delle normative, come il nuovo disegno di legge californiano che regola l’uso di voci AI realistiche.
La vision fine-tuning e nuove funzionalità API
Comprensione visiva migliorata
OpenAI ha presentato la nuova funzionalità di vision fine-tuning all’interno della sua API, per permettere agli sviluppatori di utilizzare immagini e testo per migliorare le loro applicazioni con GPT-4o. Questo aiuta a migliorare la comprensione visiva del modello e a incrementarne le prestazioni in compiti specifici. Tuttavia, sono escluse immagini che violano le politiche di sicurezza di OpenAI, come quelle protette da copyright o raffiguranti violenza.
Con l’integrazione di funzionalità come il vision fine-tuning, le aziende hanno la possibilità di migliorare notevolmente la capacità dei loro sistemi AI di comprendere e rispondere a contenuti visivi. Questo tipo di personalizzazione consente di ottenere modelli ottimizzati su specifici casi d’uso aziendali, incrementando l’efficienza operativa e l’esperienza utente complessiva.
Prompt caching per ridurre i costi
Altra novità significativa è il prompt caching, simile alla soluzione offerta da Anthropic: questa funzione permette di memorizzare il contesto più frequentemente utilizzato tra le chiamate API, con una possibile riduzione dei costi del 50%. Sebbene questa riduzione sia inferiore al 90% promesso da Anthropic, rappresenta comunque un passo avanti significativo per rendere l’utilizzo dell’API più accessibile.
Model distillation per migliorare l’efficienza
Ottimizzazione dei modelli più piccoli
La model distillation è un’altra novità annunciata durante il DevDay 2024. Questa funzionalità permette agli sviluppatori di usare modelli più grandi come il GPT-4o per migliorare le prestazioni di modelli più piccoli, come il GPT-4o mini. L’utilizzo di modelli più piccoli comporta notevoli risparmi in termini di costi operativi, mentre questa distillazione consente di trasferire miglioramenti di performance senza aumentare i requisiti computazionali. OpenAI ha anche lanciato un tool di valutazione in beta, utile agli sviluppatori per misurare le prestazioni dei propri modelli all’interno dell’API.
Ottimizzare l’uso dei modelli AI è fondamentale per garantire che le applicazioni aziendali mantengano alte prestazioni senza eccedere nei costi. L’adozione di un approccio strategico nell’integrazione di queste tecnologie può fare la differenza nel migliorare l’efficienza e i risultati complessivi.
DevDay 2024: cosa manca all’appello
Mancanze e attese future
Nonostante le numerose novità, il DevDay 2024 ha lasciato alcuni interrogativi aperti. Per esempio, non è stata fornita alcuna informazione sul GPT Store, annunciato lo scorso anno e che avrebbe dovuto includere un programma di revenue sharing per i creatori di GPT più popolari. Inoltre, non sono stati lanciati nuovi modelli AI durante l’evento, lasciando in sospeso le attese per la versione completa di OpenAI o1 o il modello di generazione video Sora.
Competitività nel settore AI
OpenAI si trova a competere in un settore sempre più agguerrito, con concorrenti come Meta e Google che stanno riducendo i prezzi dei loro modelli AI. OpenAI ha abbassato i costi di accesso alle sue API del 99% negli ultimi due anni, una mossa necessaria per restare competitivi. La sfida principale rimane quella di convincere gli sviluppatori che OpenAI è la piattaforma migliore per costruire app innovative. Attualmente sono oltre 3 milioni gli sviluppatori che utilizzano i modelli AI di OpenAI, ma per mantenere questa posizione dovrà dimostrare di essere in grado di innovare più velocemente dei competitor.
Supporto agli sviluppatori
Con l’obiettivo di supportare gli sviluppatori, OpenAI ha incluso anche nuovi strumenti e funzionalità per facilitare l’uso e la personalizzazione dei suoi modelli AI, migliorando così l’accessibilità e la versatilità degli strumenti offerti. Il futuro sembra quindi orientato verso una continua ottimizzazione di costi, performance e user experience, in una corsa senza sosta per la leadership nel campo dell’AI applicata.
Queste innovazioni rappresentano un’opportunità significativa per tutte le aziende che desiderano integrare l’intelligenza artificiale nei loro processi. SMarT Strategy è dedicata a fornire supporto tecnico alle aziende che vogliono sfruttare le potenzialità dei modelli AI, migliorando l’efficienza operativa e stimolando l’innovazione. Se vuoi saperne di più su come possiamo aiutarti a utilizzare le API di OpenAI o altri LLM per rivoluzionare il tuo business, contattaci subito.
SMarT continuerà a monitorare queste evoluzioni, aiutando i suoi clienti a trarre vantaggio dalle ultime innovazioni tecnologiche. Se vuoi saperne di più sulle opportunità offerte da OpenAI e altri leader del settore AI, contattaci per una consulenza. La rivoluzione tecnologica è appena iniziata, e noi siamo pronti ad accompagnarti in questo viaggio verso l’innovazione.
Domande frequenti
Cosa ha annunciato OpenAI al DevDay 2024?
Al DevDay 2024 OpenAI ha rilanciato l'impegno verso gli sviluppatori introducendo diversi nuovi strumenti per creare app basate sui propri modelli AI, tra cui la beta pubblica della Realtime API per risposte vocali a bassa latenza, il vision fine-tuning e la model distillation. L'obiettivo è facilitare l'integrazione dell'AI nei prodotti e nei processi aziendali.
Cos'è la Realtime API di OpenAI?
La Realtime API è una funzionalità che consente risposte vocali rapide e interattive per le app, con latenza ridotta. Nella dimostrazione del DevDay è stata mostrata un'app di pianificazione viaggi in cui l'utente dialogava vocalmente con un assistente AI, abilitando esperienze conversazionali in tempo quasi reale.
Cos'è il vision fine-tuning?
Il vision fine-tuning è una funzionalità dell'API che permette agli sviluppatori di usare immagini e testo per migliorare le proprie applicazioni con GPT-4o, affinando la comprensione visiva del modello e le prestazioni su compiti specifici. Sono escluse le immagini che violano le politiche di sicurezza di OpenAI.
Cos'è la model distillation annunciata al DevDay 2024?
La model distillation permette agli sviluppatori di usare modelli più grandi come GPT-4o per migliorare le prestazioni di modelli più piccoli come GPT-4o mini. Trasferendo le capacità dal modello grande a quello piccolo si ottengono notevoli risparmi sui costi operativi mantenendo buone prestazioni, una leva importante per la sostenibilità economica delle applicazioni AI.
