Looking for a Shorter Overview?
AI Summary
Key Moments
Decisions API simile a Jev
OpenAI ha annunciato una API per decisioni rapide che funziona come Jev di TypeSafe per automazione software.Vantaggio competitivo di TypeSafe
TypeSafe usa dati sintetici per garantire output affidabili a basso costo con un buon compromesso intelligenza-prezzo.Applicazioni per sicurezza agenti AI
Questi modelli possono monitorare azioni agentiche per prevenire comportamenti rischiosi con costi contenuti.Risparmio nei costi di monitoraggio
Usare Jev per controllare ogni azione agentica è molto più economico rispetto a LLM tradizionali, aumentando l’affidabilità.Il clone di Jev di OpenAI potrebbe aiutare il laboratorio di frontiera a fermare i suoi agenti “sciame”
Tra gli annunci più curiosi del Dev Day di OpenAI di martedì c’è stato un accenno del CEO Sam Altman alla nuova “Decisions API”. A grandi linee, sembra offrire funzionalità simili a Jev, un modello rilasciato a inizio mese da TypeSafe AI pensato specificamente per l’automazione software. In sostanza, si tratta di un classificatore “potenziato” costruito su un LLM: gli sviluppatori passano a Jev un insieme di scelte e il modello restituisce probabilità per ciascuna opzione, a costi contenuti e con latenza molto bassa.
La Decisions API di OpenAI pare muoversi nella stessa direzione. Durante l’evento, Altman l’ha descritta come un modo per far scegliere al modello Luna di OpenAI tra opzioni predefinite, per esempio categorie per classificare un’immagine o diversi comportamenti agentici.
“Concentrando il modello su quella scelta, possiamo renderlo estremamente veloce mantenendo capacità come la comprensione delle immagini, l’ampio supporto linguistico e le protezioni di sicurezza”, ha spiegato Altman.
TypeSafe non ha risposto alle domande di TechCrunch sul nuovo prodotto, ma il CEO Diogo Almeida — ex ingegnere di OpenAI e co‑inventore dell’apprendimento per rinforzo — ha ironizzato su X sul fatto che “sono iniziate le clone wars”. Ha aggiunto che l’interesse di OpenAI potrebbe essere “il segno che costruire in modo compatibile con il System One è il futuro”. Con “System One” TypeSafe indica il pensiero rapido e intuitivo; “System 2” è il ragionamento più lento e deliberato.
Il sottotesto è chiaro: gli LLM, così come li conosciamo, non sono sempre la soluzione giusta per il software, perché risultano relativamente lenti e costosi. Molti sviluppatori stanno usando Jev come complemento agli LLM e hanno scoperto che questa combinazione è più veloce e più economica.
Non è ancora definito quanto la Decisions API replicherà davvero Jev: OpenAI l’ha distribuita in anteprima limitata e, per ora, non si sono visti test pubblici approfonditi. Sulle conversazioni su X, però, l’interesse è evidente.
OpenAI non è sola: in rete stanno emergendo altre API sulla falsariga di Jev, e non sarà l’ultimo grande player a proporne una. Il punto cruciale sarà quanto bene questi modelli “di decisione” riusciranno a calibrare le loro probabilità rispetto al mondo reale.
Secondo Almeida, il vantaggio competitivo di TypeSafe sta nei dati sintetici che genera per produrre output statisticamente affidabili. “Fare qualcosa di veloce e a basso costo è facile”, ha detto a TechCrunch la scorsa settimana. “Se lo vuoi davvero velocissimo e a costo quasi nullo, lancia un dado. L’intelligenza è la parte difficile, e la mia stella polare è spingere sempre il compromesso intelligenza-per-dollaro lungo la frontiera di Pareto.”
Dopo poche settimane, è già piuttosto chiaro che questi modelli hanno davanti un futuro interessante, e uno degli impieghi più promettenti è il monitoraggio e la sicurezza degli agenti AI. Tra le misure di sicurezza che OpenAI ha introdotto dopo diversi episodi in cui i suoi agenti si sono comportati male in rete, c’è l’idea di usare un modello separato per individuare azioni rischiose — anche se a “costo computazionale significativo”.
Shapor Naghibzadeh, veterano della cybersecurity e oggi alla guida della startup QueryStory, ritiene che un modello come Jev possa rendere questa sorveglianza molto più economica. In occasione di un hackathon dello scorso weekend, ha realizzato una demo che usa Jev per confrontare ogni azione agentica con il compito assegnato: blocca quelle che giudica con alta confidenza come dannose, segnala per revisione i casi dubbi e lascia passare il resto.
In teoria, un controllo del genere avrebbe potuto evitare l’incidente su Hugging Face — e, in termini di costi, il monitoraggio con Jev sarebbe pari a 2,94 dollari contro i 372 dollari richiesti da un LLM di frontiera.
L’osservazione chiave è che Jev è sufficientemente economico da poter essere eseguito su ogni singola azione dell’agente, aggiungendo uno strato di verifica che potrebbe migliorare l’affidabilità complessiva degli agenti. È proprio il tipo di risultato a cui mirava TypeSafe — e ora anche OpenAI sembra averne colto il valore.
