Looking for a Shorter Overview?
AI Summary
Key Moments
Jev non genera testo ma decisioni calibrate
Jev utilizza un modello transformer che restituisce probabilità anziché output testuali per evitare allucinazioni.Vantaggi di Jev rispetto agli LLM
Jev è più veloce, economico e privo di allucinazioni rispetto ai classici modelli di linguaggio.Applicazioni pratiche e riscontri sul campo
Aziende come Vercel e Bryo AI testimoniano miglioramenti significativi in velocità, costi e affidabilità nelle loro automazioni.Utilizzo di Jev come guardiano e router di modelli
Jev può monitorare altri agenti LLM e indirizzare i carichi di lavoro in modo efficiente e a basso costo.Un nuovo modello di IA di un inventore di ChatGPT entusiasma gli sviluppatori
ChatGPT ha lasciato l’amaro in bocca a Diogo Almeida. Ricercatore di OpenAI e tra i padri del reinforcement learning from human feedback (RLHF) — la tecnica che ha spinto l’ondata attuale dell’IA — Almeida ha contribuito a costruire il chatbot. Eppure, nonostante le sue capacità, ne è rimasto deluso.
“Abbiamo fulmini in bottiglia, ma non è utile,” ha raccontato a TechCrunch. “Combatto questo problema da allora. Mi ci è voluto un po’ per arrivare alla conclusione: stiamo ottimizzando per il linguaggio umano… Siamo bravissimi con il linguaggio da quattro anni, ma non è utile per l’automazione perché i computer parlano un’altra lingua.”
Due anni fa, Almeida ha lasciato OpenAI e ha fondato TypeSafe AI per affrontare proprio questo limite. Questa settimana la startup ha presentato Jev, un nuovo modello basato su transformer che non è un LLM. Non genera testo: produce probabilità, o come preferisce definirle l’azienda, “decisioni calibrate”.
Un’IA senza parole: veloce, economica e senza allucinazioni
Abbandonare l’output in linguaggio naturale cambia le regole del gioco:
– rende il modello estremamente rapido ed economico;
– elimina le allucinazioni, perché gli output sono definiti in anticipo dall’utente;
– i token di output sono gratuiti, mentre quelli di input si pagano a miliardi, non a milioni.
Il risultato? Un sistema che prende decisioni probabilistiche in modo affidabile e a costi ridottissimi.
Gli sviluppatori non sono rimasti indifferenti: l’interesse è stato così alto che, per un breve periodo, l’API non è riuscita a gestire tutte le richieste. Jev si sta dimostrando particolarmente utile nell’automazione software: molti team lo vedono come un modo più robusto ed economico per aggiungere “intelligenza” al codice.
Casi d’uso sul campo
-
Vercel: Pranit Sharma, ingegnere software, racconta che l’azienda usava ChatGPT Luna 5.6 di OpenAI per classificare e controllare la sicurezza dei comandi. Sostituendo Luna con Jev, i risultati sono arrivati da 5 a 18 volte più velocemente, con una precisione persino maggiore.
-
Bryo AI: il CTO Nikhil Mudholkar ha confrontato Jev con Gemini per classificare email di business. Gemini è risultato leggermente più accurato, ma da 10 a 20 volte più costoso. Ancora più interessante per Mudholkar è stato il punteggio di confidenza di Jev: “è l’unico che restituisce una vera probabilità, rendendolo ideale per automatizzare i workflow!”
Un “guardiano” per gli LLM e un router per modelli
Oltre a sostituire gli LLM in alcuni scenari, Jev può anche affiancarli come controllo intelligente contro comportamenti indesiderati. Usare agenti per monitorare altri agenti può diventare costoso: con Jev, sostiene Almeida, il bilancio costi/benefici torna a favore dell’automazione. Un’applicazione concreta è monitorare le tracce degli agenti LLM e bloccare i jailbreak.
Come spiega Armin Ronacher, CTO di Earendil (che sviluppa l’harness open source Pi): “Alla fine sposti un po’ il problema delle allucinazioni sull’utente. Se il modello restituisce solo il 50% di probabilità, magari è un lancio di moneta e lo ignoro. Ma al 95%, sì, allora posso agire.”
Ronacher evidenzia anche un altro impiego: il model routing. Capire al volo se un certo carico richiede un modello specifico è utile, ma farlo con un LLM è costoso. Con Jev, grazie a velocità e costo ridotto, lo smistamento in tempo reale diventa praticabile.
Perché “Jev”: l’effetto dei costi che crollano
Il nome omaggia l’economista ottocentesco William Stanley Jevons e il suo paradosso: quando il costo di una risorsa diminuisce, il suo uso tende ad aumentare. Applicato qui, se il costo dell’intelligenza scende, la vedremo distribuita ovunque.
“Pensiamo che il software diventerà intelligente dappertutto, in modo emergente e distribuito… più simile ai primi tempi di internet che non alle mega‑app che si vogliono costruire oggi,” afferma Almeida.
Architettura riservata, obiettivo: intuizione e compiti mirati
Sull’architettura, bocche cucite. Osservatori esterni ipotizzano che sopra ci sia un LLM a pesi aperti, ma l’azienda definisce Jev un “modello di Sistema Uno”: focalizzato sull’intuizione più che sul ragionamento, e tarato con precisione sul compito giusto.
Almeida spiega che Jev è addestrato interamente su dati sintetici, con una tecnica che chiama “reinforcement learning from calibrated decisions”. La scommessa? Produrre internamente tutti i dati di training.
“Abbiamo puntato presto sul creare tutti i nostri dati, e si è rivelata una delle migliori decisioni della mia vita — meglio del lancio, meglio dell’RLHF,” ha raccontato a TechCrunch. “Metà della nostra azienda è un laboratorio che di fatto guida questo sotto‑campo dei dati sintetici statisticamente ben compresi, ed è la mia gioia quotidiana.”
Competitor in arrivo e roadmap
Per ora, Jev gioca da solo in questa categoria. Ma, secondo Ronacher, è solo questione di tempo prima che arrivino rivali, ora che la sua utilità è evidente. “Forse avremmo dovuto vederlo prima, ma con LLM così economici e spesso sovvenzionati, non sempre si è costretti a essere creativi.”
TypeSafe, intanto, prepara nuove varianti del modello e nuove modalità. Alla domanda se l’azienda sia un “frontier lab”, Almeida replica: “Il prodotto principale dei frontier lab è la paura o l’hype. Vorrei che il nostro prodotto principale fosse l’intelligenza… [ma non siamo] un laboratorio che punta alla ricchezza infinita, o a una religione, o a costruire Dio in un data center, o qualunque sia la moda del momento.”
