Stanford e NVIDIA hanno rilasciato CLM-8B, il primo Contrastive Language Model open source: un modello da 8 miliardi di parametri che non genera testo, ma sceglie l’azione più adatta per un agente AI confrontando rappresentazioni vettoriali. Nei test riportati dal progetto raggiunge fino a 9 volte la velocità di Jev, il decision model di TypeSafe.
Il modello è stato pubblicato il 23 settembre 2026 e si colloca nel filone dei cosiddetti modelli System One: sistemi rapidi e specializzati, pensati per decisioni ripetitive piuttosto che per ragionamento generativo. Il progetto nasce dal gruppo Hazy Research di Stanford, con il contributo di ricercatori affiliati anche a NVIDIA.
Come funziona CLM-8B
A differenza di un LLM tradizionale, CLM-8B non compone una risposta token dopo token. Riceve lo stato corrente dell’agente — per esempio una schermata di gioco, il contesto di un tool oppure una patch di codice — e lo confronta con le azioni candidate disponibili.
Stato e azioni vengono proiettati nello stesso spazio di embedding. Il modello seleziona quindi l’azione il cui vettore è più vicino a quello dello stato: è un problema di similarità, non di generazione testuale.
L’addestramento utilizza InfoNCE, una funzione di perdita contrastiva bidirezionale che avvicina gli stati alle azioni corrette e allontana quelle errate. È un approccio affine a quello usato nei sistemi di retrieval e ricerca semantica, applicato qui alla selezione delle azioni di un agente.
Architettura: un backbone congelato e due teste addestrate
CLM-8B si basa su Qwen3-8B, utilizzato come backbone linguistico congelato. Sopra il modello base sono presenti due teste di proiezione separate: una per codificare gli stati e una per codificare le azioni.
Ogni testa pesa circa 20 milioni di parametri, per un totale di circa 40 milioni di parametri effettivamente addestrati. Il nome “8B” fa quindi riferimento alla dimensione del backbone, non alla parte del modello sottoposta a training.
Il processo di addestramento si articola in tre fasi:
- Pre-training su 60 milioni di coppie domanda-risposta del dataset Nemotron di NVIDIA.
- Mid-training su 30 milioni di hard negative sintetici, cioè azioni plausibili ma sbagliate, utili a rendere il modello più selettivo.
- Post-training su circa 1 milione di traiettorie agentive reali, tratte da attività di coding, navigazione web e uso di strumenti.
Benchmark e prestazioni
CLM-8B non domina ogni benchmark, ma ottiene risultati competitivi con Jev e riduce sensibilmente la latenza. Nei test di verifica del codice supera il modello di TypeSafe, mentre su tool calling e WikiRacing resta leggermente indietro.
| Benchmark | CLM-8B | Jev |
|---|---|---|
| DeepSWE, verifica di patch di codice | 81,6% | 71,1% |
| Terminal-Bench 2.1 | 87,6% | 83,1% |
| BFCL v4, tool calling | 95,2% | 99,2% |
| WikiRacing, 30 partite | 26 vinte | 30 vinte |
| T-Rex di Chrome, tempo di decisione | 16,5 ms | 149,8 ms |
Dopo un fine-tuning leggero, il modello supera Jev sui verificatori di codice DeepSWE e Terminal-Bench, con una latenza inferiore da 4 a 6 volte. Nel gioco del dinosauro di Chrome, dove la reattività è determinante, il vantaggio arriva fino a 9 volte.
Perché è così veloce
Il vantaggio principale deriva dalla cache separata di stati e azioni. Jev e Laya memorizzano soltanto la rappresentazione dello stato; CLM-8B, grazie alla sua architettura a doppio encoder, può calcolare e conservare separatamente anche gli embedding delle azioni.
Se un agente deve scegliere ripetutamente tra le stesse 50 opzioni — tasti di un videogioco, strumenti disponibili in una pipeline, comandi di un sistema — CLM-8B calcola una sola volta i vettori delle azioni e li riutilizza a ogni decisione.
Con circa 1.000 azioni candidate, il vantaggio dichiarato sale fino a 13 volte rispetto a Jev, perché il costo aggiuntivo riguarda principalmente la codifica del nuovo stato e non quella delle azioni già in cache.
Non è JEPA
Nonostante il lavoro avvenga in uno spazio di embedding condiviso, CLM-8B non è un’implementazione della JEPA (Joint Embedding Predictive Architecture) proposta da Yann LeCun.
La JEPA è orientata alla previsione di stati futuri del mondo a partire da video e segnali sensoriali. CLM-8B, invece, non predice nulla: confronta lo stato attuale con un insieme chiuso di azioni note e seleziona quella più simile. È quindi un modello di classificazione per similarità, non un world model predittivo.
Licenza, disponibilità e integrazione
Il codice e i pesi sono disponibili con licenza Apache 2.0, che consente uso commerciale, modifica e redistribuzione. I pesi sono pubblicati su Hugging Face, mentre il repository GitHub aveva raccolto 2.194 stelle cinque giorni dopo il rilascio.
L’installazione è prevista tramite:
pip install contrastive-lm
Il client espone un’API dichiarata compatibile con quella di TypeSafe: chi ha già integrato Jev può quindi valutare CLM-8B con modifiche limitate al codice. Il repository include anche un motore in-process, utile quando non si vuole gestire un server separato.
Gli autori hanno annunciato CLM-35B-A3B, una futura versione multimodale con architettura Mixture-of-Experts, capace di lavorare anche su immagini. L’obiettivo è permettere al modello di scegliere un’azione osservando direttamente uno screenshot, invece di riceverne una descrizione testuale.
Cosa cambia per gli agenti AI
CLM-8B non sostituisce modelli conversazionali come Claude, GPT o Gemini. Non è progettato per scrivere testi lunghi, dialogare o affrontare problemi aperti: il suo terreno naturale sono le decisioni frequenti e strutturate all’interno di un agente.
Casi d’uso interessanti includono:
- Scelta automatica del tool da invocare in una pipeline agentica.
- Selezione rapida di mosse in ambienti di gioco o simulazione.
- Verifica e routing di patch di codice.
- Judge veloce per selezionare la migliore risposta prodotta da più modelli di reasoning.
Per chi sviluppa agenti, la tesi è semplice: quando la risposta non deve essere generata ma scelta, un modello contrastivo può ridurre latenza e costi computazionali senza rinunciare a prestazioni vicine a quelle dei modelli di riferimento.
In sintesi
CLM-8B porta nel mondo open source un approccio diverso dalla generazione testuale: codifica stati e azioni, li confronta nello stesso spazio vettoriale e restituisce la decisione più probabile. Con un backbone Qwen3-8B congelato, sole due teste addestrate e una cache separata per stati e azioni, ottiene latenze da 4 a 9 volte inferiori a Jev nei test pubblicati, con risultati di accuratezza generalmente competitivi.
enjoy!
Ti interessa acquistare un dominio a prezzi ultraconvenienti? clicca qui
Se hai trovato utili le informazioni su questo blog,
Fai una donazione!
Clicca sul bottone qui sotto o almeno clicca sul banner pubblicitario 🙂
Commenta