NEXUS · MeToo Service

Sviluppo

Claude, arrivano i thread di messaggi: risposte più rapide per gli agenti

In beta pubblica: gli agenti inviano solo i messaggi nuovi invece dell'intera conversazione. Tempo al primo token giù di circa il 35%.

Dario Amodei, cofondatore e amministratore delegato di Anthropic, l'azienda che sviluppa Claude
Foto d'archivio, non dell'evento: Dario Amodei, cofondatore e amministratore delegato di Anthropic, l'azienda che sviluppa Claude (foto del fondatore: nessuna immagine utilizzabile nella fonte). Foto: TechCrunch, Wikimedia Commons, CC BY 2.0 (ridimensionata). Pagina del file

📌 Una novità tecnica che può sembrare piccola, ma tocca il modo in cui funzionano gli agenti di intelligenza artificiale. Anthropic ha rilasciato in beta pubblica i thread di messaggi, che permettono agli agenti di inviare solo i messaggi nuovi invece di rispedire ogni volta l'intera conversazione, secondo TLDR AI. Qui sotto: il problema che risolve, i numeri, chi ne beneficia, i limiti e cosa guardare ora.

La novità

La notizia è nella rassegna di TLDR AI del 3 novembre. Secondo la newsletter, «Anthropic released message threads in public beta, allowing agents to send only new messages instead of resending their entire conversation history»: Anthropic ha rilasciato in beta pubblica i thread di messaggi, che consentono agli agenti di inviare solo i messaggi nuovi invece di rimandare tutta la cronologia della conversazione.

«Beta pubblica» significa che la funzione è aperta a chi vuole provarla, ma è ancora in fase di test: può cambiare e non è considerata definitiva.

Il problema che risolve

Per capire perché conta, bisogna sapere come funziona di solito il dialogo con un modello linguistico attraverso le sue interfacce di programmazione. Il modello, in genere, non ricorda da solo le conversazioni precedenti: a ogni nuova richiesta il programma che lo usa deve rimandargli tutto ciò che è stato detto fino a quel momento, così che abbia il contesto completo.

Per una chiacchierata breve non è un problema. Per un agente, cioè un programma che lavora per ore su un compito complesso, scambiando decine o centinaia di messaggi, la cronologia diventa enorme. Ogni passo obbliga a ritrasmettere una montagna di testo già visto, e questo rallenta la risposta.

I numeri

Secondo TLDR AI, la funzione ha ridotto di circa il 35% il tempo mediano al primo token per le richieste tra 500.000 e un milione di token, senza cambiare il consumo di token.

Il «tempo al primo token» è il tempo che passa tra l'invio di una richiesta e il momento in cui il modello comincia a rispondere. I token sono le unità con cui i modelli misurano il testo: una pagina ne contiene alcune centinaia, quindi un milione di token equivale a un'enorme quantità di documenti, codice o conversazione.

Effetto dei thread di messaggi
VoceValore
Riduzione del tempo mediano al primo tokencirca 35%
Dimensione delle richieste misurate500.000 - 1 milione di token
Variazione del consumo di tokennessuna

Il guadagno è sulla velocità, non sul costo: si usano gli stessi token, ma la risposta parte prima. Fonte: TLDR AI, 3 novembre 2026

Più veloce, ma non più economico

C'è un dettaglio importante: secondo TLDR AI il consumo di token non cambia. In altre parole, il beneficio riguarda la rapidità, non il prezzo. Chi paga in base ai token usati non dovrebbe aspettarsi una bolletta più bassa per questo motivo.

Per gli agenti, però, la velocità è un valore in sé. ⏱️ Un agente che deve fare molti passi in sequenza accumula attese a ogni passaggio: ridurle di un terzo sulle richieste più pesanti può accorciare in modo sensibile il tempo totale di un lavoro.

Chi ne beneficia

I primi a vedere la differenza sono gli sviluppatori che costruiscono agenti con contesti molto lunghi: assistenti che lavorano su grandi archivi di codice, sistemi che analizzano montagne di documenti, strumenti che portano avanti una conversazione per ore.

Per l'utente finale l'effetto è indiretto ma concreto: applicazioni che rispondono prima e agenti che completano i compiti più in fretta. È una di quelle migliorie invisibili che cambiano l'esperienza senza che chi usa il servizio sappia perché

Il contesto: la corsa agli agenti

La novità arriva in una giornata piena di notizie per Anthropic. Nella stessa rassegna, TLDR AI riferisce che l'azienda ha indicato nel prospetto aggiornato per la quotazione di poter raggiungere presto la propria definizione interna di auto-miglioramento ricorsivo, cioè la fase in cui i sistemi di AI aiutano a sviluppare modelli sempre più capaci.

Tutti i grandi laboratori stanno puntando sugli agenti, programmi capaci di agire in autonomia su compiti lunghi. In questa corsa contano non solo l'intelligenza dei modelli, ma anche l'efficienza dell'infrastruttura: quanto velocemente rispondono, quanto contesto riescono a gestire, quanto costano. I thread di messaggi lavorano proprio su questo terreno.

Un'analogia per capire

Immagina di dover dare istruzioni a un collaboratore che, a ogni telefonata, dimentica tutto quello che vi siete detti. Ogni volta dovresti rileggergli l'intera conversazione prima di aggiungere una frase nuova. Con poche telefonate è sopportabile; dopo cento diventa un incubo, e la maggior parte del tempo se ne va a ripetere cose già note.

I thread di messaggi funzionano come un fascicolo condiviso: la conversazione resta disponibile, e a ogni passo basta aggiungere l'ultima pagina. Il lavoro si concentra sulla parte nuova, non sulla ripetizione di quella vecchia.

Per chi progetta agenti significa anche meno dati da spostare a ogni chiamata e programmi più semplici da gestire quando le conversazioni diventano lunghissime.

Cosa guardare ora

🔎 Essendo una beta, la funzione potrà cambiare prima del rilascio definitivo. Sarà interessante vedere se i guadagni di velocità si confermeranno anche su richieste più piccole e se gli altri fornitori di modelli adotteranno soluzioni simili. Per gli sviluppatori, la domanda pratica è quanto sia semplice integrarla negli agenti già esistenti e se valga la pena farlo subito o aspettare la versione stabile. Le prossime note di Anthropic diranno anche quando la funzione uscirà dalla fase di prova.

Fonti