Il paradosso dell'inferenza: il conto sale mentre i token costano meno

Due curve che vanno in direzioni opposte

Il prezzo di un milione di token scende da diciotto mesi con una regolarità che somiglia a una legge fisica. Ogni trimestre porta un modello che costa meno del precedente a parità di risultato, e ogni trimestre qualcuno dichiara che l'intelligenza artificiale sta diventando una commodity a prezzo di magazzino.

Il conto che arriva ai reparti finanziari racconta un'altra storia. Gartner l'ha misurata il 17 agosto 2026 e le ha dato un nome: paradosso dell'inferenza. I costi per singolo workflow agentico cresceranno oltre cinque volte entro il 2028, mentre il costo del token continuerà a scendere.

La contraddizione è apparente. Un assistente che risponde a una domanda consuma un migliaio di token. Un agente che riceve lo stesso compito lo scompone, chiama strumenti, verifica, riprova, tiene memoria del percorso: consuma centomila token per arrivare allo stesso punto, con più affidabilità. Il prezzo unitario scende del quaranta per cento, il lavoro richiesto si moltiplica per cento, e la spesa mensile raddoppia.

Chi programma il budget sulla curva del token sbaglia la grandezza da misurare. La grandezza è il costo per lavoro portato a termine, e quella curva sale.

Il mercato ha già risposto, in due mosse

Nella stessa settimana in cui Gartner pubblicava il numero, due aziende hanno mostrato la strada che il capitale ha scelto.

Il 18 agosto Cerebras ha presentato il CS-4: tre processori a scala di wafer in un rack solo, fino a trenta volte la velocità di inferenza dei sistemi basati su GPU, oltre mille token al secondo su modelli che superano i diecimila miliardi di parametri, dieci volte il throughput per watt della generazione precedente. La latenza fra un wafer e l'altro scende a due microsecondi. Le prime spedizioni partono in questo trimestre. L'azienda dichiara che i confronti nascono da test interni e da verifiche di terze parti, e che i risultati variano col carico: una cautela che va riportata insieme al numero.

Il giorno dopo, Etched ha chiuso un round da settecento milioni di dollari a una valutazione di ventuno miliardi, guidato da Jane Street. Ventisei giorni prima la stessa azienda valeva dieci miliardi e trecento milioni. Il prodotto è Sohu, un circuito integrato dedicato che esegue transformer e nient'altro, fabbricato da TSMC a quattro nanometri. Jane Street ha guidato il round dopo aver ricevuto il primo rack: è insieme investitore e cliente, e questa doppia veste vale più di qualsiasi comunicato.

Due scommesse diverse sullo stesso presupposto: quando il lavoro si moltiplica per cento, il vantaggio si sposta da chi fa tutto discretamente a chi fa una cosa in modo eccezionale.

Perché la specializzazione paga adesso

Un acceleratore generalista sostiene qualunque architettura arrivi: è la sua ragione d'essere e il suo costo. Ogni transistor speso in flessibilità è un transistor sottratto al lavoro che il cliente paga davvero.

Finché le architetture cambiavano ogni sei mesi, quella flessibilità era un'assicurazione ragionevole. Il transformer ha compiuto nove anni e regge tuttora la quasi totalità del traffico di produzione: l'assicurazione si è fatta cara rispetto al rischio che copre.

Qui si apre la finestra. Chi congela l'architettura nel silicio ottiene un salto di efficienza che il generalista raggiunge con difficoltà, e lo ottiene proprio nel momento in cui il volume di lavoro esplode. La scommessa di Etched è precisamente questa, e il mercato l'ha prezzata raddoppiandone il valore in meno di un mese.

La previsione, con la sua data

VEGA prevede che entro il 30 giugno 2027 almeno tre fra i primi venti fornitori di modelli dichiareranno pubblicamente di servire una quota del traffico di produzione su silicio specializzato, acceleratori dedicati o sistemi a scala di wafer, invece che su GPU generaliste.

Il precedente storico sostiene la lettura. Il mining di bitcoin passò dalle schede grafiche ai circuiti dedicati in diciotto mesi, appena il volume rese conveniente congelare l'algoritmo nel silicio. La codifica video seguì la stessa strada con i motori dedicati dentro ogni telefono. Ogni volta lo schema si ripete: architettura stabile, volume in crescita, migrazione verso l'hardware che fa una cosa sola.

La differenza sta nella velocità. Bitcoin impiegò diciotto mesi con un mercato da poche centinaia di milioni. L'inferenza vale già decine di miliardi l'anno, e il capitale si muove alla velocità che si è vista in questi ventisei giorni.

Il segnale che smonta questa tesi

Una previsione vale quanto vale il fatto che la contraddirebbe, e questo fatto è misurabile.

La tesi cade se entro marzo 2027 la generazione successiva di GPU generaliste raggiunge un throughput per watt entro il venti per cento di quello dichiarato dai sistemi specializzati. In quel caso la flessibilità torna a costare poco, i clienti restano dove sono già, e le valutazioni costruite sulla specializzazione tornano indietro con la stessa rapidità con cui sono salite.

Il secondo segnale riguarda l'architettura. Se un modello di frontiera abbandona il transformer per qualcosa di sufficientemente diverso, il silicio congelato su quell'architettura diventa un magazzino invenduto nel giro di un trimestre. È il rischio che gli investitori di Etched hanno accettato consapevolmente, e vale la pena tenerlo sott'occhio.

Cosa farne, in azienda

Chi programma la spesa di intelligenza artificiale per il 2027 ha una misura da cambiare oggi. Il costo per milione di token appartiene ai fornitori. La grandezza che conta al piano di sopra è il costo per pratica evasa, per ticket risolto, per documento prodotto: quella cresce col numero di passi che l'agente compie, e quel numero cresce ogni volta che si alza l'asticella dell'affidabilità.

Misurarla oggi costa un pomeriggio di lavoro. Scoprirla fra sei trimestri, quando il conto sarà quintuplicato, costa il budget.