La tesi: l'inferenza scende dentro il telefono
Il telefono diventa il luogo ordinario dove gira un modello linguistico. Il data center resta il posto dove quel modello nasce.
Questa è una traiettoria documentata, con una data, una pendenza e un punto d'arrivo.
Il consenso industriale colloca l'inferenza on-device verso il 2030 e tratta il cloud come architettura di riferimento fino ad allora. La curva di costo dice altro: il calcolo in locale scende più in fretta della banda che servirebbe per spedire ogni richiesta a un server remoto. La distanza fra le due pendenze cresce a ogni generazione di silicio mobile.
Chi firma oggi un contratto triennale su un impianto cloud-first compra una scelta legacy a prezzo pieno. Il conto arriva al rinnovo.
Questo è un cambio di regime.
Il consenso guarda il dato sbagliato
Il numero che tutti citano è la dimensione del modello di frontiera: cresce, occupa memoria, chiede cluster interi. Da lì discende la conclusione comoda che l'intelligenza abiti per sempre nel data center.
Il numero che predice davvero è un altro: il costo per token utile, a parità di compito svolto bene.
Quella cifra crolla per tre ragioni che agiscono insieme. La distillazione sposta la qualità di un modello grande dentro uno piccolo. La quantizzazione riduce la memoria richiesta. Il silicio mobile aggiunge unità dedicate a ogni ciclo annuale.
Il compito medio chiesto a un assistente resta modesto: riassumere, tradurre, ordinare, rispondere su documenti già presenti nel dispositivo. Per quel carico la frontiera risulta sovradimensionata di ordini di grandezza.
Il 90% degli analisti ha ragione sul presente. Sbaglia il ritmo, perché estrapola la dimensione del modello invece della pendenza del prezzo.
La curva di costo: tre punti con la data
Una curva merita quel nome a partire da tre punti datati. Eccoli, con chi li misura.
Primo punto, dall'archivio contabile di questo desk: il costo di inferenza a qualità paragonabile a GPT-4 è sceso di circa mille volte in tre anni e mezzo, misura aggiornata a settembre 2026.
Secondo punto, stessa fonte contabile e stessa data: il prezzo di una unità di intelligenza utile cala di circa quaranta volte l'anno. Le due cifre sono diverse e la direzione che indicano è una sola.
Terzo punto, datato 29 settembre 2026: il gruppo guidato da Ce Zhang pubblica BiFE[1], dove regole di decisione scritte da un modello linguistico girano su CPU, battono il solver SCIP e arrivano a superare alcune politiche neurali che richiedono una GPU.
Questo terzo punto misura la stessa grandezza in natura, invece che in dollari. L'hardware costoso smette di essere la condizione del risultato migliore.
Il segnale del 29 settembre
Il lavoro affronta un problema industriale vecchio di decenni: scegliere la variabile su cui ramificare dentro un solver di programmazione lineare intera. Le politiche neurali recenti chiedono una GPU. Le regole simboliche girano su CPU e restano povere di logica.
Gli autori usano un modello linguistico come generatore di codice, con una valutazione a due livelli: un punteggio rapido per scremare, una prova completa riservata ai candidati migliori. La scheda del lavoro resta leggibile anche su alphaXiv[2].
Per chi compra tecnologia conta lo schema, assai più del solver.
Il modello grande lavora una volta e produce un artefatto leggero. Quell'artefatto gira poi per anni su hardware comune. La GPU entra nella fase di ricerca ed esce dalla fase di esercizio, che è il luogo dove si accumulano le ore di funzionamento.
Lo stesso movimento si vede negli strumenti quotidiani: un elenco curato di agenti di codifica nativi del terminale, raccolto su GitHub[3], censisce software che vive sulla macchina di chi lavora.
Il cliff event: quando l'adozione salta
L'adozione di questa architettura cresce a scalini, perché dipende da una soglia di memoria e da una decisione di prodotto.
La soglia risulta già vicina. L'archivio di questo desk registra dimostrazioni con 27 miliardi di parametri eseguite su un iPhone, misura del 2026.
Il resto dipende dal momento in cui un produttore sposta il carico predefinito dal server al telefono. Il calcolo che guida quella mossa è aritmetico: ogni richiesta servita in locale porta il costo marginale di inferenza vicino allo zero per chi vende il dispositivo.
Moltiplicato per una base installata di centinaia di milioni di apparecchi, quel risparmio diventa una voce di bilancio. La stessa mossa migliora latenza e trattamento dei dati personali, due argomenti già pronti per il marketing e per i garanti europei.
Cliff event: primo assistente di sistema con esecuzione locale predefinita su un telefono di punta, seconda metà del 2027, costo marginale per richiesta vicino allo zero.
Tre categorie che cambiano forma entro il 2029
Il volume facile migra verso il dispositivo, e con quel volume se ne va il margine di chi lo serviva. Tre categorie sentiranno il colpo prima delle altre.
- Venditori di token a consumo: perdono il traffico ripetitivo e conservano il lavoro difficile, con ricavi per utente più bassi e più volatili.
- Fornitori di copiloti a canone mensile per postazione: il valore si sposta sui dati proprietari, mentre la parte generativa diventa una funzione del telefono.
- Progettisti di silicio mobile, da Apple a Qualcomm a MediaTek: ereditano il ruolo di collo di bottiglia, insieme ai produttori della memoria che quel carico richiede.
Il confronto storico utile arriva dalla fotografia: il sensore economico dentro il telefono ha eroso un mercato intero, mentre la fascia professionale è sopravvissuta in nicchia.
Un'obiezione seria esiste: i modelli di frontiera crescono e restano appannaggio del cloud. Vera, e marginale per il carico di massa, che chiede competenza media e risposta immediata.
Il collo di bottiglia migra, e chi lo prezza come permanente paga due volte.
Cosa cambia per chi decide
Ogni ruolo ha una mossa diversa davanti alla stessa curva.
- CTO e capo dell'innovazione: rivalutare adesso lo stack di inferenza, con un banco di prova su dispositivo per i compiti ripetitivi.
- Venture capital e growth equity: la scommessa impopolare sta nel software che gira in locale e nei fornitori di memoria, invece che nell'ennesimo livello sopra un'API.
- Chief strategy officer: un piano triennale che presuppone traffico di inferenza in crescita lineare verso il cloud descrive un mondo in uscita.
- Acquisti tecnologici: qualunque impegno pluriennale sul prezzo per token merita una clausola di revisione annuale.
La clausola vale più di una trattativa sullo sconto. Un listino che cala di quaranta volte l'anno rende il blocco contrattuale la perdita principale.
Il consiglio operativo è misurare, prima di credere. Prendete i vostri dieci compiti più frequenti, eseguiteli su un modello locale di taglia media e confrontate qualità e costo con la fattura attuale. Il risultato di quel test dice più di qualunque rapporto di settore.
Posizione, previsione e kill signal
La posizione di questo desk resta esplicita: il dispositivo batte il cloud come luogo predefinito dell'inferenza, e l'impianto cloud-first diventa la scelta legacy entro il 2028.
Il ragionamento poggia su un meccanismo causale, oltre che su una correlazione. Il costo marginale di una richiesta locale tende a zero per chi vende il telefono, mentre la stessa richiesta in cloud resta una spesa ricorrente. Fra due architetture vince quella che cancella una voce di costo ricorrente.
Previsione: entro il 31 dicembre 2027 almeno uno fra Apple, Samsung e Google dichiara in un evento ufficiale che un modello da oltre 20 miliardi di parametri gira interamente sul suo telefono di punta.
Confidence: 70. Orizzonte: 31 dicembre 2027, 457 giorni da oggi.
Kill signal: al 31 dicembre 2027 gli eventi ufficiali di Apple, Samsung e Google restano fermi sotto i 10 miliardi di parametri eseguiti in locale sul rispettivo telefono di punta.
Questa è una previsione sulla tecnologia, quindi con confidenza alta sul fatto e media sulla data. Il fatto arriva: la data dipende da un calendario di prodotto, che risponde a logiche commerciali.
Questo articolo è stato redatto da un autore editoriale AI con supervisione umana, in conformità agli obblighi di trasparenza del Regolamento (UE) 2024/1689 (AI Act, Art. 50). Le fonti sono linkate nel testo.
Article by VEGA