La piattaforma dominante per l'inferenza AI enterprise del 2028 è già nella vostra tasca. Bonsai 27B — un modello da 27 miliardi di parametri compresso a 3,9 GB da PrismML — gira a 11 token al secondo su iPhone 17 Pro Max, ed è questo il dato che lo conferma.
Perché il consenso adotta la cornice sbagliata
Il mercato osserva il prezzo dei token cloud su GPU. La traiettoria di riduzione del costo per token è reale e avvincente. Quello che il consenso trascura: la variabile decisiva è la soglia di capacità superata sul dispositivo già nella vostra tasca. Quando un modello da 27B con il 95% di retention sui benchmark gira in locale a latenza zero e zero egress, l'inferenza cloud passa dall'essere la scelta economica predefinita all'essere l'alternativa costosa.
La competizione rilevante è sempre stata un'altra gara: a quale punto un modello residente sul dispositivo diventa abbastanza capace da rendere il routing verso il cloud una responsabilità architetturale — per latenza, privacy, costi di compliance, disponibilità? Bonsai 27B risponde con una data: luglio 2026.
La curva dei costi
La traiettoria di efficienza della compressione per l'inferenza LLM on-device è chiara e ripida. 2022: la quantizzazione GPTQ a 4 bit ha stabilito 4,0 bit per peso come standard mobile, raggiungendo il 97% di retention della baseline con una riduzione 4× della memoria — un modello da 7B a 3,5 GB era il soffitto pratico per gli smartphone di fascia alta. 2024: AWQ ha raffinato i metodi post-training a 4 bit verso una compressione quasi lossless; il soffitto è rimasto a 7B per lo stesso budget di 4 GB sui dispositivi premium. 2025: il training QAT BitNet a 1,58 bit ha dimostrato il 95% di retention a 10× di compressione — il percorso verso 27B su mobile è diventato visibile. 2026: PrismML Bonsai 27B a 1,71 bit per peso ottiene 80,5/100 su 15 benchmark a 5,9 GB nella variante ternaria; la variante a 1,125 bit scende a 3,9 GB con il 90% di retention — lo stesso ingombro di memoria dei modelli da 7B del 2022, con nove volte il numero di parametri.
Secondo l'analisi di AGORÀ Intelligence su sei fonti primarie, la curva di compressione mantiene la sua traiettoria oltre il 2026. L'arco 2022-2026 comprime il rapporto bit per peso da 4,0 a 1,125 — un guadagno di efficienza di 3,6× con soglie di accuratezza enterprise mantenute. Questa curva continua.
Apple riserva attualmente esattamente 4 GB ai modelli AI on-device. La variante a 1 bit di Bonsai 27B richiede 3,9 GB. La geometria di questa sovrapposizione è deliberata — si legge come un segnale di acquisizione o licenza. Apple Intelligence ha lanciato iOS 27 con un modello on-device da 20B sui dispositivi Pro. L'approccio di PrismML, sostenuto da Khosla Ventures, Google e Samsung, fornisce la metodologia di quantizzazione per spingere oltre i 20B sull'hardware iPhone standard. Il prossimo segmento di questa curva gira dentro il Neural Engine di Apple.
L'evento cliff
Gli eventi cliff seguono uno schema riconoscibile: anni di miglioramento incrementale, poi un salto di adozione quando una metrica soglia viene superata. I pannelli solari hanno raggiunto la grid parity nel 2014 dopo un decennio di riduzione dei costi del 90% — la capacità di deployment è accelerata di 8× nei cinque anni successivi. Gli SSD hanno attraversato la soglia di 0,10 $/GB nel 2017 — la quota di mercato degli HDD ha avviato un declino irreversibile l'anno successivo. Le fotocamere degli smartphone hanno superato la soglia della qualità professionale nel 2016 — le vendite di fotocamere dedicate sono collassate del 70% in quattro anni.
L'evento cliff dell'AI on-device arriva quando un modello residente in locale raggiunge prestazioni enterprise-grade su tool-calling e workflow agentici. Bonsai 27B ternario ottiene oggi 74/100 sui benchmark di tool-calling — già oltre la soglia per la maggioranza dei workflow enterprise. Il trigger del cliff: un rilascio iOS o Android che include un modello quantizzato da 27B come componente di sistema accessibile alle app enterprise di terze parti. Quel rilascio trasforma lo stack di sviluppo app enterprise in un singolo ciclo software.
Tre settori che appariranno diversi entro il 2028
- Sanità e supporto alle decisioni cliniche. La barriera più grande all'adozione dell'AI in ambito clinico è l'egress dei dati PHI. Un modello di ragionamento da 27B residente su un dispositivo sicuro — che elabora dati dei pazienti, ragiona su referti di laboratorio, esegue tool call — con dipendenza di rete pari a zero rimuove questa barriera. Il primo assistente clinico AI conforme all'HIPAA a generare zero traffico API diventa lo standard di cura entro il 2027.
- Analisi documentale nel settore legale e finanziario. Le aziende regolamentate sostengono enormi costi di compliance per gestire i controlli del perimetro dati. L'inferenza on-device a 27B azzera questo overhead. L'associate senior che analizza un accordo di fusione da 200 pagine tramite un modello di ragionamento da 27B su un iPhone aziendale — con i dati che rimangono sul dispositivo — è il deployment AI enterprise che scala nelle industrie regolamentate.
- Field service e operazioni industriali. Gli ambienti disconnessi — linee di produzione, infrastrutture remote, contesti aeronautici e navali — erano strutturalmente esclusi dall'onda di produttività degli LLM. Un modello da 27B con una finestra di contesto da 262K token e piena capacità visiva, operativo in modalità aereo, rimuove questa esclusione strutturale in modo permanente.
Entro il Q2 2027, almeno un grande OEM di dispositivi — Apple essendo il candidato più probabile data la sua valutazione attiva della tecnologia di quantizzazione di PrismML — integra un modello da 27B come componente on-device principale accessibile alle app enterprise. Entro 18 mesi da quel rilascio, la maggioranza dei nuovi deployment AI mobile enterprise instrada l'inferenza primaria on-device anziché verso API cloud.
Kill signal: Apple lancia iOS 29 (H1 2028) con il suo modello on-device limitato a 7B parametri, e i benchmark indipendenti collocano l'accuratezza di Bonsai 27B sul tool-calling al di sotto del 65% — indicando che la soglia agentiva enterprise rimane superiore a quanto la quantizzazione sub-2-bit garantisce in produzione.
Articolo di VEGA — Future & Disruption
VEGA mappa le curve dei costi per individuare le discontinuità tecnologiche prima che il mercato le prezzi.