L'azienda di cybersecurity Trellix ha ricostruito il motore alla base di Trellix Wise, il suo sistema di indagine delle minacce basato su AI generativa, attorno a un'architettura multi-modello deliberata — e ha abbassato il costo di inferenza di un fattore 30 mantenendo l'accuratezza richiesta dai suoi analisti di sicurezza, secondo la documentazione ingegneristica di AWS e il registro clienti di Anthropic.
La situazione di partenza
Trellix nasce nel 2022 dalla fusione di McAfee Enterprise e FireEye, e oggi serve oltre 53.000 clienti con una piattaforma di sicurezza basata su AI. I suoi analisti vivono dentro un fiume in piena. Come l'azienda descrive nel suo contributo sponsor su Harvard Business Review, la maggior parte delle imprese che lasciano intatta la calibrazione dei rilevamenti affronta oltre mille alert di sicurezza al giorno. Ogni alert rappresenta una decisione: escalare, archiviare, indagare. La triage umana a quel volume produce affaticamento, e l'affaticamento produce intrusioni mancate — gli attaccanti si muovono tanto rapidamente da esfiltrare i dati prima che un analista raggiunga l'alert che contava.
Trellix Wise ha risposto a quel volume con l'indagine autonoma: il sistema analizza e classifica gli eventi su endpoint, rete, email e cloud, correla la threat intelligence con i dati storici e assegna un punteggio di rischio a ogni evento. Il modo ovvio di costruirlo era il default del momento — inviare ogni fase di ogni indagine a un singolo modello di frontiera. Quel design funzionava sull'accuratezza e crollava sull'economia. Il costo cresceva in modo lineare con il volume degli alert, e il volume degli alert era l'intero problema.
La decisione che lo ha reso possibile
Trellix ha preso una scelta di design che appare controintuitiva: rifiutare il default del modello unico e instradare ogni fase di un'indagine verso il modello adatto alla sua complessità. Il team ha riconosciuto che un'indagine sulle minacce è una catena di attività distinte, e che ogni attività porta con sé il proprio requisito di accuratezza. Il ragionamento profondo e il punteggio di rischio finale sono rimasti a Claude Sonnet di Anthropic, il modello che raggiunge il massimo livello di dettaglio analitico. Le fasi ad alta frequenza e a complessità moderata — raccolta e recupero dei dati — sono passate ad Amazon Nova Micro, un modello leggero che gira sulla stessa piattaforma Amazon Bedrock.
La parte elegante è la mossa multi-passaggio. Al posto di una costosa chiamata a Sonnet per la fase di raccolta dati, Trellix esegue diversi passaggi di Nova Micro in parallelo, massimizzando la copertura dei dati che un'indagine richiede. Poiché Nova Micro costa quasi 100 volte meno per inferenza ed esegue da 3 a 5 inferenze nel tempo di una singola chiamata a Sonnet, il team ottiene una copertura più ampia e tempi più rapidi a una frazione del prezzo. Per mantenere affidabile il modello leggero, Trellix vincola i suoi output con prompt engineering proprietario e dati di riferimento, tenendo le allucinazioni entro limiti accettabili per l'attività specifica. Un terzo modello, Amazon Nova Lite, gestisce la scrittura di codice leggero e l'integrazione dei connettori nei servizi professionali.
Il risultato — con tutto il contesto
Il vantaggio a livello di architettura è la riduzione di un fattore 30 del costo delle indagini che il design multi-passaggio produce, costruito dal costo per inferenza circa 100 volte inferiore di Nova Micro applicato alle fasi che dominano il volume. La velocità è salita di pari passo: Nova Micro produce da 3 a 5 inferenze nella finestra che una singola inferenza di Sonnet occuperebbe, e Trellix riporta un'analisi iniziale dell'alert in 30 secondi all'interno del sistema.
L'effetto a valle sugli analisti è il numero che conta per un centro operativo di sicurezza. Il registro clienti di Anthropic documenta 8 ore risparmiate ogni 100 alert di sicurezza che il sistema processa — una produttività equivalente all'aggiunta di 10 analisti al team. Il contributo su HBR aggiunge l'esito sul rilevamento: Trellix Wise ha ridotto il conteggio medio degli alert attivi dei clienti da oltre mille a meno di dieci, e ha tagliato il tempo medio di rilevamento fino al 50 percento. Il tempo di costruzione dei connettori che una volta richiedeva 40 ore ora si completa in meno di cinque minuti.
SAGA tiene l'onestà come standard, quindi le precisazioni viaggiano insieme alle metriche. AWS descrive il deployment come un rilascio graduale in produzione dopo la valutazione pilota — è un sistema in espansione attiva. Il team di ingegneria segnala anche che Nova Micro mostra una variabilità di output maggiore rispetto ai modelli più grandi, ed è proprio per questo che lo avvolge in vincoli di prompt e riserva il giudizio finale a Claude Sonnet. E dichiara con chiarezza che i benchmark pubblici standardizzati si sono rivelati insufficienti per la decisione: Trellix ha valutato ogni modello rispetto al proprio caso d'uso, attività per attività, per capire dove il modello leggero teneva l'accuratezza e dove il modello grande giustificava il suo costo. La mappa di instradamento è il prodotto di quella misurazione, una regola empirica.
Cosa possono imparare le altre organizzazioni
La lezione trasferibile colpisce più forte per qualsiasi team che vede la propria fattura LLM salire più rapidamente di quanto l'uso giustifichi. Trellix ha trattato un costo di inferenza in esplosione come un problema di architettura piuttosto che di budget — e l'architettura è replicabile in un modo in cui il margine di budget raramente lo è. Il playbook ha tre mosse. Primo, scomporre il flusso di lavoro in fasi e nominare l'accuratezza che ciascuna fase realmente richiede, perché un passaggio di recupero dati e un verdetto di rischio finale meritano modelli diversi. Secondo, instradare le fasi ad alta frequenza e a minor posta verso un modello piccolo e rapido e riservare il modello di frontiera per le decisioni di giudizio, usando la validazione multi-passaggio per recuperare la copertura che il modello piccolo faticherebbe a raggiungere da sé. Terzo, misurare sul proprio carico di lavoro — la mappa di instradamento che ha fatto risparmiare a Trellix 30 volte è nata da una valutazione specifica per attività, e la vostra sarà diversa.
La condizione per la replica è la disciplina su dove l'accuratezza porta il carico. I team che instradano alla cieca per tagliare i costi cederanno gli esiti che giustificavano l'AI in partenza. Trellix ha guadagnato i suoi risparmi proprio perché ha tenuto Claude Sonnet sulle fasi che decidono se un'intrusione reale viene colta, e ha spostato tutto il resto su modelli altamente accurati per la loro attività più ristretta. Il risultato è una struttura di costo che scala con la missione invece di combatterla.
Articolo di SAGA — Success Stories & Real Cases
SAGA racconta le implementazioni AI enterprise con esiti verificati. Ogni metrica ha una fonte. Ogni azienda ha un nome.