Recruiting AI: il bias che i sistemi faticano a misurare

L'evidenza: adozione in salita, misurazione ferma

Tre segnali indipendenti convergono su una distanza che ogni strategia di talento deve affrontare. L'adozione di AI per lo screening dei curricula è cresciuta da circa un quarto a oltre il 40% dei team HR tra 2024 e 2025, secondo dati SHRM.

Nello stesso arco temporale l'evidenza sulla qualità di questi sistemi è peggiorata. Uno studio della University of Washington del 2024 ha testato tre modelli di selezione in produzione su oltre tre milioni di confronti curriculum-posizione. Il campione e il perimetro rendono il finding difficile da liquidare come caso isolato.

I nomi associati a candidati bianchi venivano preferiti nell'85% dei casi, quelli associati a candidati neri appena nel 9%, secondo l'analisi che riprende lo studio^[1]. Nei confronti diretti tra un uomo nero e un uomo bianco con curriculum identico, il nome bianco vinceva in quasi ogni caso.

I modelli funzionavano correttamente. Riproducevano il pattern già presente nei dati storici di assunzione su cui erano stati addestrati. La conseguenza per chi acquista questi sistemi è netta: la precisione tecnica del modello non dice nulla sull'equità del suo esito.

Cosa vede davvero il modello

La maggior parte del bias di selezione emerge da cosa il modello viene autorizzato a vedere, invece che da un comportamento imprevedibile.

Un sistema addestrato su video colloqui valuta implicitamente tono di voce, accento, sfondo e aspetto, a prescindere dall'intenzione. Un sistema addestrato unicamente sui curricula valuta proxy di pedigree.

Questi proxy includono prestigio della scuola, riconoscibilità del brand del datore di lavoro e densità di parole chiave. Tracciano più da vicino chi ha scritto il curriculum che cosa la persona sa davvero fare.

Qui vive il problema strutturale. L'algoritmo eredita la geografia sociale del dato di partenza e la converte in un punteggio apparentemente neutro. Il punteggio nasconde l'origine del giudizio, e questo lo rende più difficile da contestare rispetto a una decisione presa da una persona.

Il bias resta, cambia forma

La promessa dell'AI nel recruiting era rimuovere il giudizio umano viziato dal processo. L'evidenza mostra un esito diverso.

Quando un'organizzazione sostituisce lo screening manuale con un algoritmo addestrato sulle proprie assunzioni passate, codifica quelle stesse scelte in una regola replicabile. La discriminazione diventa più veloce, più coerente e più difficile da vedere.

Il punto critico riguarda la misurazione. La maggior parte dei sistemi in uso manca di una metodologia per stabilire se il bias sia stato eliminato oppure spostato più a valle nella pipeline.

Uno screening che scarta i proxy razziali evidenti può ancora penalizzare codici postali, percorsi formativi o intervalli occupazionali correlati. Il punteggio appare pulito, l'esito resta sbilanciato. Senza un test sull'esito, l'organizzazione non ha modo di distinguere i due casi.

La finestra regolatoria si è spostata, il problema resta

L'EU AI Act classifica l'AI applicata alle assunzioni come ad alto rischio, sotto l'Annex III. Quella classificazione porta con sé un regime di compliance preciso.

Il regime richiede valutazioni del rischio, documentazione tecnica, supervisione umana e trasparenza verso i candidati. La scadenza originaria cadeva ad agosto di quest'anno.

Il Digital Omnibus sull'AI, pubblicato nella Gazzetta Ufficiale a luglio, ha spostato quella scadenza a dicembre 2027. Il problema del bias è rimasto fermo dov'era. Il rinvio sposta l'obbligo formale, non l'esposizione sostanziale del sistema.

I regolatori porranno la stessa domanda per cui lo studio della University of Washington era stato costruito: cosa sta valutando il vostro sistema, e come lo sapete? Chi aspetta la nuova scadenza per rispondere avrà meno tempo di quanto il rinvio faccia sembrare.

Perché la compliance manca il bersaglio

La compliance regolamentare verifica la presenza di documenti, processi e dichiarazioni. Verifica di rado l'esito statistico del sistema sui gruppi protetti.

Un'organizzazione può produrre una valutazione del rischio impeccabile e mantenere un algoritmo che preferisce sistematicamente un profilo demografico. I due piani vivono separati.

Qui si annida il rischio legale e reputazionale. La discriminazione sistemica in forma invisibile passa i controlli formali e resta esposta a contenziosi individuali, audit e inchieste giornalistiche.

The Guardian ha documentato ad agosto 2026 come gli strumenti di selezione AI continuino a generare esiti discriminatori nei mercati del lavoro anglosassoni, in una copertura dedicata^[2]. L'attenzione mediatica arriva molto prima della scadenza regolatoria. Il costo reputazionale, quindi, matura su un calendario diverso da quello della compliance.

Cosa fanno le organizzazioni ad alto funzionamento

Le organizzazioni che colmano questa distanza trattano la misurazione del bias come una condizione di design, invece che come una scelta individuale del team di recruiting.

Partono da una domanda architetturale: cosa il sistema viene autorizzato a vedere. Restringono deliberatamente l'input alle competenze verificabili e rimuovono i proxy di pedigree dalla pipeline.

Poi impostano un test continuo sull'esito. Confrontano i tassi di avanzamento tra gruppi demografici a ogni stadio del funnel, invece che fidarsi della neutralità dichiarata del vendor.

Braintrust, per esempio, ha costruito il proprio prodotto di recruiting AIR attorno a un vincolo più stretto sull'input. L'approccio riconosce che il controllo sul dato di ingresso precede qualsiasi politica.

La domanda di design per CHRO e board

Per il CHRO la priorità diventa una: pretendere dai vendor evidenza di esito, invece che rassicurazioni di conformità. La domanda operativa è quale metrica di equità viene monitorata a ogni stadio.

Per il CEO la conversazione da portare al board riguarda l'esposizione. Un algoritmo di selezione mai auditato è un rischio di capitale umano e legale che siede fuori dal radar della compliance formale.

Per il Talent & Compensation Committee la metrica da monitorare è il differenziale di avanzamento tra gruppi lungo il funnel di selezione. È un dato di livello board, misurabile ogni trimestre.

La distanza tra il 40% di adozione e la quota di sistemi che misurano davvero il proprio bias descrive la sfida di governance di questa evidenza. Chi la colma adesso costruisce un vantaggio difendibile.