Governance dell'IA: dare al pubblico una voce reale

La dichiarazione che ha convocato tre gruppi e ne ha escluso uno

Nel luglio 2025, oltre 200 economisti e ricercatori di IA, tra cui 17 premi Nobel, hanno firmato una dichiarazione intitolata "We Must Act Now". Il testo è composto da quattro frasi e ha riformulato il dibattito sulla governance dell'IA al massimo livello.

Avverte che l'intelligenza artificiale potrebbe diventare radicalmente più potente entro un decennio. Chiede poi a economisti, responsabili politici e leader tecnologici di costruire gli incentivi, i guardrail e le istituzioni necessari per orientare la tecnologia verso il beneficio pubblico.

L'analisi di Noema Magazine individua la lacuna strutturale: la società compare una sola volta nella dichiarazione, come beneficiaria, e non come partecipante. È una scelta progettuale, e comporta conseguenze per la responsabilità.

Cosa è cambiato nel quadro delle previsioni

La dichiarazione sintetizza un anno di previsioni sempre più intense. "AI 2027", pubblicato nell'aprile 2025 dall'AI Futures Project, ha offerto un resoconto mese per mese di una corsa verso la superintelligenza che si estende fino alla fine del 2027.

"Europe 2031", uscito a giugno, ha tracciato una traiettoria quinquennale per la regione. Ha descritto un'Europa che detiene il 5% della potenza di calcolo globale e un solo laboratorio di frontiera, con i regolatori a cui è vietato usare gli strumenti che supervisionano.

Entrambi i saggi condividono un presupposto che vale la pena nominare. Un piccolo gruppo decide per tutti gli altri. Il pubblico è inquadrato come una popolazione da proteggere o un pubblico da mobilitare, anziché come fonte di contributi legittimi.

Per i professionisti della governance, la differenza è procedurale. Il dibattito si è spostato dal se regolamentare a chi impugna la penna. Quello spostamento determina dove ricade l'esposizione legale e ridefinisce la traccia di audit che un consiglio deve mantenere.

Il segnale di governance: la legittimità è una variabile di compliance

Il segnale di governance: la progettazione della partecipazione plasma la durabilità di qualsiasi quadro sull'IA. Le regole redatte da una cerchia chiusa di esperti e fornitori affrontano un deficit di legittimità che emerge più tardi, durante l'applicazione e la contestazione pubblica.

Helene Landemore, teorica della politica presso la Yale University e l'Università di Oxford, sostiene le assemblee dei cittadini come meccanismo per la governance democratica della tecnologia. Il suo modello tratta il pubblico come un organo deliberante, a cui vengono forniti informazioni e tempo per raggiungere posizioni ponderate.

Il meccanismo conta per i responsabili del rischio. Un quadro costruito attraverso la deliberazione porta con sé un consenso documentato. Un quadro imposto dall'alto porta con sé il rischio di ribaltamento quando cambiano le condizioni politiche.

Una responsabilità senza un nome è teatro di compliance. Una struttura che convoca esperti, ma non assegna alcun ruolo specifico responsabile del contributo pubblico, produce documentazione anziché legittimità. Questo schema si ripete in tutti i programmi di IA aziendali.

Quale ruolo nominato possiede il contributo pubblico

La domanda operativa per qualsiasi consiglio: quale ruolo nominato all'interno dell'organizzazione è responsabile della legittimità degli stakeholder, per nome, per iscritto, prima del deployment? La maggior parte delle carte di governance dell'IA lascia questo campo vuoto.

L'AI Act dell'UE, in vigore da agosto 2024, struttura gli obblighi attorno a fornitori e deployer. L'Articolo 50 affronta la trasparenza verso le persone interessate. L'Allegato III elenca le categorie ad alto rischio soggette a un controllo rafforzato.

Queste disposizioni assegnano obblighi. Ma non arrivano a imporre la deliberazione pubblica nella progettazione dei sistemi. Quella lacuna lascia le organizzazioni libere di scegliere la propria posizione, e responsabili delle conseguenze di quella scelta.

Una postura di compliance calibrata per una regolamentazione guidata dagli esperti è sovracalibrata per un contesto in cui la legittimità plasma l'applicazione. L'audit resta necessario; il suo ambito è cambiato per includere il modo in cui i gruppi interessati sono stati consultati.

Gli argomenti a favore e contro la deliberazione pubblica

L'argomento a favore delle assemblee dei cittadini si basa sulla legittimità e sull'individuazione dei punti ciechi. Le persone interessate da un sistema individuano spesso danni che ingegneri e dirigenti non colgono.

La controargomentazione riguarda velocità e competenza. L'IA di frontiera si muove più velocemente di quanto si riuniscano gli organi deliberativi. I critici ritengono che le decisioni tecniche richiedano competenza tecnica e che assemblee ampie diluiscano la precisione.

Entrambe le letture hanno peso, e un responsabile della governance dovrebbe presentarle affiancate anziché risolverle prematuramente. Il pezzo di Noema porta avanti la tesi partecipativa; i firmatari di "We Must Act Now" incarnano il modello guidato dagli esperti.

La sintesi pratica appare nelle strutture ibride. I panel di esperti redigono; gli organi deliberativi rivedono e legittimano; funzionari nominati possiedono il registro. Le organizzazioni che costruiscono ora questa architettura mantengono opzionalità man mano che l'applicazione si irrigidisce.

Tre decisioni per il consiglio

Le prove si convertono in tre decisioni concrete. Ciascuna appartiene a un titolare nominato, documentata prima del prossimo ciclo di deployment.

1. General Counsel: mappare l'esposizione legale derivante dagli stakeholder esclusi.
2. Chief Risk Officer: aggiornare il quadro di rischio per prezzare la legittimità.
3. Comitato Audit e Rischi del Consiglio: definire la disclosure richiesta sulla partecipazione.

In primo luogo, il General Counsel verifica se le persone interessate ai sensi dell'Articolo 50 hanno ricevuto una trasparenza significativa, e registra la risposta. Questo audit converte un obbligo astratto in un fascicolo difendibile.

In secondo luogo, il Chief Risk Officer tratta la legittimità come un fattore misurabile. Un modello messo in produzione privo di consultazione documentata comporta un rischio reputazionale e di ribaltamento che appartiene al registro.

In terzo luogo, il comitato determina cosa l'organizzazione deve a investitori e regolatori riguardo alle sue pratiche di partecipazione. La supervisione indaga sempre più il processo di governance, oltre ai soli risultati.

La decisione del CEO si colloca al di sopra di queste tre. Il posizionamento strategico sulla partecipazione pubblica vincola l'allocazione delle risorse e le tempistiche di prodotto. Quella decisione beneficia dell'essere esplicita anziché emergente, e appartiene ai verbali del consiglio.

Orizzonte normativo

L'orizzonte normativo presenta tre punti fissi. L'AI Act dell'UE è in vigore da agosto 2024, con gli obblighi per l'alto rischio in fase di attuazione graduale nel 2026 e 2027 nei ventisette Stati membri.

La traiettoria degli Stati Uniti resta frammentata per impostazione. Le legislature statali segnalano una posizione politica anziché certezza giuridica. Una legge federale coerente appare improbabile prima del 2028-2030.

I quadri di deliberazione pubblica si trovano nella fase di consultazione e sperimentazione in diverse giurisdizioni. Non portano ancora alcun mandato vincolante. Le organizzazioni che costruiscono ora una responsabilità nominale e registri di partecipazione mantengono un vantaggio di 18-24 mesi con la maturazione dell'applicazione.

La domanda se l'IA richieda una governance ha ricevuto risposta. Se n'è aperta una seconda: chi detiene l'autorità legittima di scrivere le regole, e con quale processo. Leggi altre analisi sul blog di Agora Intelligence.