Pollicino AIdvisory pubblica il nuovo policy brief “The Epistemic Gap in AI Governance. From Probabilistic Models to Stochastic Organisational Reliance”, a cura di Alberto Stazzone, Senior Advisor.
Il documento affronta una delle questioni centrali nella governance dei Large Language Models: la distanza tra l’incertezza che caratterizza il funzionamento del modello e la sicurezza con cui, all’interno di un’organizzazione, il suo output può essere percepito e utilizzato. Un testo fluido e plausibile, infatti, non offre di per sé indicazioni sufficienti sulla sua affidabilità né sul livello di affidamento che può legittimamente essergli attribuito.
Il policy brief distingue diverse dimensioni dell’incertezza – predittiva, semantica, fattuale ed evidenziale – dalla legal reliability, ossia dalla possibilità di utilizzare concretamente un determinato output come fondamento di un’azione o di una decisione in uno specifico contesto. La probabilità associata alla generazione del testo non può quindi essere trasformata automaticamente in una misura di affidabilità giuridica o organizzativa.
Particolare attenzione è dedicata al passaggio dall’output generato al processo aziendale. Il documento descrive una vera e propria “lossy pipeline”: mentre il modello restituisce una singola risposta, informazioni come fonti, contesto, limiti, livello di revisione e segnali di incertezza possono andare progressivamente perdute. Il momento decisivo per la governance diventa così quello in cui l’output viene trasformato in un documento, una valutazione, un consiglio o un input per una decisione organizzativa.
Il brief evidenzia inoltre come l’errore non debba essere considerato esclusivamente un’anomalia da eliminare attraverso il miglioramento tecnologico. Quando un errore potenzialmente rilevante è prevedibile e sono disponibili controlli proporzionati, il tema si sposta sulla capacità dell’organizzazione di gestire l’incertezza residua e disciplinare l’affidamento sull’AI. Una generica indicazione a “controllare” gli output non è sufficiente: occorre definire cosa verificare, chi deve farlo, attraverso quali fonti e prima di quali utilizzi.
La governance viene quindi interpretata come un sistema di gestione dell’incertezza. Restrizioni dei casi d’uso, grounding e template possono ridurre lo spazio dei possibili errori, mentre review, logging, escalation e meccanismi di approvazione aumentano la capacità dell’organizzazione di individuarli e gestirli. I controlli dovranno essere calibrati sul rischio concreto: un sistema utilizzato per il brainstorming non richiede necessariamente le stesse garanzie di un LLM impiegato nelle comunicazioni verso clienti o utenti.
Il policy brief propone così un cambio di prospettiva: la governance dell’AI non consiste nell’eliminare ogni possibile errore, ma nel decidere in anticipo quando e fino a che punto un output possa diventare un fatto organizzativo su cui fare affidamento. Per ogni caso d’uso diventa quindi essenziale individuare il punto di reliance, valutare il potenziale danno e assegnare responsabilità e controlli prima dell’utilizzo del sistema.
Scarica il pdf: https://pollicinoaidvisory.eu/wp-content/uploads/2026/08/27.08.2026-Pb-stazzone.pdf
