AI governance e compliance in azienda: guida pratica

Un sistema di AI prende una decisione sbagliata che danneggia un cliente. Chi ne risponde? Chi aveva deciso di usarlo per quel processo, e chi doveva controllare che funzionasse bene nel tempo? Se l'azienda non ha una risposta pronta a queste domande, non è un problema che riguarda solo le grandi imprese con un ufficio legale interno: riguarda ogni impresa che usa, o sta per usare, sistemi di AI nei propri processi, ed è esattamente il vuoto che la governance dell'AI serve a colmare.

Il motivo per muoversi ora è semplice: l'AI Act è in vigore, il GDPR si applica a qualsiasi trattamento di dati personali che coinvolga l'AI, e clienti, partner e investitori si aspettano sempre più responsabilità nel suo uso. Non si tratta di creare burocrazia interna, ma di mettere in ordine cose che andrebbero fatte comunque, e di farlo con metodo, mentre i sistemi da gestire sono ancora pochi: organizzare la governance oggi costa molto meno che doverlo fare d'urgenza quando i sistemi saranno tanti e profondamente integrati.

Cinque passi per mettere ordine

La complessità del lavoro è proporzionata al tipo e al numero di sistemi in uso, ma il percorso di base è lo stesso per quasi ogni PMI. Si parte censendo i sistemi di AI, compresi quelli integrati in software di terzi come CRM, piattaforme di marketing e strumenti HR: molte aziende ne usano più di quanto pensino, perché l'AI integrata nei servizi cloud è spesso invisibile. Si classifica poi il rischio di ciascuno: per quelli ad alto rischio si avvia il percorso di conformità, per quelli a rischio limitato si definisce come informare gli utenti. Per ogni sistema che tratta dati personali si verifica il GDPR: base giuridica, informativa, eventuale DPIA, contratto sul trattamento dei dati (DPA) con il fornitore. Si scrive una policy interna sull'uso dell'AI, che stabilisca quali strumenti, per quali scopi, con quali dati e con quale supervisione. E si assegnano le responsabilità: chi risponde di ogni sistema, chi lo supervisiona nel tempo, come si gestiscono gli errori.

Il quadro normativo, in breve

L'AI Act classifica i sistemi per livello di rischio e impone obblighi proporzionati: rischio inaccettabile per le pratiche vietate come manipolazione subliminale, punteggio sociale, alcune forme di identificazione biometrica e riconoscimento delle emozioni sul lavoro; alto rischio per i sistemi usati in infrastrutture critiche, selezione del personale, accesso al credito, istruzione; rischio limitato con obblighi di trasparenza per chatbot e contenuti generati; rischio minimo senza obblighi specifici, come per filtri antispam e videogiochi. La maggior parte dei sistemi usati dalle PMI ricade nel rischio limitato o minimo, ma alcune applicazioni, come la selezione del personale o la valutazione del credito, sono ad alto rischio. I divieti e l'obbligo di alfabetizzazione del personale valgono dal febbraio 2025, la trasparenza dal 2 agosto 2026, e gli obblighi per i sistemi ad alto rischio dell'allegato III sono stati rinviati al 2 dicembre 2027 dal Digital Omnibus.

Il GDPR si applica a ogni trattamento di dati personali, compreso quello fatto con l'AI: con le decisioni automatizzate che hanno effetti significativi, l'interessato ha diritto a informazioni sulla logica usata (articoli 13, 14 e 22); la valutazione d'impatto (DPIA) è obbligatoria per i trattamenti ad alto rischio, tra cui molti sistemi di AI; la minimizzazione vieta di raccogliere più dati del necessario; la limitazione della finalità impedisce di usare per l'AI dati raccolti per altri scopi senza una base giuridica autonoma.

Si aggiungono le norme di settore: in finanza le indicazioni dell'EBA e della Banca d'Italia, in sanità il regolamento sui dispositivi medici, nel lavoro l'articolo 4 dello Statuto dei lavoratori sui controlli a distanza e l'obbligo, introdotto dalla legge italiana sull'AI del 2025, di informare i lavoratori sull'uso di sistemi di AI.

Le sanzioni dell'AI Act arrivano fino a 35 milioni di euro o al 7% del fatturato mondiale per l'uso di pratiche vietate, al 3% per le altre violazioni e all'1% per le informazioni errate alle autorità, con l'importo più basso per PMI e startup. Ma un incidente, come una decisione automatica discriminatoria o una violazione di dati, può costare in reputazione molto più di qualsiasi multa.

La policy interna, e il problema dell'AI sommersa

La policy sull'AI stabilisce come l'azienda usa l'intelligenza artificiale. Non deve essere lunga, ma chiara, pratica e comunicata a tutti: deve indicare il perimetro dei sistemi coinvolti, quali strumenti si possono usare, da chi e per quali scopi, le regole d'uso (mai dati personali dei clienti in servizi cloud senza verifica GDPR, sempre una verifica dei risultati prima di usarli quando incidono su terzi, sempre una dichiarazione dell'uso dell'AI nei documenti esterni), gli strumenti non approvati, la gestione degli incidenti e la revisione periodica della policy stessa.

Un rischio molto sottovalutato è l'AI sommersa (shadow AI): l'uso di strumenti non approvati né controllati. Un dipendente che incolla un contratto in ChatGPT per riassumerlo, o che analizza dati dei clienti con uno strumento gratuito, crea un rischio GDPR reale senza che l'azienda lo sappia. La policy deve affrontarlo apertamente, non con divieti assoluti che verrebbero ignorati, ma con indicazioni chiare su cosa è permesso e perché alcuni strumenti vanno approvati prima dell'uso.

Fornitori, trasparenza verso i clienti, controllo nel tempo

Quando si acquista o si integra un sistema di AI, il contratto con il fornitore deve includere alcune clausole irrinunciabili: la proprietà dei dati resta dell'azienda, e il fornitore non può usarli per addestrare modelli, condividerli o conservarli oltre il necessario; i dati personali devono restare nell'UE o godere di garanzie adeguate per i trasferimenti; il DPA è obbligatorio se il fornitore tratta dati personali per conto dell'azienda, e va firmato prima di iniziare; il fornitore deve notificare violazioni e incidenti di sicurezza entro tempi definiti; deve esistere un diritto di verifica tramite questionari, certificazioni come ISO 27001 e SOC 2, o audit; e i subresponsabili vanno dichiarati, con approvazione richiesta per quelli nuovi. Un fornitore che esita su questi punti è già un segnale di rischio.

Verso i clienti, se l'azienda usa chatbot, voice agent o altri sistemi che parlano con loro, questi devono sapere di interagire con un'AI, con un avviso chiaro nella chat, nel messaggio iniziale del voice agent e nell'informativa del sito: non serve ripeterlo di continuo, ma il sistema non può fingersi umano. Quando un sistema prende decisioni con effetti significativi, come credito, selezione o prezzi personalizzati, bisogna poter spiegare quali fattori hanno pesato e come, senza rivelare l'architettura tecnica ma potendo dire alla persona perché si è arrivati a quella decisione: per i sistemi ad alto rischio è un obbligo.

E nel tempo, un sistema che funziona bene al lancio può peggiorare, sviluppare distorsioni su dati nuovi o sbagliare in situazioni impreviste. Vanno seguiti l'accuratezza dei risultati, i cambiamenti nei dati in ingresso rispetto a quelli su cui è stato calibrato, l'equità tra gruppi di utenti e la conformità alle norme che cambiano, con revisioni almeno trimestrali per i sistemi ad alto rischio, semestrali per quelli a rischio limitato con volumi alti, annuali per quelli a rischio minimo. Va definita in anticipo anche la procedura per gli incidenti: come si rileva un malfunzionamento, come si limita il danno anche sospendendo il sistema, come si analizza la causa, come si corregge, chi va informato, compreso il Garante quando serve, e come si documenta tutto.

Chi se ne occupa in azienda

L'AI Act chiede a fornitori e utilizzatori di sistemi ad alto rischio strutture adeguate di governance, supervisione e responsabilità, ma non impone una figura chiamata "AI Officer". Per una PMI che usa l'AI senza svilupparla non c'è un obbligo formale, ma avere una persona responsabile, anche in modo informale o part-time, aiuta a mantenere l'ordine: tenere aggiornato il censimento dei sistemi, seguire le novità normative, gestire i rapporti contrattuali con i fornitori, coordinare le valutazioni d'impatto con il responsabile della protezione dei dati, aggiornare la policy e fare da riferimento per i colleghi.

Può essere il responsabile IT o digitale, il DPO se già nominato, un manager formato allo scopo o un consulente esterno con un mandato preciso. L'importante è che la responsabilità sia assegnata esplicitamente a qualcuno, e non diluita fino a non essere di nessuno. Se vuoi impostare la governance dell'AI nella tua azienda, parliamone.