AI Act: la guida per le PMI italiane

Nell'aprile 2025 la società che gestisce il chatbot Replika ha ricevuto una sanzione da cinque milioni di euro dal Garante per la protezione dei dati: mancava qualsiasi verifica dell'età degli utenti, con il rischio di risposte inadatte a un pubblico minorenne, e mancava l'individuazione delle basi giuridiche del trattamento. Era un procedimento fondato sul GDPR, avviato prima che l'AI Act entrasse pienamente in vigore, ma descrive esattamente il tipo di problema che il nuovo regolamento europeo affronta a monte: chi sta dall'altra parte di un sistema di AI deve sapere di parlare con una macchina. Se la vostra azienda usa un chatbot sul sito, uno strumento per selezionare curriculum o semplicemente ChatGPT per scrivere testi, l'AI Act, il Regolamento (UE) 2024/1689, vi riguarda già oggi. Questa guida spiega come, e cosa fare.

Cosa disciplina il regolamento, e a chi si applica

L'obiettivo, dichiarato all'articolo 1, è garantire che i sistemi di intelligenza artificiale immessi sul mercato europeo siano sicuri e rispettino i diritti fondamentali, senza per questo bloccare l'innovazione: l'Unione ha scelto di non vietare la tecnologia e di non lasciarla libera, costruendo una scala di obblighi proporzionati al danno che un sistema può produrre sulle persone. Il regolamento è stato adottato il 13 giugno 2024 ed è entrato in vigore il 1° agosto dello stesso anno, con un'applicazione scaglionata fino al 2028 e già cominciata. L'articolo 3 definisce un sistema di AI come un sistema automatizzato che, dagli input che riceve, deduce come generare output quali previsioni, contenuti, raccomandazioni o decisioni capaci di influenzare ambienti fisici o virtuali: la parola chiave è "deduce", perché un foglio di calcolo con una formula fissa non deduce nulla e resta fuori, mentre un sistema che ricava una regola dai dati e la applica a casi nuovi rientra, anche quando è semplice.

Il regolamento non vieta l'intelligenza artificiale né la regola in blocco: guarda a cosa serve il sistema, non a come è costruito. Lo stesso identico modello linguistico è libero se lo usate per riassumere verbali, soggetto a obblighi di trasparenza se lo mettete a rispondere ai clienti, ad alto rischio se lo impiegate per scremare candidature. Non cambia la tecnologia, cambia il contesto d'uso, e con esso il rischio per le persone: non potete sapere se siete conformi guardando il software che avete comprato, dovete guardare cosa ci fate. Sul piano territoriale, vale per chi immette sistemi di AI sul mercato europeo e per chi li usa nel territorio dell'Unione, indipendentemente da dove abbia sede: un fornitore statunitense che vende in Italia rientra, un'azienda italiana che usa uno strumento americano rientra a sua volta, nel proprio ruolo. Restano fuori solo i sistemi per scopi militari, di difesa e sicurezza nazionale, quelli usati esclusivamente per ricerca e sviluppo, e l'uso personale non professionale. Non esiste una soglia dimensionale di esenzione: una ditta individuale con un chatbot ha gli stessi obblighi di trasparenza di una multinazionale, anche se il regolamento tiene conto delle dimensioni nelle sanzioni, dove per PMI e start-up si applica l'importo minore fra la cifra fissa e la percentuale sul fatturato, e negli spazi di sperimentazione normativa, operativi dal 2 agosto 2027 con accesso agevolato per le piccole imprese. Il Digital Omnibus ha esteso il regime agevolato sulle sanzioni anche alle small mid-cap fino a 500 dipendenti.

Le quattro classi di rischio, con casi italiani

Al livello più alto, il rischio inaccettabile, l'articolo 5 elenca otto pratiche vietate in vigore dal 2 febbraio 2025, con altre due aggiunte dal 2 dicembre 2026: punteggio sociale dei cittadini, manipolazione subliminale, sfruttamento delle vulnerabilità legate a età o disabilità, riconoscimento delle emozioni sul lavoro e a scuola, raccolta indiscriminata di immagini facciali, categorizzazione biometrica su caratteristiche sensibili, valutazione predittiva del rischio di reato basata sulla sola profilazione, e identificazione biometrica remota in tempo reale in spazi pubblici a fini di contrasto, con tre eccezioni tassative. Nel febbraio 2022 il Garante ha sanzionato Clearview AI per venti milioni di euro, per aver costruito un archivio di oltre dieci miliardi di volti raccolti dal web senza criterio: è esattamente la pratica che l'articolo 5 chiama raccolta indiscriminata di immagini facciali, e oggi sarebbe anche punibile con sanzioni fino al 7% del fatturato mondiale. Il divieto sul riconoscimento delle emozioni è quello che coglie di sorpresa più imprese italiane: un software che analizza il tono di voce degli operatori del call center per misurarne l'ingaggio ricade qui, e non c'è consenso del lavoratore che tenga.

Al livello dell'alto rischio, permesso ma con obblighi pesanti, ci sono i sistemi dell'allegato III: selezione del personale e gestione dei lavoratori, valutazione del merito creditizio, accesso ai servizi pubblici essenziali, istruzione, amministrazione della giustizia, infrastrutture critiche. Nell'estate 2021 il Garante ha sanzionato due piattaforme di consegna a domicilio per come gli algoritmi gestivano i rider: Foodinho, del gruppo Glovo, per 2,6 milioni di euro, perché i lavoratori non erano informati adeguatamente sul funzionamento del sistema e mancava una procedura per contestare le decisioni automatiche; Deliveroo Italy per 2,5 milioni, sulla stessa materia. Quei sistemi assegnavano turni e valutavano prestazioni, e sotto l'AI Act la gestione dei lavoratori è alto rischio a pieno titolo: non serve un sistema sofisticato per finire in questa categoria, basta che un algoritmo decida qualcosa che riguarda una persona. Il Digital Omnibus ha rinviato questi obblighi al 2 dicembre 2027, e al 2 agosto 2028 per i sistemi integrati in prodotti già regolamentati, dai dispositivi medici ai giocattoli.

Al rischio limitato, dove ricade la maggioranza delle PMI, gli obblighi di trasparenza sono in vigore dal 2 agosto 2026: chi interagisce con un sistema di AI deve saperlo, i contenuti generati vanno etichettati, chi è sottoposto a riconoscimento delle emozioni o categorizzazione biometrica va informato. Il caso Replika dell'apertura, per quanto anteriore all'AI Act, mostra il tipo di problema che l'articolo 50 affronta oggi a monte, con sanzioni fino a 15 milioni di euro o al 3% del fatturato per chi non rispetta l'obbligo. Un chatbot sul sito aziendale sta qui, e per una PMI l'adempimento è banale in termini di lavoro, ma è il più esposto perché sta sotto gli occhi di chiunque apra il sito. Al rischio minimo, infine, filtri antispam, videogiochi, suggerimenti di prodotto e correttori ortografici non hanno obblighi specifici, e ci finisce anche l'uso interno di un assistente generico per riassumere documenti, purché il risultato non esca verso l'esterno senza etichetta e non produca decisioni su persone.

Fornitore o utilizzatore: la distinzione che decide tutto

Il regolamento chiama fornitore chi sviluppa un sistema, o lo fa sviluppare, e lo immette sul mercato con il proprio nome; chiama utilizzatore, in inglese deployer, chi lo impiega nella propria attività professionale senza averlo sviluppato. Quasi tutte le PMI italiane sono utilizzatori, e i loro obblighi sono molto più leggeri: usare il sistema secondo le istruzioni, garantire sorveglianza umana, conservare i registri, informare le persone coinvolte. C'è però un passaggio che sposta il confine: se modificate sostanzialmente un sistema ad alto rischio, o ne cambiate la finalità, o lo rivendete con il vostro marchio, diventate fornitori e vi assumete tutti gli obblighi che ne derivano. È il rischio principale per chi costruisce prodotti sopra modelli di terzi.

Cosa fare adesso

Fate l'inventario, non solo dei progetti ufficiali ma degli abbonamenti individuali, degli assistenti già dentro il gestionale, dei plugin del CRM: quasi sempre emergono strumenti che nessuno aveva registrato. Classificate ogni uso, non ogni software, perché lo stesso strumento può stare in due categorie diverse a seconda di cosa ci fate. Sistemate la trasparenza: se avete un chatbot, deve dichiararsi, se pubblicate contenuti generati, vanno etichettati, sono ore di lavoro, non mesi. Documentate la formazione, perché l'articolo 4 obbliga dal 2 febbraio 2025 ad adottare misure a sostegno dell'alfabetizzazione AI del personale che usa questi sistemi, senza bisogno di un livello certificato ma con un registro di chi ha ricevuto cosa e quando, e dal 3 agosto 2026 le autorità nazionali vigilano su questo obbligo. E se siete nell'allegato III, guardate già al 2027: sedici mesi sembrano molti, ma la valutazione di conformità e il sistema di gestione dei rischi ne richiedono almeno dodici.

Il malinteso da evitare

Il rinvio degli obblighi sull'alto rischio ha diffuso l'idea che ci sia tempo. È vero solo per una minoranza di aziende: gli obblighi già applicabili, cioè divieti, trasparenza e alfabetizzazione, toccano più imprese di quelli rinviati, perché riguardano chiunque usi un chatbot o abbia dipendenti che usano l'AI. Chi rientra nell'alto rischio ha guadagnato tempo per un lavoro lungo; tutti gli altri non hanno guadagnato niente, i loro obblighi sono già scaduti. C'è poi un secondo equivoco, più sottile: molte imprese cercano la conformità nel contratto con il fornitore del software, come se bastasse una clausola. Non basta, perché la classe di rischio dipende dall'uso che ne fate voi, e l'uso non è scritto in nessun contratto. Il fornitore risponde di cosa il sistema è; voi rispondete di cosa ci fate. Se vuoi capire da dove partire nella tua azienda, parliamone.