Sistema di AI ad alto rischio
Pubblicata il
«Sistema di AI ad alto rischio» è un sistema di intelligenza artificiale (AI) che rientra in una delle due porte d’ingresso dell’articolo 6 del Regolamento (UE) 2024/1689 (AI Act). Non è un giudizio sulla pericolosità dello strumento. Se il sistema non rientra in nessuna delle due porte, non è ad alto rischio, per quanto delicato sembri l’uso.
Perché ne parliamo? Perché da questa classificazione dipendono gli obblighi più pesanti. Guarda l’immagine in alto: una gru solleva un carico pesante sopra un’area recintata, e una persona osserva da fuori. La gru è il sistema di AI ad alto rischio: se qualcosa va storto le conseguenze sono gravi, perciò le regole sono più severe. La persona è chi lo usa, cioè il deployer di AI. Se il tuo studio o la tua azienda usa un sistema di intelligenza artificiale ad alto rischio, sei nel ruolo di quella persona.
Sistema di AI ad alto rischio per componente di sicurezza di un prodotto
Una prima caratteristica che può fare rientrare un sistema di AI tra quelli considerati ad alto rischio è descritta nell'articolo 6, paragrafo 1, e riguarda i prodotti con regole europee proprie, elencati nell'allegato I: macchinari, dispositivi medici, ascensori, giocattoli e altri. Un sistema di AI di questo tipo è ad alto rischio se sono vere due cose contemporaneamente:
fa da componente di sicurezza di uno di questi prodotti (oppure è esso stesso il prodotto), e
quel prodotto, prima di essere venduto, deve passare una valutazione della conformità da parte di terzi, cioè fatta da un ente esterno, non basta il controllo del produttore.
Vediamo alcuni esempi di sistemi di AI ad alto rischio:
il software che ferma un macchinario quando una persona entra nella zona pericolosa.
il sistema di un ascensore che riconosce un guasto e blocca la cabina;
il software di AI che legge un elettrocardiogramma e segnala un'aritmia, che è un dispositivo medico e quindi rientra perché è esso stesso il prodotto.
L’Omnibus digitale sull’AI, cioè il Regolamento (UE) 2026/1744 che ha modificato l'AI Act a luglio 2026, ha reso questa porta più stretta. Conta solo la funzione di sicurezza che il fornitore ha previsto per quel sistema, cioè la sua finalità prevista . E non sono componenti di sicurezza i sistemi che servono solo ad assistere gli utenti, migliorare le prestazioni o l'efficienza, automatizzare o controllare la qualità, a meno che un loro guasto metta a rischio la salute o la sicurezza delle persone.»
Sistema di AI ad alto rischio per ambito di utilizzo
Qui vediamo una seconda caratteristica che può far rientrare un sistema di AI tra quelli considerati ad alto rischio, quella dell'articolo 6, paragrafo 2. Qui non conta il prodotto ma l'uso: l'allegato III elenca gli ambiti in cui una decisione sbagliata pesa sulla vita delle persone. Sono la biometria, le infrastrutture critiche, l'istruzione, il lavoro, l'accesso a servizi essenziali, le attività di polizia, la migrazione, la giustizia e i processi democratici.
Alcuni esempi più vicini a uno studio o a un'azienda: il software che seleziona i curriculum e scarta i candidati; il sistema che valuta il merito creditizio di chi chiede un prestito; lo strumento che corregge e dà il voto agli esami di un corso di formazione.
C'è però una deroga, all'articolo 6, paragrafo 3. Un sistema dell'allegato III non è ad alto rischio se non influisce davvero sulla decisione: per esempio se svolge solo un compito procedurale ristretto, se migliora un lavoro già fatto da una persona o se prepara materiale per una valutazione che resta umana. La deroga non vale mai se il sistema profila le persone. Il fornitore che ritiene applicabile questa deroga deve documentare la propria valutazione prima di immettere il sistema sul mercato o di metterlo in servizio (art. 6, par. 4); le autorità nazionali competenti possono chiedergli di metterla a disposizione.
Da quando sono attivi gli obblighi per i sistemi di AI ad alto rischio?
Gli obblighi per i sistemi ad alto rischio dovevano partire il 2 agosto 2026. L'Omnibus digitale li ha rinviati: per i sistemi dell'allegato III (selezione del personale, merito creditizio, istruzione e gli altri usi visti sopra) si applicano dal 2 dicembre 2027; per i componenti di sicurezza dei prodotti dell'allegato I dal 2 agosto 2028.
Attenzione: è un rinvio, non una cancellazione, e riguarda solo l'alto rischio. I divieti articolo 5 dell’AI Act si applicano già dal 2 febbraio 2025, e gli obblighi di trasparenza restano alle date originali.»
Cosa non è
Un sistema di AI non è ad alto rischio solo perché tratta dati personali o dati sulla salute, né perché l'uso sembra delicato. Contano soltanto le due caratteristiche viste sopra. Questo non vuol dire che sia libero da regole: per i dati personali vale comunque il GDPR, e per qualunque strumento di AI restano gli obblighi generali dell'AI Act, come l'alfabetizzazione del personale (articolo 4) e, quando serve, la trasparenza.
Domande frequenti
Un gestionale di studio è ad alto rischio?
Non per il solo fatto di essere un gestionale. Lo diventa se una sua funzione rientra in un uso dell’allegato III, per esempio filtrare candidature.
Chi decide la classificazione?
Il fornitore, che deve poterla motivare. Il deployer ha però interesse a verificarla: i suoi obblighi dipendono da quella.