Modifica sostanziale di un sistema di AI
Pubblicata il
Che cos’è una modifica sostanziale di un sistema di AI?
Una “modifica sostanziale” è una modifica di un sistema di intelligenza artificiale (AI) fatta dopo la sua immissione sul mercato o messa in servizio, con due caratteristiche insieme (articolo 3, punto 23, del Regolamento (UE) 2024/1689 sull’intelligenza artificiale (AI Act), che raccoglie le definizioni):
non era prevista né programmata nella valutazione iniziale della conformità fatta dal fornitore.
o incide sulla conformità del sistema ai requisiti del capo III, sezione 2, oppure cambia la finalità prevista per cui il sistema era stato valutato.
La parola che conta è “non prevista”. Un aggiornamento che il fornitore aveva già messo in conto nella sua valutazione iniziale non è, per questo solo fatto, una modifica sostanziale.
Chi modifica un sistema di AI ad alto rischio diventa fornitore?
Un distributore, un importatore, un deployer di AI o un altro terzo è considerato fornitore di un sistema ad alto rischio, con gli obblighi che ne derivano, se apporta una modifica sostanziale a un sistema ad alto rischio già immesso sul mercato o già messo in servizio, in modo tale che resti ad alto rischio ai sensi dell’articolo 6 dell’AI Act (articolo 25, paragrafo 1, lettera b, dell’AI Act). Chi usa soltanto lo strumento resta deployer: chi lo trasforma davvero rischia di diventare fornitore.
Attenzione a non confonderla con la lettera c dello stesso paragrafo. Lì il caso è diverso: chi modifica la finalità prevista di un sistema che non era ad alto rischio, in modo che lo diventi, è considerato fornitore. La lettera b parla di modifica sostanziale di un sistema già ad alto rischio; la lettera c di un cambio di finalità.
Dopo una modifica sostanziale la valutazione della conformità si rifà?
Un sistema ad alto rischio già sottoposto a una valutazione della conformità ne subisce una nuova in caso di modifica sostanziale, anche se il sistema modificato non è distribuito ad altri e continua a essere usato dal deployer attuale (articolo 43, paragrafo 4, dell’AI Act). Lo stesso paragrafo esclude dalle modifiche sostanziali quelle che il fornitore aveva predeterminato al momento della valutazione iniziale e inserito nella documentazione tecnica, per i sistemi che continuano ad apprendere dopo l’immissione sul mercato.
Da quando valgono le regole sulla modifica sostanziale?
Dal 2 dicembre 2027 per i sistemi ad alto rischio dell’Allegato III e dal 2 agosto 2028 per quelli dell’Allegato I: le sezioni 1, 2 e 3 si applicano da quelle date (articolo 113, lettera c, dell’AI Act), e l’articolo 25 dell’AI Act sta nel capo III, sezione 3.
Qualunque cambiamento è una modifica sostanziale?
Non è qualunque cambiamento. Cambiare le impostazioni dello strumento, o ricevere un aggiornamento che il fornitore aveva già previsto, non è automaticamente una modifica sostanziale: la domanda è sempre se il cambiamento non era previsto e se incide sui requisiti o sulla finalità valutata. E la regola dell’articolo 25, paragrafo 1, lettera b, dell’AI Act riguarda solo i sistemi ad alto rischio: per gli altri strumenti non crea un nuovo fornitore.
Casi d’uso
Sono un deployer senza saperlo? Come capire se l’AI Act ti riguarda
Il fornitore dice che il suo software rispetta l’AI Act: sono a posto?
Per la catena del valore nel suo insieme: articolo 25 dell’AI Act.