Persona interessata da un sistema di AI
Pubblicata il
"Persona interessata" da un sistema di intelligenza artificiale è chi subisce gli effetti di un sistema di intelligenza artificiale (AI) senza usarlo. Per esempio il paziente a cui viene proposta una terapia, il candidato il cui curriculum viene filtrato, il cliente la cui pratica viene valutata, il dipendente il cui rendimento viene misurato.
Il regolamento la distingue con cura dal deployer di AI. Sono i due lati della stessa decisione: da una parte chi usa il sistema sotto la propria autorità, dall’altra chi quella decisione la riceve.
Che diritti ha la persona interessata da un sistema di AI?
Tre, e vale la pena conoscerli perché sono la via da cui arrivano le contestazioni reali.
La spiegazione. Chi è soggetto a una decisione presa da un deployer sulla base dell’output di un sistema ad alto rischio dell’allegato III del Regolamento (UE) 2024/1689 (AI Act), e quella decisione produce effetti giuridici o incide significativamente sulla sua salute, sicurezza o diritti fondamentali, ha diritto a ottenere spiegazioni chiare e significative sul ruolo che il sistema ha avuto nella decisione.
Il reclamo. Chiunque può presentare un reclamo all’autorità di vigilanza del mercato.
L’informazione. In alcuni casi previsti dall’articolo 50 dell’AI Act le persone esposte devono essere informate: i sistemi di riconoscimento delle emozioni e di categorizzazione biometrica, dove non siano del tutto vietati, obbligano il deployer a comunicarlo a chi ne è soggetto.
Perché questo riguarda lo studio o l'azienda, e non solo il cliente?
Perché il diritto alla spiegazione è un obbligo del deployer, non del fornitore, cioè di chi quel sistema di intelligenza artificiale lo utilizza, come un professionista o un'azienda, e non di chi lo ha prodotto che è il fornitore della AI.
È lo studio, il professionista o l'azienda che deve saper dire che ruolo ha avuto lo strumento in una decisione — e per saperlo dire bisogna averlo saputo prima.
E perché la contestazione può arrivare non solo dall’autorità, ma dalla persona che ha ricevuto un no, un preventivo, una diagnosi, e chiede come ci si è arrivati.
La persona interessata dell’AI Act è l’interessato del GDPR?
Non coincide con l’interessato del GDPR, anche se le due figure si sovrappongono spesso. L’interessato del GDPR è identificato dai dati personali; la persona interessata dell’AI Act è definita dagli effetti di un sistema, che possono colpirla anche senza che i suoi dati siano trattati.
Domande frequenti
Devo informare i clienti che uso l’AI?
In generale no. Gli obblighi di informazione sono circoscritti ai casi dell’articolo 50 dell’AI Act e, per l’alto rischio, alla spiegazione su richiesta.
Il diritto alla spiegazione dell’articolo 86 dell’AI Act vale sempre?
No: solo per decisioni basate su sistemi ad alto rischio dell’allegato III, con effetti significativi.
Un cliente può segnalare il mio studio all’autorità per l’uso dell’AI?
Sì: chiunque può presentare un reclamo.