Sorveglianza umana dei sistemi di AI
Pubblicata il
«Sorveglianza umana» è il requisito dell’articolo 14 del Regolamento (UE) 2024/1689 (AI Act): i sistemi ad alto rischio devono essere progettati in modo da poter essere efficacemente supervisionati da persone fisiche mentre sono in uso.
Perché ne parliamo? Perché nel linguaggio comune la parola è diventata sinonimo di «c’è sempre qualcuno che controlla», che è una cosa diversa. Guarda l’immagine in alto: dalla cabina di un treno si vede il binario, e la mano del macchinista è vicino alla leva del freno. Il macchinista è la persona incaricata della sorveglianza. Se il tuo studio o la tua azienda usa un sistema di intelligenza artificiale (AI) ad alto rischio, sei nel ruolo di chi sceglie il macchinista, cioè del deployer di AI.
Sorveglianza dei sistemi AI: cosa richiede davvero?
Le persone incaricate devono poter comprendere le capacità e i limiti del sistema e interpretarne correttamente i risultati. Devono restare consapevoli della tendenza a fidarsi automaticamente dell’output, che il regolamento chiama distorsione dell’automazione. Devono poter decidere di non usare i risultati, intervenire o interrompere il funzionamento.
Il fornitore di AI a sua volta deve costruire il sistema in modo che tutto questo sia possibile, e fornire le istruzioni. Il deployer, per i sistemi ad alto rischio, deve affidare la sorveglianza a persone con la competenza, la formazione e l’autorità necessarie, nonché il sostegno necessario. Non basta nominare qualcuno: bisogna metterlo in condizione.
Perché conta anche fuori dall’alto rischio
Fuori dall’alto rischio la sorveglianza sui sistemi di AI non è un obbligo, ma resta un criterio utile: l’articolo 50 dell’AI Act esonera dalla dichiarazione i testi generati dall’AI sottoposti a revisione umana o a controllo editoriale, quando una persona fisica o giuridica ne detiene la responsabilità editoriale.
C’è poi la responsabilità professionale, che il regolamento non tocca. Nessuna norma sull’AI modifica il fatto che di una consulenza risponde chi la firma. È il caso degli articoli che scriviamo noi in ai-act.care: l'intelligenza artificiale ci aiuta, raccoglie la documentazione, prepara i prompt per le immagini, stende una prima bozza dell'articolo. Poi però noi lo leggiamo in maniera completa, lo revisioniamo profondamente tanto da quasi stravolgerlo a livello stilistico e talvolta anche concettuale, proprio perché ci mettiamo la faccia, la firma e la responsabilità.
Cosa non è la sorveglianza sulla AI
Non è semplicemente un pulsante di conferma. Ad esempio un’approvazione data sempre, senza mezzi per valutare, è la distorsione dell’automazione che l’articolo 14 dell’AI Act chiede proprio di contrastare.
Domande frequenti
Il mio gestionale con intelligenza artificiale richiede sorveglianza umana?
Solo se è ad alto rischio. Altrimenti è buona pratica, non obbligo.
Basta che rilegga io l’output di un sistema di AI?
Per l’esonero dell’articolo 50 dell’AI Act serve la revisione umana o il controllo editoriale con una responsabilità editoriale precisa: è più di una rilettura, è una presa di responsabilità completa del contenuto prodotto.