Punteggio sociale (social scoring) nell'AI Act
Pubblicata il
Che cos’è il punteggio sociale vietato dall’AI Act?
È vietato usare sistemi di intelligenza artificiale (AI) per valutare o classificare persone fisiche o gruppi per un certo periodo di tempo, sulla base del loro comportamento sociale o di caratteristiche personali o della personalità, note, inferite (cioè ricavate da altri dati) o previste, quando il punteggio che ne risulta porta a trattarle in modo pregiudizievole o sfavorevole in uno dei due casi previsti. Il divieto riguarda l’immissione sul mercato, la messa in servizio e l’uso di questi sistemi: lo prevede l’articolo 5, paragrafo 1, lettera c), del Regolamento (UE) 2024/1689 sull’intelligenza artificiale (AI Act).
Il trattamento sfavorevole rientra nel divieto in due casi, spiegati qui sotto: quando avviene in un ambito diverso da quello in cui i dati sono stati raccolti, oppure quando è ingiustificato o sproporzionato.
Come capisco se un punteggio è vietato: cosa succede alla persona valutata?
Il solo fatto di dare un punteggio non è vietato. La domanda è che cosa succede alla persona valutata. Il divieto scatta se il punteggio comporta almeno uno di questi due trattamenti pregiudizievoli o sfavorevoli:
- Fuori contesto. Il trattamento sfavorevole avviene in contesti sociali che non sono collegati a quelli in cui i dati sono stati originariamente generati o raccolti.
- Ingiustificato o sproporzionato. Il trattamento è ingiustificato o sproporzionato rispetto al comportamento sociale della persona o alla sua gravità.
Un esempio per fissare l’idea, senza pretendere che chiuda ogni caso: un punteggio di affidabilità costruito sui comportamenti di una persona in un ambito e usato per negarle un servizio che non c’entra niente con quell’ambito è il tipo di meccanismo che il primo scenario descrive. Che un caso concreto ci rientri davvero dipende dai fatti.
Uno scoring dei clienti è sempre punteggio sociale?
No. La norma vieta quel tipo di valutazione con quegli esiti, non ogni strumento che assegna un valore a una persona. Uno strumento che valuta persone può, a seconda dell’uso, cadere in altre categorie del regolamento: per esempio tra i sistemi ad alto rischio se è usato in uno degli ambiti dell’Allegato III, oppure sotto le regole del GDPR sulle decisioni automatizzate, di cui parla la voce sul trattamento automatizzato.
Perché il divieto di punteggio sociale conta per l’applicazione dell’AI Act?
Il punteggio sociale, come ogni pratica vietata, non ammette la strada “lo faccio, ma documento”: o non c’è la fattispecie, o non si fa. Il divieto vale dal 2 febbraio 2025 e riguarda anche il deployer. La violazione è punita fino a 35 milioni di euro o al 7% del fatturato mondiale annuo, se superiore (articolo 99, paragrafo 3, dell’AI Act).
Per chi usa strumenti che classificano clienti, candidati o collaboratori, la verifica minima è chiedere al fornitore su quali dati lavora lo strumento e per quali decisioni viene usato.
Dove approfondire
- Articolo 5 AI Act: le pratiche vietate
- Articolo 99 AI Act: cosa è sanzionato e cosa no
Strumento utile: modello di richiesta scritta al fornitore.