Tecniche subliminali e manipolative nell'AI Act
Pubblicata il
Che cosa sono le tecniche subliminali e manipolative vietate dall’AI Act?
Sono vietati l’immissione sul mercato, la messa in servizio e l’uso di un sistema di intelligenza artificiale (AI) che utilizza tecniche subliminali, cioè che agiscono senza che una persona ne sia consapevole, oppure tecniche volutamente manipolative o ingannevoli. Lo dice l’articolo 5, paragrafo 1, lettera a), del Regolamento (UE) 2024/1689 sull’intelligenza artificiale (AI Act). Lo scopo o l’effetto deve essere quello di distorcere materialmente il comportamento di una persona o di un gruppo, pregiudicando in modo considerevole la loro capacità di prendere una decisione informata, e quindi inducendoli a una decisione che non avrebbero altrimenti preso.
Non basta, però, che la tecnica ci sia: il divieto scatta solo se ne deriva, o ne può ragionevolmente derivare, un danno significativo per quella persona, per un’altra o per un gruppo.
Come capisco se una tecnica di induzione di un comportamento attraverso l’intelligenza artificiale è vietata?
Davanti a uno strumento che “orienta” le persone, la domanda utile è se coesistono tutti e tre gli elementi della norma:
- La tecnica. Un meccanismo che la persona non percepisce, oppure una manipolazione o un inganno voluti.
- L’effetto sul comportamento. La decisione cambia in modo materiale, perché la persona non è più messa in condizione di scegliere con consapevolezza.
- Il danno. Significativo, e già avvenuto o ragionevolmente prevedibile.
Un esempio per capire il confine, senza pretendere che chiuda ogni caso: un assistente di vendita che propone un piano più caro è, di per sé, un meccanismo di persuasione. Se invece è costruito per far leva su qualcosa che il cliente non vede, per spingerlo a una scelta che altrimenti non farebbe e che gli costa molto, si va verso la zona vietata. Se un caso concreto ci rientri davvero dipende dai fatti, e va chiesto al fornitore.
Ogni persuasione fatta con AI è una tecnica manipolativa?
No. L’articolo 5, paragrafo 1, lettera a), dell’AI Act non vieta di convincere né di rendere un messaggio efficace. Vieta le tecniche che hanno quell’effetto sulla decisione e che provocano o possono provocare quel danno: senza tutti gli elementi, il divieto non si applica, anche se lo strumento “spinge” in una direzione.
Vicino a questo c’è un altro divieto, scritto subito dopo, alla lettera b) dello stesso paragrafo: lo sfruttamento delle vulnerabilità di una persona dovute all’età, alla disabilità o a una specifica situazione sociale o economica. Sono due divieti distinti, con la stessa logica.
Perché il divieto delle tecniche manipolative conta per l’applicazione dell’AI Act?
È una pratica vietata: non c’è una valutazione da fare né un rischio da attenuare, è una cosa che non si può fare. Il divieto vale dal 2 febbraio 2025 e riguarda anche chi usa lo strumento, come può essere il titolare di uno studio professionale o di una piccola azienda che utilizza lo strumento di intelligenza artificiale in questo modo: rientra nello status di “deployer di AI”. La violazione è punita con la sanzione più alta del regolamento: fino a 35 milioni di euro o al 7% del fatturato mondiale annuo, se superiore (articolo 99, paragrafo 3, dell’AI Act).
Per uno studio o una piccola impresa il punto pratico è uno solo: sapere cosa fanno davvero gli strumenti che si mettono davanti ai clienti o ai collaboratori, e chiederlo per iscritto al fornitore.
Dove approfondire
- Articolo 5 AI Act: le pratiche vietate
- Articolo 99 AI Act: cosa è sanzionato e cosa no
Strumento utile: modello di richiesta scritta al fornitore.