Sistema di AI: cosa intende davvero l'AI Act
Pubblicata il
Un «Sistema di AI» è un sistema automatizzato progettato per funzionare con livelli di autonomia variabili, che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali. La definisce l’articolo 3, punto 1, del Regolamento (UE) 2024/1689 (AI Act).
Perché ne parliamo? Perché è la prima domanda da farsi su ogni strumento informatico del tuo studio professionale o della tua azienda: se non è un sistema di AI, l’AI Act non si applica a quell’uso. La parola che conta è "deduce".
Un software che applica regole scritte da una persona non deduce: esegue.
Un software che ricava da sé, dai dati, come arrivare al risultato, invece deduce, ed è una AI.
Guarda l’immagine in alto: un impianto che seleziona le pere. Un sensore le osserva e un deviatore manda un frutto in una vaschetta. Se la soglia è scritta da una persona («scarta le pere sotto un certo diametro»), l’impianto esegue. Se ha imparato dai dati a riconoscere i frutti difettosi, deduce, ed è un sistema di AI. Se il tuo studio o la tua azienda usa uno strumento che produce risultati da ciò che gli dai, la domanda è la stessa.
Il test pratico: chi ha scritto la regola?
Davanti a uno strumento la domanda è una sola: la regola l’ha scritta qualcuno, o il sistema l’ha ricavata dai dati?
Il gestionale che manda il promemoria 24 ore prima dell’appuntamento esegue una regola scritta. Non è un sistema di AI.
Il gestionale che propone lo slot in cui il paziente disdice meno, perché l’ha imparato dallo storico, deduce. Probabilmente è un sistema di AI.
Il foglio di calcolo con le formule non è un sistema di AI. L’assistente che scrive la formula al posto tuo, invece, lo è.
Le linee guida della Commissione europea sulla definizione di sistema di AI, pubblicate nel febbraio 2025, escludono espressamente, tra gli altri, i sistemi di semplice elaborazione dei dati e quelli di ottimizzazione matematica classica. Per questo un calcolatore di percorsi può restarne fuori.
L’output dice se è AI?
No, perché conta come il sistema arriva alla risposta, non il tipo di risposta. Se ogni passaggio è scritto da una persona, non è AI, anche se la risposta sembra sofisticata. Se ha ricavato dai dati il modo di rispondere, lo è, anche se a parità di input risponde sempre allo stesso modo. Risposte diverse sono un indizio, non una prova.
Neppure l’etichetta commerciale decide. Alcuni fornitori chiamano «AI» semplici regole. E alcuni software in uso da anni hanno ricevuto funzioni di AI con un aggiornamento automatico: il riassunto della visita, la bozza di risposta, il suggerimento di codifica. Lo strumento è lo stesso di ieri, la classificazione no.
Per questo l’inventario degli strumenti non si fa una volta sola, e la fonte giusta non è la brochure: sono le note di rilascio e una risposta scritta del fornitore.
E se lo strumento è un sistema di AI, cosa resta da capire?
Se lo è, resta da capire quale ruolo hai tu (deployer o fornitore) e che livello di rischio ha il sistema (basso oppure alto rischio).
Casi d’uso
Uso Google Maps per le rotte: devo dirlo ai clienti?
Non so se il gestionale usa l’AI: devo fare come se sì?
Strumento utile: modello di richiesta scritta al fornitore.