Sistemi ad alto rischio: come si classificano e quali sono, con esempi

Nella scala di rischio dell'AI Act, la categoria "alto rischio" è quella che comporta gli obblighi più impegnativi: gestione del rischio, documentazione tecnica, sorveglianza umana, valutazione di conformità, registrazione in una banca dati europea. È anche la categoria che genera più confusione, perché molte imprese temono di rientrarvi senza in realtà rientrarvi, e altre vi rientrano senza saperlo.

La chiave per orientarsi è capire un principio di fondo: l'AI Act non classifica la tecnologia, ma l'uso che se ne fa. Lo stesso modello linguistico può essere irrilevante se usato per riassumere appunti interni e ad alto rischio se impiegato per selezionare candidati a un posto di lavoro. La domanda giusta non è quindi "che strumento uso", ma "per quale finalità, su quali persone e con quali conseguenze".

I due percorsi che portano all'alto rischio

L'articolo 6 del Regolamento prevede due strade distinte, e basta percorrerne una per ricadere nella categoria.

Primo percorso: il sistema è parte di un prodotto già regolato. Un sistema di IA è ad alto rischio quando è destinato a essere utilizzato come componente di sicurezza di un prodotto — oppure è esso stesso un prodotto — disciplinato dalla normativa di armonizzazione dell'Unione elencata nell'Allegato I, e quel prodotto è soggetto a valutazione di conformità da parte di un organismo terzo. Rientrano qui, per esempio, dispositivi medici, macchinari industriali, veicoli, ascensori, giocattoli.

Secondo percorso: il sistema rientra in uno degli usi elencati nell'Allegato III. Si tratta di ambiti considerati sensibili perché incidono direttamente su diritti fondamentali delle persone.

Gli otto settori dell'Allegato III, con esempi

1. Biometria. Sistemi di identificazione biometrica remota, di categorizzazione biometrica secondo attributi sensibili e di riconoscimento delle emozioni. Esempio: un sistema di riconoscimento facciale usato per identificare persone in un luogo accessibile al pubblico.

2. Infrastrutture critiche. Sistemi destinati a operare come componenti di sicurezza nella gestione di infrastrutture digitali critiche, del traffico stradale o nella fornitura di acqua, gas, riscaldamento ed elettricità. Esempio: un sistema che regola automaticamente i flussi di una rete elettrica.

3. Istruzione e formazione professionale. Sistemi che determinano l'accesso o l'ammissione, valutano i risultati dell'apprendimento, assegnano persone a percorsi formativi o monitorano comportamenti vietati durante gli esami. Esempio: un algoritmo che seleziona le domande di ammissione a un corso.

4. Occupazione e gestione dei lavoratori. È il settore che riguarda più direttamente le imprese comuni. Comprende i sistemi usati per selezionare o filtrare candidature, per prendere decisioni su promozioni o cessazioni, per assegnare compiti e per valutare le prestazioni dei lavoratori. Esempio: uno strumento che ordina automaticamente i curriculum ricevuti scartando quelli sotto una certa soglia.

5. Servizi essenziali pubblici e privati. Sistemi che valutano l'ammissibilità a prestazioni di assistenza pubblica, il merito creditizio delle persone fisiche, il rischio nelle assicurazioni vita e salute, o che gestiscono le chiamate di emergenza. Esempio: un algoritmo di scoring creditizio applicato a clienti privati.

6. Attività di contrasto. Sistemi utilizzati dalle autorità di polizia per valutare il rischio di reato, come poligrafi, per valutare l'affidabilità delle prove o per profilazioni investigative.

7. Migrazione, asilo e controllo delle frontiere. Sistemi per l'esame delle domande di asilo o visto, per la verifica dell'identità o per la valutazione dei rischi in ingresso.

8. Giustizia e processi democratici. Sistemi destinati ad assistere l'autorità giudiziaria nell'interpretazione dei fatti e del diritto, o a influenzare l'esito di elezioni e referendum.

L'eccezione che molti ignorano

Rientrare in uno degli usi dell'Allegato III non comporta automaticamente e in ogni caso la qualifica di alto rischio. L'articolo 6, paragrafo 3, prevede una deroga: un sistema elencato nell'Allegato III non è considerato ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone, anche nel senso di non influenzare materialmente il risultato del processo decisionale.

Attenzione però, perché qui sta il punto che sfugge a molti: la deroga non è automatica e va documentata. Chi ritiene che il proprio sistema rientri nell'eccezione deve formalizzare la valutazione prima dell'immissione sul mercato o della messa in servizio, e metterla a disposizione delle autorità nazionali su richiesta. In altre parole, l'eccezione non è un modo per evitare adempimenti: è essa stessa un adempimento, che richiede analisi e documentazione.

Cosa invece non è ad alto rischio

Vale la pena sgombrare il campo da un timore diffuso. Un assistente conversazionale usato per rispondere a domande frequenti dei clienti, uno strumento che aiuta a redigere una bozza di email, un sistema di traduzione automatica, un filtro antispam: nella grande maggioranza dei casi non sono sistemi ad alto rischio. Restano soggetti ad altri obblighi — in particolare la trasparenza dell'articolo 50 e l'alfabetizzazione del personale dell'articolo 4 — ma non ai requisiti stringenti previsti per l'alto rischio.

Il discrimine è quasi sempre l'incidenza sulle persone. Uno strumento che supporta un'attività interna senza determinare esiti che riguardano individui è cosa diversa da uno strumento che seleziona, valuta, classifica o esclude persone.

Cosa comporta essere ad alto rischio

Se un sistema ricade nella categoria, gli adempimenti sono sostanziali:

• sistema di gestione del rischio lungo tutto il ciclo di vita;
• governance dei dati di addestramento, validazione e prova;
• documentazione tecnica conforme all'Allegato IV;
• registrazione automatica degli eventi (log);
• istruzioni per l'uso e trasparenza verso il deployer;
• sorveglianza umana effettiva;
• livelli adeguati di accuratezza, robustezza e cibersicurezza;
• valutazione di conformità e marcatura CE;
• registrazione nella banca dati europea.

Per i deployer — cioè le imprese che utilizzano il sistema senza svilupparlo — gli obblighi sono più contenuti ma non assenti: uso conforme alle istruzioni, sorveglianza umana, conservazione dei log, informativa ai lavoratori interessati e, in determinati casi, valutazione d'impatto sui diritti fondamentali.

Come procedere in concreto

Il percorso pratico per un'impresa è ordinato. Primo, censire tutti i sistemi di IA effettivamente in uso, inclusi quelli integrati in software già adottati: spesso sono più numerosi di quanto il management immagini. Secondo, per ciascuno individuare la finalità concreta e verificarla rispetto ai due percorsi dell'articolo 6. Terzo, dove si rientri nell'Allegato III, valutare l'eventuale applicabilità della deroga e documentare la valutazione. Quarto, chiedere ai fornitori come classificano i propri sistemi, senza però delegare loro la responsabilità: la verifica va fatta anche internamente, perché la qualificazione dipende dall'uso che ne fa l'organizzazione.

Le scadenze concedono tempo, ma non troppo: gli obblighi pieni sui sistemi dell'Allegato III sono attesi per la fine del 2027, quelli sui sistemi integrati in prodotti regolati per il 2028. Costruire documentazione, gestione del rischio e sorveglianza umana richiede mesi di lavoro strutturato, non settimane. Chi comincia dal censimento oggi arriva preparato; chi rimanda si troverà a rincorrere.