Intelligenza artificiale ad alto rischio, Bruxelles prepara il modello per valutare l’impatto sui diritti fondamentali
La Commissione europea ha avviato il 16 novembre 2026 una consultazione pubblica sul modello destinato a guidare la valutazione dell’impatto sui diritti fondamentali nell’utilizzo dei sistemi di intelligenza artificiale ad alto rischio. Il documento, ancora in fase di elaborazione, dovrà aiutare amministrazioni pubbliche e determinate organizzazioni private a verificare le conseguenze che gli strumenti automatizzati possono produrre sulle persone prima della loro introduzione nei processi decisionali.
L’iniziativa riguarda uno degli obblighi previsti dall’articolo 27 dell’AI Act, il regolamento europeo sull’intelligenza artificiale. La disposizione stabilisce che determinati utilizzatori professionali di sistemi ad alto rischio debbano esaminare preventivamente le possibili ripercussioni sui diritti fondamentali, documentare i rischi individuati e definire le misure necessarie per affrontarli.
La novità annunciata da Bruxelles consiste nella predisposizione di un questionario operativo comune. Il testo è stato elaborato dall’AI Office della Commissione con il contributo dell’Agenzia dell’Unione europea per i diritti fondamentali, FRA, ed è accompagnato da una nota esplicativa, anch’essa sottoposta alla consultazione.
Il modello non è ancora definitivo e l’obbligo specifico previsto dall’articolo 27 diventerà applicabile dal 2 dicembre 2027. La consultazione rappresenta quindi una fase preparatoria, nella quale le istituzioni europee intendono verificare se lo strumento proposto sia effettivamente utilizzabile dalle organizzazioni interessate.
Quali organizzazioni dovranno valutare l’impatto sui diritti fondamentali
L’AI Act distingue tra fornitori dei sistemi di intelligenza artificiale e soggetti che li utilizzano sotto la propria autorità. Questi ultimi, indicati dal regolamento come deployers, possono essere amministrazioni pubbliche, imprese e altre organizzazioni.
La distinzione è rilevante perché un sistema progettato e commercializzato da un fornitore può produrre conseguenze differenti a seconda dell’ambiente nel quale viene impiegato, delle persone coinvolte e delle decisioni che contribuisce a determinare.
L’articolo 27 non impone la valutazione dei diritti fondamentali nell’intelligenza artificiale indistintamente a tutte le imprese che utilizzano strumenti classificati ad alto rischio.
L’obbligo riguarda, in primo luogo, gli organismi di diritto pubblico e i soggetti privati che forniscono servizi pubblici, quando impiegano sistemi ad alto rischio rientranti nell’articolo 6, paragrafo 2, e nell’allegato III del regolamento. Sono esclusi da questa specifica valutazione i sistemi destinati all’ambito individuato al punto 2 dell’allegato III, relativo alle infrastrutture critiche.
La disposizione comprende inoltre gli utilizzatori dei sistemi indicati nei punti 5, lettere b) e c), dello stesso allegato. Si tratta, rispettivamente, di determinati strumenti impiegati per valutare l’affidabilità creditizia delle persone fisiche o stabilirne il punteggio di credito e di sistemi utilizzati per la valutazione del rischio e la determinazione dei prezzi nelle assicurazioni sulla vita e sulla salute.
Esistono dunque situazioni nelle quali anche un’impresa privata che non eroga servizi pubblici può essere direttamente soggetta all’obbligo.
Per altre organizzazioni, invece, la classificazione del sistema come ad alto rischio comporta specifici adempimenti previsti dall’AI Act, senza determinare automaticamente l’applicazione dell’articolo 27. La verifica deve considerare la finalità del sistema, il suo impiego concreto e la natura del soggetto utilizzatore.
Che cosa dovrà contenere la valutazione
Il regolamento definisce già gli elementi che devono essere esaminati. Il questionario in consultazione è destinato a tradurre queste prescrizioni in una procedura più facilmente applicabile.
La valutazione dei diritti fondamentali nell’intelligenza artificiale dovrà partire dalla descrizione dei processi organizzativi nei quali viene impiegato il sistema. Occorrerà specificare per quali attività è utilizzato, con quale frequenza e per quale periodo.
Una seconda parte riguarda le persone potenzialmente interessate. L’organizzazione dovrà individuare le categorie di individui e i gruppi sui quali il sistema può produrre conseguenze, considerando le caratteristiche dello specifico ambiente di utilizzo.
Il passaggio successivo consiste nell’identificazione dei rischi di danno per tali soggetti. L’analisi dovrà tenere conto anche delle informazioni fornite dal produttore del sistema, comprese quelle relative alle prestazioni, alle limitazioni e alle condizioni di impiego.
Il regolamento richiede inoltre di descrivere le misure di supervisione umana e gli interventi previsti qualora i rischi individuati si concretizzino. Rientrano in questa parte gli assetti organizzativi interni e i meccanismi attraverso i quali possono essere presentati reclami.
La valutazione non potrà quindi esaurirsi in una dichiarazione generale sulla conformità dello strumento alla normativa europea. Dovrà essere riferita al suo impiego effettivo e alle persone che potrebbero subirne le conseguenze.
Un sistema utilizzato per classificare richieste amministrative, ad esempio, presenta rischi differenti rispetto a uno impiegato per valutare la solvibilità di un cliente. Anche quando la tecnologia sottostante è simile, cambiano le informazioni elaborate, le conseguenze degli eventuali errori e le possibilità di intervento umano.
L’articolo 27 stabilisce che la valutazione debba essere effettuata prima del primo utilizzo soggetto all’obbligo. Se durante l’impiego cambiano elementi rilevanti, l’organizzazione dovrà aggiornare le informazioni precedentemente raccolte.
È prevista anche la possibilità di fare riferimento a valutazioni già effettuate in situazioni analoghe o a documenti esistenti predisposti dal fornitore, nei limiti consentiti dalla disposizione.
Selezione del personale: i rischi degli algoritmi che valutano i candidati
L’utilizzo dell’intelligenza artificiale nei processi di selezione del personale costituisce uno degli esempi più significativi delle conseguenze che una decisione automatizzata può avere sui diritti individuali.
L’allegato III dell’AI Act comprende tra i sistemi potenzialmente classificabili ad alto rischio quelli destinati al reclutamento e alla selezione, compresi gli strumenti per analizzare e filtrare candidature e valutare i candidati.
Un’organizzazione potrebbe utilizzare un sistema per attribuire punteggi ai curriculum, individuare competenze dichiarate o selezionare le candidature da sottoporre a un colloquio.
In un caso ipotetico, il sistema potrebbe penalizzare indirettamente persone con percorsi professionali discontinui, candidati appartenenti a determinate fasce d’età oppure lavoratori con esperienze maturate al di fuori dei percorsi tradizionali.
Il problema non dipende necessariamente dall’utilizzo esplicito di caratteristiche protette. Anche variabili apparentemente neutre possono essere correlate a condizioni personali e produrre risultati discriminatori.
Quando un sistema di selezione rientra nell’ambito dell’articolo 27 e viene utilizzato da un soggetto obbligato, la valutazione dovrà considerare le persone interessate, le possibili conseguenze dei criteri applicati e le misure predisposte per limitare i rischi.
Un altro elemento riguarda l’effettività della supervisione umana. La semplice presenza di un responsabile delle risorse umane nel procedimento non garantisce che le decisioni algoritmiche vengano realmente controllate.
Occorre distinguere, per esempio, tra un operatore che può esaminare le ragioni di una classificazione e correggere una valutazione discutibile e un operatore che si limita ad approvare automaticamente i risultati proposti dal software.
Non tutte le imprese che utilizzano strumenti di selezione automatizzata sono soggette alla valutazione dell’articolo 27. Rimangono tuttavia rilevanti, secondo i rispettivi presupposti di applicazione, gli altri obblighi dell’AI Act e le norme europee sulla protezione dei dati personali e sulla non discriminazione.
Servizi essenziali, credito e assicurazioni: quando una decisione incide sulla vita delle persone
La valutazione dei diritti fondamentali nell’intelligenza artificiale assume particolare importanza quando gli strumenti automatizzati intervengono nell’accesso a servizi o prestazioni essenziali.
L’allegato III del regolamento comprende determinati sistemi destinati a valutare l’ammissibilità delle persone fisiche a prestazioni e servizi essenziali di assistenza pubblica, a concederli, ridurli, revocarli o recuperarli.
Si pensi, a titolo esemplificativo, a un’amministrazione che utilizza un sistema di intelligenza artificiale per supportare l’esame delle richieste di una prestazione sociale.
Un errore nella classificazione dei requisiti potrebbe determinare il rigetto di una domanda legittima oppure un ritardo nell’erogazione del sostegno. Le conseguenze potrebbero risultare particolarmente gravi per persone che dipendono economicamente dalla prestazione richiesta.
In una situazione simile, l’analisi preventiva dovrebbe esaminare la qualità delle informazioni utilizzate, le categorie di beneficiari potenzialmente svantaggiate, il ruolo dell’operatore umano e le possibilità di correggere una decisione errata.
Il problema assume caratteristiche differenti nel settore creditizio.
I sistemi di intelligenza artificiale destinati alla valutazione dell’affidabilità creditizia o alla determinazione del punteggio di credito delle persone fisiche rientrano nell’allegato III, con l’eccezione prevista per gli strumenti utilizzati al fine di individuare frodi finanziarie.
La valutazione potrebbe riguardare, ad esempio, un algoritmo che contribuisce a stabilire se una persona possieda i requisiti per ottenere un finanziamento.
Un modello addestrato su informazioni storiche potrebbe riprodurre squilibri presenti nei dati, penalizzando indirettamente determinate categorie di richiedenti. La valutazione preventiva dovrebbe esaminare il rischio nel contesto operativo specifico, senza presumere che ogni differenza di risultato costituisca automaticamente una discriminazione.
Una situazione altrettanto delicata riguarda le assicurazioni sulla vita e sulla salute, quando sistemi ad alto rischio vengono utilizzati per valutare il rischio assicurativo e determinare i prezzi applicati alle persone fisiche.
In questi ambiti la qualità della documentazione tecnica resta essenziale, ma non esaurisce le responsabilità dell’organizzazione utilizzatrice. Occorre considerare anche le condizioni effettive nelle quali i risultati del sistema vengono trasformati in decisioni.
Decisioni automatizzate e GDPR: due valutazioni con finalità differenti
Il rapporto tra AI Act e normativa sulla protezione dei dati personali costituisce uno dei punti più delicati dell’applicazione pratica.
Il GDPR prevede, all’articolo 35, la valutazione d’impatto sulla protezione dei dati quando un trattamento può presentare un rischio elevato per i diritti e le libertà delle persone fisiche.
La valutazione prevista dall’articolo 27 dell’AI Act considera invece le conseguenze dell’impiego di specifici sistemi ad alto rischio sui diritti fondamentali, secondo l’ambito soggettivo e oggettivo stabilito dal regolamento.
Le due analisi possono sovrapporsi, ma non coincidono.
Un trattamento automatizzato potrebbe richiedere un esame approfondito dei dati personali impiegati, delle modalità di conservazione, delle basi giuridiche e delle misure di sicurezza. L’utilizzo dello stesso sistema potrebbe richiedere anche una verifica delle conseguenze sulla parità di trattamento, sull’accesso ai servizi o su altri diritti.
Il testo dell’AI Act, come modificato nel 2026, consente di richiamare nella valutazione dei diritti fondamentali nell’intelligenza artificiale le sezioni pertinenti di una valutazione d’impatto sulla protezione dei dati già effettuata, oppure di incorporarvi le parti rilevanti.
Questa possibilità mira a evitare duplicazioni documentali, senza eliminare la necessità di esaminare gli aspetti non ancora coperti.
Resta distinta anche la disciplina dell’articolo 22 del GDPR, che stabilisce condizioni e garanzie specifiche per le decisioni basate unicamente su trattamenti automatizzati, compresa la profilazione, quando producono effetti giuridici o incidono in modo analogamente significativo sulle persone.
La presenza di una valutazione d’impatto non rende automaticamente legittima qualsiasi decisione automatizzata. L’organizzazione deve continuare a rispettare le disposizioni applicabili al trattamento e alle decisioni che ne derivano.
Gli obblighi già applicabili e la scadenza del dicembre 2027
La consultazione del novembre 2026 si colloca in una fase di applicazione progressiva dell’AI Act.
Il regolamento europeo 2024/1689 è entrato in vigore nell’agosto 2024, ma le sue disposizioni hanno scadenze differenti.
Dal 2 febbraio 2025 hanno iniziato ad applicarsi importanti previsioni, comprese quelle relative all’alfabetizzazione in materia di intelligenza artificiale e a una parte dei divieti riguardanti pratiche considerate inaccettabili.
Altre disposizioni hanno seguito un calendario successivo.
La disciplina è stata inoltre modificata dal regolamento europeo 2026/1744, adottato nell’ambito degli interventi di semplificazione delle regole sull’intelligenza artificiale. Le modifiche hanno comportato, tra l’altro, il rinvio dell’applicazione di una parte degli obblighi relativi ai sistemi ad alto rischio.
Per i sistemi classificati ad alto rischio ai sensi dell’articolo 6, paragrafo 2, e dell’allegato III, la data di applicazione delle pertinenti sezioni del capo III è stata fissata al 2 dicembre 2027.
Per determinate categorie di sistemi ad alto rischio connesse a prodotti disciplinati dalla normativa europea di armonizzazione, individuate attraverso l’articolo 6, paragrafo 1, e l’allegato I, la scadenza pertinente è invece il 2 agosto 2028.
Il rinvio non significa che l’intelligenza artificiale sia attualmente priva di regolamentazione. Continuano ad applicarsi le disposizioni già operative dell’AI Act e le altre normative pertinenti, comprese quelle sulla protezione dei dati e sulla tutela contro le discriminazioni.
La distinzione temporale è particolarmente importante per evitare di presentare il questionario pubblicato dalla Commissione come un adempimento già obbligatorio nella sua versione attuale.
Il modello è ancora una bozza. Sarà la versione definitiva, una volta adottata, a costituire lo strumento previsto per facilitare l’assolvimento della valutazione.
Il ruolo del questionario e la comunicazione alle autorità
La valutazione dei diritti fondamentali nell’intelligenza artificiale è destinata a diventare anche un documento rilevante nei rapporti tra organizzazioni utilizzatrici e autorità di vigilanza.
L’articolo 27 prevede infatti che, dopo aver effettuato la valutazione, il soggetto obbligato notifichi i risultati all’autorità di vigilanza del mercato competente, trasmettendo il modello compilato. Il regolamento contempla specifiche eccezioni alla notifica.
La procedura non equivale a un’autorizzazione preventiva generalizzata per tutti i sistemi di intelligenza artificiale. Si tratta di un obbligo di valutazione e comunicazione previsto per le categorie individuate dalla norma.
L’impostazione proposta dall’AI Office segue la struttura dell’articolo 27 e utilizza una serie di domande per accompagnare le organizzazioni nell’individuazione degli elementi richiesti.
La Commissione ha annunciato che, una volta completato e adottato, il modello sarà disponibile anche come strumento automatizzato sulla piattaforma informativa unica dedicata all’AI Act.
L’obiettivo è rendere più agevole la compilazione, soprattutto per le organizzazioni che non dispongono di strutture interne specializzate nella valutazione dei rischi tecnologici e giuridici.
Rimarrà comunque necessario raccogliere informazioni attendibili sui processi aziendali, sulle caratteristiche del sistema e sulle misure concretamente adottate. Un questionario standardizzato può rendere più uniforme la documentazione, ma non può sostituire la conoscenza dei singoli contesti operativi.
Consultazione aperta fino al 15 gennaio 2027, test pratici con candidature entro dicembre
La Commissione europea ha previsto due modalità distinte di partecipazione al percorso di definizione del modello.
La prima consiste nella consultazione pubblica aperta fino al 15 gennaio 2027, attraverso la quale gli interessati possono trasmettere osservazioni sul questionario e sulla documentazione esplicativa.
L’iniziativa si rivolge ai soggetti interessati all’applicazione dell’articolo 27 e, più in generale, ai portatori di interesse che intendano contribuire alla definizione dello strumento.
La seconda modalità riguarda una sperimentazione pratica del questionario, destinata alle organizzazioni che saranno soggette all’obbligo di valutazione dei diritti fondamentali nell’intelligenza artificiale.
Per partecipare a questa fase è necessario manifestare il proprio interesse entro il 4 dicembre 2026, utilizzando il canale predisposto dall’AI Office e indicato nella comunicazione ufficiale della Commissione.
Le due scadenze non devono essere confuse: il 4 dicembre riguarda le candidature alla sperimentazione, mentre il 15 gennaio costituisce il termine per inviare osservazioni nella consultazione pubblica.
Le organizzazioni ammesse alla sperimentazione applicheranno il questionario a uno dei propri sistemi di intelligenza artificiale.
La Commissione ha previsto un supporto dell’AI Office durante il percorso, comprendente una sessione introduttiva, risposte ai quesiti dei partecipanti e un incontro conclusivo per discutere i risultati.
Qualora il numero delle candidature fosse elevato, l’AI Office potrà selezionare i casi da coinvolgere, cercando di garantire una rappresentanza equilibrata dei settori di utilizzo, delle applicazioni, delle dimensioni organizzative e degli Stati membri.
La partecipazione sarà volontaria e non modificherà gli obblighi derivanti dal regolamento.
La sperimentazione permetterà di verificare un aspetto decisivo per l’efficacia dello strumento: se le domande predisposte a livello europeo consentano di descrivere adeguatamente i rischi incontrati dalle organizzazioni nelle attività quotidiane.
Le osservazioni raccolte potranno contribuire alla revisione del modello prima della sua adozione definitiva. Il passaggio sarà particolarmente rilevante per chiarire il livello di dettaglio richiesto, ridurre le ambiguità interpretative e rendere utilizzabile il questionario nei differenti settori interessati.
Per amministrazioni, istituti finanziari e altri soggetti potenzialmente obbligati, il periodo precedente al dicembre 2027 offre così la possibilità di individuare i sistemi utilizzati, verificare la rispettiva classificazione normativa e raccogliere le informazioni necessarie alla futura valutazione.
La pubblicazione della versione definitiva del questionario stabilirà il riferimento operativo comune per documentare gli impatti sui diritti fondamentali e trasmettere i risultati alle autorità competenti, secondo le condizioni previste dall’articolo 27.