Un candidato pu\u00f2 essere escluso da una selezione prima che un responsabile delle risorse umane abbia esaminato il suo curriculum. Accade quando un sistema automatizzato attribuisce punteggi alle candidature, stabilisce graduatorie o applica criteri di esclusione che incidono sull’accesso alle fasi successive del colloquio. Il problema diventa particolarmente delicato quando le regole utilizzate dal software non sono sufficientemente comprensibili oppure producono risultati differenti tra persone con caratteristiche comparabili.<\/p>\n
L’impiego dell’intelligenza artificiale nel recruiting<\/strong> pone quindi una questione che riguarda direttamente l’accesso al lavoro: come verificare che una valutazione automatizzata sia pertinente rispetto alle competenze richieste e non introduca discriminazioni difficili da individuare.<\/p>\n Il regolamento europeo sull’intelligenza artificiale, conosciuto come AI Act, considera numerosi sistemi utilizzati nella selezione del personale applicazioni ad alto rischio. La normativa prevede controlli sulla qualit\u00e0 dei dati, sulla trasparenza dei risultati e sulla supervisione umana. Le scadenze, tuttavia, richiedono attenzione: una parte delle disposizioni europee \u00e8 gi\u00e0 applicabile, mentre gli obblighi specifici per i sistemi di recruiting classificati ad alto rischio entreranno in applicazione il 2 dicembre 2027.<\/p>\n L’allegato III del regolamento UE 2024\/1689 individua espressamente le applicazioni dell’intelligenza artificiale destinate al reclutamento e alla selezione delle persone. Il riferimento comprende i sistemi utilizzati per pubblicare annunci di lavoro mirati, analizzare e filtrare candidature e valutare i candidati.<\/p>\n La classificazione riguarda anche determinate applicazioni impiegate nella gestione dei rapporti di lavoro, nelle decisioni sulle condizioni contrattuali, nelle promozioni, nelle cessazioni dei rapporti e nella valutazione delle prestazioni.<\/p>\n La distinzione \u00e8 importante perch\u00e9 non qualsiasi software utilizzato da un ufficio del personale viene automaticamente considerato ad alto rischio<\/strong>. Un programma che organizza gli appuntamenti o archivia documenti senza valutare le persone svolge una funzione differente rispetto a un sistema che assegna probabilit\u00e0 di successo professionale o suggerisce quali candidature scartare.<\/p>\n L’AI Act contempla inoltre alcune eccezioni alla classificazione ad alto rischio per applicazioni che svolgono attivit\u00e0 procedurali circoscritte, non influenzano materialmente l’esito della decisione e soddisfano le condizioni previste dall’articolo 6. La possibilit\u00e0 di applicare queste eccezioni richiede una valutazione documentata. I sistemi che effettuano profilazione di persone fisiche nell’ambito delle categorie dell’allegato III restano comunque considerati ad alto rischio.<\/p>\n Per le aziende che adottano l’intelligenza artificiale nel recruiting, il primo controllo consiste dunque nell’individuare la funzione effettiva dello strumento. La denominazione commerciale del prodotto, la presenza di un algoritmo o la dichiarazione del fornitore non sono sufficienti per stabilire quale disciplina debba essere applicata.<\/p>\n Occorre verificare quali informazioni vengano elaborate, quali risultati produca il sistema e quanto tali risultati incidano sulle decisioni dei selezionatori.<\/p>\n Un sistema addestrato sui risultati di precedenti selezioni pu\u00f2 apprendere relazioni statistiche che riflettono anche le caratteristiche delle persone assunte in passato. Se i dati storici contengono squilibri, l’algoritmo potrebbe riprodurli nelle valutazioni successive.<\/p>\n Il meccanismo non richiede necessariamente che il software utilizzi esplicitamente informazioni come genere, origine etnica o disabilit\u00e0. Alcuni elementi apparentemente neutrali possono funzionare come indicatori indiretti di caratteristiche personali.<\/p>\n Un’interruzione della carriera, per esempio, pu\u00f2 avere spiegazioni differenti: maternit\u00e0, assistenza familiare, problemi di salute, formazione o cambiamenti professionali. Penalizzare automaticamente tutte le interruzioni sulla base della loro durata rischia di produrre effetti sfavorevoli su determinate categorie di candidati.<\/p>\n Un problema analogo potrebbe emergere attribuendo particolare importanza alla continuit\u00e0 lavorativa, alla provenienza da specifiche universit\u00e0 oppure a determinate caratteristiche linguistiche, senza dimostrare che siano effettivamente necessarie per la posizione disponibile.<\/p>\n Si tratta di rischi potenziali, non della prova che ogni sistema utilizzi criteri discriminatori. La valutazione dipende dai dati, dal modello, dall’impiego concreto e dal rapporto tra le caratteristiche esaminate e le mansioni professionali.<\/p>\n La discriminazione indiretta merita particolare attenzione. Anche un criterio formulato in termini neutrali pu\u00f2 determinare uno svantaggio per un gruppo protetto, salvo che ricorrano le condizioni giuridiche che ne giustificano l’utilizzo, compresa la proporzionalit\u00e0 rispetto a un obiettivo legittimo.<\/p>\n Le norme antidiscriminatorie europee e italiane continuano ad applicarsi indipendentemente dalle scadenze dell’AI Act. L’utilizzo di una tecnologia non modifica la responsabilit\u00e0 di rispettare la parit\u00e0 di trattamento nell’accesso all’occupazione.<\/p>\n Controllare l’accuratezza di un algoritmo significa verificare quanto correttamente svolga il compito assegnato. Nel recruiting, per\u00f2, una percentuale elevata di classificazioni considerate corrette non dimostra automaticamente l’assenza di discriminazioni.<\/p>\n Un modello pu\u00f2 ottenere risultati soddisfacenti sul campione complessivo e mostrare prestazioni significativamente peggiori per specifici gruppi di persone. Possono cambiare, ad esempio, i tassi di esclusione oppure la frequenza con cui candidati potenzialmente idonei vengono giudicati inadatti.<\/p>\n Per questo, una verifica attendibile dovrebbe considerare la rappresentativit\u00e0 dei dati utilizzati, la pertinenza delle variabili e le differenze nei risultati, attraverso metodi statistici appropriati e nel rispetto della normativa sulla protezione dei dati personali.<\/p>\n L’analisi richiede particolare cautela quando riguarda caratteristiche protette. La raccolta di informazioni sensibili per misurare possibili disparit\u00e0 non \u00e8 automaticamente consentita: deve poggiare su una base giuridica adeguata e rispettare le condizioni previste dal GDPR.<\/p>\n L’AI Act disciplina specificamente, all’articolo 10, le condizioni entro cui i fornitori di sistemi ad alto rischio possono trattare categorie particolari di dati personali per individuare e correggere distorsioni. La possibilit\u00e0 \u00e8 subordinata a rigorosi requisiti, tra cui la stretta necessit\u00e0 e specifiche garanzie.<\/p>\n Per l’intelligenza artificiale nel recruiting assume rilievo anche la qualit\u00e0 dei test. Un sistema sviluppato utilizzando candidature relative a un determinato settore professionale potrebbe comportarsi diversamente quando viene adottato per mansioni, territori o popolazioni differenti.<\/p>\n La verifica dovrebbe quindi essere ripetuta quando cambiano le caratteristiche del processo di selezione, i criteri di valutazione o le condizioni operative.<\/p>\n La cronologia della normativa europea distingue tra entrata in vigore del regolamento e applicazione delle singole disposizioni.<\/p>\n L’AI Act \u00e8 entrato in vigore il 1\u00b0 agosto 2024. Dal 2 febbraio 2025 si applicano le disposizioni generali del primo capitolo, comprese quelle relative all’alfabetizzazione in materia di intelligenza artificiale, insieme alla maggior parte dei divieti previsti dall’articolo 5.<\/p>\n Dal 2 agosto 2025 sono diventate applicabili, tra le altre, le disposizioni europee relative alla governance e ai modelli di intelligenza artificiale per finalit\u00e0 generali, secondo il rispettivo ambito di applicazione.<\/p>\n Il 2 agosto 2026 \u00e8 iniziata l’applicazione della parte principale del regolamento, con alcune eccezioni.<\/p>\n Una modifica normativa successiva ha per\u00f2 spostato la decorrenza dei requisiti specifici per i sistemi ad alto rischio. Il regolamento UE 2026\/1744, entrato in vigore il 27 luglio 2026, ha fissato al 2 dicembre 2027 l’applicazione delle sezioni del capitolo III relative ai sistemi ad alto rischio individuati nell’allegato III<\/strong>, che comprende le applicazioni per il reclutamento e la selezione del personale.<\/p>\n Per i sistemi ad alto rischio collegati alle categorie di prodotti disciplinate dall’allegato I, il termine \u00e8 invece il 2 agosto 2028.<\/p>\n Questo significa che, nel novembre 2026, non sarebbe corretto presentare tutti gli obblighi specifici dei sistemi di selezione ad alto rischio come gi\u00e0 pienamente applicabili.<\/p>\n Sono invece gi\u00e0 operanti i divieti pertinenti, le disposizioni sull’alfabetizzazione in materia di intelligenza artificiale e le normative preesistenti, in particolare quelle sulla protezione dei dati personali e contro le discriminazioni.<\/p>\n L’articolo 4 dell’AI Act richiede ai fornitori e ai soggetti che utilizzano sistemi di intelligenza artificiale di adottare misure per garantire, per quanto possibile, un adeguato livello di competenza del personale e delle altre persone che operano con tali sistemi per loro conto. La preparazione deve tenere conto delle conoscenze, dell’esperienza, della formazione e del contesto di utilizzo.<\/p>\n Per un ufficio HR significa comprendere almeno le principali caratteristiche dello strumento adottato, i suoi limiti e i rischi connessi alle decisioni che pu\u00f2 influenzare.<\/p>\n Un capitolo distinto riguarda i sistemi che pretendono di dedurre stati emotivi attraverso caratteristiche biometriche, come determinate informazioni ricavate dal volto o dalla voce.<\/p>\n L’articolo 5 dell’AI Act vieta, nell’ambito lavorativo e dell’istruzione, l’immissione sul mercato, la messa in servizio per tale finalit\u00e0 e l’utilizzo di sistemi di intelligenza artificiale destinati a inferire le emozioni delle persone, fatta salva l’eccezione prevista per finalit\u00e0 mediche o di sicurezza.<\/p>\n Il divieto, applicabile dal 2 febbraio 2025, assume particolare rilevanza per i colloqui di lavoro automatizzati.<\/p>\n Le linee guida della Commissione europea sulle pratiche vietate chiariscono che il riconoscimento delle emozioni pu\u00f2 rientrare nel divieto anche durante il processo di reclutamento.<\/p>\n Un sistema che pretenda di ricavare sicurezza personale, entusiasmo o stati emotivi dalle espressioni facciali di un candidato deve quindi essere esaminato alla luce di questa disciplina. Non basta presentare l’analisi come uno strumento di supporto alle risorse umane.<\/p>\n Occorre distinguere queste applicazioni da altri strumenti di elaborazione audio o video, la cui liceit\u00e0 dipende dalle funzioni effettive, dai dati trattati e dalle norme applicabili. Il divieto non si estende indistintamente a ogni tecnologia utilizzata durante un video-colloquio.<\/p>\n La protezione dei dati personali costituisce uno dei principali strumenti di controllo gi\u00e0 disponibili.<\/p>\n Il regolamento UE 2016\/679, noto come GDPR, disciplina il trattamento dei dati dei candidati e contiene disposizioni specifiche sulle decisioni basate unicamente su trattamenti automatizzati.<\/p>\n L’articolo 22 riconosce, alle condizioni previste dalla norma, il diritto a non essere sottoposti a una decisione fondata esclusivamente su un trattamento automatizzato, compresa la profilazione, che produca effetti giuridici o incida in modo analogamente significativo sulla persona.<\/p>\n L’esclusione da una selezione lavorativa pu\u00f2 assumere rilevanza ai fini di questa disposizione, in funzione delle circostanze concrete e dell’incidenza della decisione.<\/p>\n Sono previste eccezioni tassative, accompagnate, nei casi stabiliti dal regolamento, da garanzie appropriate per la persona interessata, tra cui la possibilit\u00e0 di ottenere un intervento umano, esprimere la propria opinione e contestare la decisione.<\/p>\n Inserire formalmente un selezionatore nel procedimento non basta necessariamente a escludere l’applicazione dell’articolo 22.<\/strong> L’intervento umano deve essere effettivo, affidato a una persona competente e in grado di valutare criticamente il risultato automatizzato.<\/p>\n La questione \u00e8 stata approfondita anche dalla giurisprudenza europea.<\/p>\n Nella sentenza del 7 dicembre 2023 relativa al caso SCHUFA, la Corte di giustizia dell’Unione europea ha esaminato l’attribuzione automatizzata di un punteggio di affidabilit\u00e0 creditizia, chiarendo la rilevanza dell’articolo 22 quando il punteggio assume un ruolo determinante nella decisione di un soggetto terzo.<\/p>\n La controversia non riguardava direttamente le assunzioni, ma il principio \u00e8 pertinente alla valutazione del peso effettivo attribuito a uno scoring automatizzato.<\/p>\n Se un responsabile delle assunzioni recepisce sistematicamente una graduatoria algoritmica senza un esame sostanziale, la presenza di una persona nell’ultima fase del procedimento non garantisce, da sola, una valutazione realmente autonoma.<\/p>\n L’impiego dell’intelligenza artificiale nel recruiting comporta anche obblighi relativi alla trasparenza del trattamento dei dati personali.<\/p>\n Le aziende e le agenzie di selezione devono individuare una base giuridica appropriata, rispettare il principio di minimizzazione e informare i candidati secondo quanto previsto dagli articoli 13 e 14 del GDPR.<\/p>\n L’informativa deve spiegare, tra le altre cose, le finalit\u00e0 del trattamento, le categorie di dati pertinenti, i tempi di conservazione o i criteri utilizzati per determinarli e i diritti esercitabili.<\/p>\n Quando ricorrono i presupposti delle decisioni automatizzate disciplinate dall’articolo 22, trovano applicazione anche gli specifici obblighi informativi relativi all’esistenza del processo decisionale, alla logica utilizzata e alle conseguenze previste per l’interessato.<\/p>\n Un sistema di selezione potrebbe trattare informazioni contenute nei curriculum, risposte a questionari, risultati di test e altri dati pertinenti alla candidatura. L’acquisizione di ulteriori informazioni da fonti esterne richiede un’autonoma verifica di liceit\u00e0, necessit\u00e0 e proporzionalit\u00e0.<\/p>\n L’accessibilit\u00e0 pubblica di un’informazione non autorizza automaticamente qualsiasi successivo utilizzo per valutare un candidato.<\/p>\n Il GDPR prevede inoltre, all’articolo 35, la valutazione d’impatto sulla protezione dei dati quando un trattamento pu\u00f2 presentare un rischio elevato per i diritti e le libert\u00e0 delle persone.<\/p>\n Tra i casi espressamente considerati figura la valutazione sistematica e globale di aspetti personali basata su trattamenti automatizzati, compresa la profilazione, sulla quale si fondano decisioni che producono effetti giuridici o conseguenze analogamente significative.<\/p>\n Il Garante per la protezione dei dati personali ha affrontato le particolarit\u00e0 del settore anche attraverso il codice di condotta relativo alle attivit\u00e0 delle agenzie per il lavoro, richiamato nella propria relazione annuale 2024. Il documento esamina, tra l’altro, le garanzie riguardanti il trattamento automatizzato delle candidature.<\/p>\n La corretta gestione dell’intelligenza artificiale nel recruiting richiede pertanto un coordinamento tra responsabili della selezione, competenze informatiche e figure incaricate della protezione dei dati.<\/p>\n Quando diventeranno applicabili gli obblighi specifici per i sistemi di selezione ad alto rischio, il quadro delle responsabilit\u00e0 sar\u00e0 pi\u00f9 articolato.<\/p>\n Il regolamento distingue il fornitore, che sviluppa un sistema o lo immette sul mercato con il proprio nome o marchio, dal soggetto che lo utilizza sotto la propria autorit\u00e0, definito deployer<\/em>.<\/p>\n Ai fornitori di sistemi ad alto rischio si applicheranno, secondo le disposizioni pertinenti, requisiti riguardanti la gestione dei rischi, la governance dei dati, la documentazione tecnica, la registrazione degli eventi, la trasparenza, la supervisione umana, l’accuratezza, la robustezza e la sicurezza informatica.<\/p>\n Il regolamento disciplina inoltre le procedure di valutazione della conformit\u00e0 e la registrazione nelle banche dati europee nei casi previsti.<\/p>\n Le aziende utilizzatrici dovranno rispettare gli obblighi loro attribuiti dall’articolo 26, che comprendono l’impiego conforme alle istruzioni, l’assegnazione della supervisione a persone adeguatamente preparate, il monitoraggio del funzionamento e la gestione delle registrazioni automatiche secondo le condizioni stabilite dalla norma.<\/p>\n Per i sistemi dell’allegato III che prendono decisioni o contribuiscono a prenderle su persone fisiche, \u00e8 previsto anche l’obbligo di informare gli interessati dell’utilizzo del sistema ad alto rischio.<\/p>\n La disciplina contempla inoltre specifici obblighi di informazione dei lavoratori e dei loro rappresentanti prima dell’utilizzo di sistemi ad alto rischio nell’ambiente di lavoro.<\/p>\n Non tutti gli adempimenti, tuttavia, si applicheranno indistintamente a qualunque organizzazione. La valutazione d’impatto sui diritti fondamentali prevista dall’articolo 27, ad esempio, riguarda le categorie di utilizzatori e i sistemi individuati dalla disposizione, comprese determinate autorit\u00e0 pubbliche e alcune tipologie di servizi privati.<\/p>\n La classificazione ad alto rischio non determina automaticamente, per ogni datore di lavoro privato, l’obbligo di effettuare la valutazione prevista dall’articolo 27.<\/strong> Restano autonomamente applicabili gli eventuali obblighi di valutazione d’impatto derivanti dal GDPR.<\/p>\n Un’ulteriore distinzione riguarda i sistemi gi\u00e0 presenti sul mercato prima dell’applicazione delle nuove disposizioni. L’articolo 111 contiene un regime transitorio che, in determinate circostanze, collega l’applicazione dei requisiti a modifiche significative della progettazione, con regole particolari per i sistemi destinati alle autorit\u00e0 pubbliche.<\/p>\n Le organizzazioni devono quindi considerare anche la data di introduzione dello strumento, le successive modifiche e le condizioni previste dalla normativa.<\/p>\n La scelta di un sistema automatizzato richiede controlli che precedono l’integrazione nei processi aziendali.<\/p>\n Il primo riguarda la documentazione tecnica e funzionale. Il fornitore dovrebbe rendere disponibili informazioni sufficienti a comprendere quali attivit\u00e0 svolga il software, quali dati richieda, quali risultati produca e quali limiti di utilizzo siano conosciuti.<\/p>\n Una seconda verifica riguarda i criteri impiegati per assegnare punteggi e classificare candidature. Se il sistema attribuisce maggiore importanza a determinati percorsi formativi o esperienze professionali, l’azienda deve poter valutare se tali caratteristiche siano pertinenti alle mansioni effettivamente richieste.<\/p>\n L’adozione di criteri oggettivi non esclude automaticamente effetti discriminatori. Anche un requisito apparentemente misurabile pu\u00f2 produrre disparit\u00e0 ingiustificate quando viene applicato senza considerare il ruolo da ricoprire.<\/p>\n La fase di prova dovrebbe utilizzare casi rappresentativi delle candidature che il sistema sar\u00e0 chiamato a esaminare, evitando di considerare sufficiente una dimostrazione commerciale o un risultato aggregato di accuratezza.<\/p>\n La supervisione umana deve inoltre essere organizzata in modo da consentire la revisione delle valutazioni e la correzione degli errori.<\/p>\n Se un software segnala come poco idoneo un candidato con competenze professionali adeguate, il selezionatore deve poter comprendere le ragioni della valutazione, esaminarne i limiti e modificarne l’esito quando necessario.<\/p>\n Le condizioni contrattuali con il fornitore meritano la stessa attenzione. Devono essere chiariti i ruoli nel trattamento dei dati personali, le responsabilit\u00e0 sulla sicurezza, l’accessibilit\u00e0 delle informazioni necessarie ai controlli e le modalit\u00e0 di gestione degli eventuali malfunzionamenti.<\/p>\n L’adozione dell’intelligenza artificiale nel recruiting attraverso un servizio esterno non elimina gli obblighi che rimangono in capo all’azienda utilizzatrice.<\/p>\n La verifica iniziale non esaurisce i controlli necessari.<\/p>\n Un algoritmo pu\u00f2 essere aggiornato, ricevere dati differenti rispetto alla fase di prova oppure essere utilizzato per posizioni professionali diverse da quelle originariamente considerate. Anche senza modifiche al modello, il cambiamento delle condizioni di utilizzo pu\u00f2 incidere sull’affidabilit\u00e0 dei risultati.<\/p>\n Il monitoraggio dovrebbe quindi comprendere l’analisi periodica dei criteri di esclusione, la valutazione degli errori individuati e la documentazione degli interventi correttivi.<\/p>\n Occorre inoltre distinguere gli errori del sistema dalle scelte organizzative dell’azienda. Un modello che suggerisce una graduatoria non determina necessariamente da solo l’esito della selezione: possono intervenire filtri impostati dall’organizzazione, soglie numeriche o decisioni successive dei responsabili HR.<\/p>\n Queste componenti devono essere considerate insieme quando si ricostruisce il motivo dell’esclusione di un candidato.<\/p>\n Il problema assume particolare rilievo quando il software viene modificato dal soggetto utilizzatore. In determinate condizioni, una modifica sostanziale o un cambiamento della finalit\u00e0 prevista possono far assumere all’utilizzatore le responsabilit\u00e0 che l’AI Act attribuisce al fornitore.<\/p>\n Per le aziende che stanno introducendo l’intelligenza artificiale nel recruiting, il periodo precedente al 2 dicembre 2027 consente di predisporre procedure di controllo coerenti con i requisiti europei di prossima applicazione, senza trascurare le disposizioni gi\u00e0 vincolanti.<\/p>\n Tra le questioni operative pi\u00f9 rilevanti rimane la possibilit\u00e0 di ricostruire una singola decisione: quali dati siano stati considerati, quale risultato abbia prodotto il sistema, chi abbia esaminato tale risultato e quali elementi abbiano motivato l’eventuale esclusione.<\/p>\n Una documentazione di questo tipo permette di individuare errori ricorrenti, verificare le contestazioni dei candidati e accertare se la supervisione umana abbia avuto un ruolo concreto. La sua conservazione deve comunque rispettare le regole applicabili sulla protezione dei dati, comprese quelle relative alla durata del trattamento e alla sicurezza delle informazioni.<\/p>\n","protected":false},"excerpt":{"rendered":" Un candidato pu\u00f2 essere escluso da una selezione prima che un responsabile delle risorse umane abbia esaminato il suo curriculum. Accade quando un sistema automatizzato attribuisce punteggi alle candidature, stabilisce graduatorie o applica criteri di esclusione che incidono sull’accesso alle fasi successive del colloquio. Il problema diventa particolarmente delicato quando le regole utilizzate dal software … <\/p>\nQuali strumenti di selezione rientrano tra i sistemi ad alto rischio<\/h2>\n
Il rischio di discriminazione pu\u00f2 nascere dai dati utilizzati<\/h2>\n
Le verifiche tecniche devono riguardare gli esiti delle selezioni<\/h2>\n
AI Act, quali obblighi sono gi\u00e0 applicabili nel novembre 2026<\/h2>\n
L’analisi delle emozioni nei colloqui incontra un divieto specifico<\/h2>\n
Il GDPR tutela gi\u00e0 i candidati contro determinate decisioni automatizzate<\/h2>\n
Informative, conservazione dei dati e valutazione d’impatto<\/h2>\n
I controlli previsti dal 2027 e le responsabilit\u00e0 di fornitori e aziende<\/h2>\n
Come verificare un software prima di affidargli la valutazione dei candidati<\/h2>\n
Il monitoraggio dopo l’introduzione del sistema<\/h2>\n