Chi sta assumendo? I pregiudizi di genere nel reclutamento basato sull'intelligenza artificiale e le lacune normative dopo l'AI Act.

📢 Nuova sezione del blog EUFutures!

Abbiamo appena lanciato una nuova sezione del blog dedicata a valorizzare la ricerca degli studenti che fa da ponte tra il mondo accademico e le politiche pubbliche. Iniziamo con un articolo dal titolo "Chi sta assumendo? I pregiudizi di genere nel reclutamento basato sull'intelligenza artificiale e le lacune normative dopo l'AI Act", che mette in vetrina il lavoro dei nostri studenti di Public Affairs Annachiara Esposito, Sonat Ezgi Alper e Roger Figols Riera. Sviluppato per il corso di Chiara Benassi "L'economia politica dei mercati del lavoro", questo articolo analizza come gli algoritmi di reclutamento riproducano i pregiudizi di genere e dove l'AI Act dell'UE risulti ancora carente.

Buona lettura!

___

Immaginate di candidarvi per un lavoro per cui possedete tutte le qualifiche e di non ricevere alcuna risposta, non perché qualcun altro sia più competente, ma perché un algoritmo ha stabilito che non siete adatti. Nessuna spiegazione. Nessun ricorso. Nessun controllo umano coinvolto. Questo scenario non è poi così lontano dalla realtà per chi cerca lavoro in Europa e oltre.

Secondo l'Indagine europea sulle condizioni di lavoro del 2024, il 42,3% dei lavoratori dell'UE è ormai interessato dalla gestione algoritmica (AM) e il 74% dei recruiter utilizza l'IA in almeno una delle fasi del processo di selezione, dallo screening delle candidature fino ai colloqui e alla scelta finale. Poiché l'IA sta ridefinendo il processo di reclutamento in tutta Europa, sebbene a ritmi diversi, l'UE ha riconosciuto i rischi ed è intervenuta per regolarlo.

L'AI Act (Regolamento UE 2024/1689) classifica i sistemi di IA utilizzati nel reclutamento come ad alto rischio, imponendo la supervisione umana, la trasparenza e il monitoraggio per evitare discriminazioni. Inoltre, la Quality Jobs Roadmap, lanciata nel dicembre 2025, promette di allineare le politiche occupazionali dell'UE agli sviluppi tecnologici del mercato del lavoro, rispondendo alla preoccupazione dell'84% degli europei che ritiene fondamentale gestire con attenzione queste tecnologie sul posto di lavoro. Tuttavia, resta da capire se l'AI Act e la portata della Quality Jobs Roadmap siano all'altezza dell'urgenza della sfida.

Questo articolo affronta tale questione e discute cosa dovrebbe cambiare affinché la correttezza algoritmica nel reclutamento passi da principio sulla carta a pratica sul luogo di lavoro.

Discriminazione algoritmica

L'espansione degli strumenti basati sull'IA non è un processo neutrale. In particolare nel campo della selezione del personale, l'IA rappresenta uno degli ambiti in cui l'utilizzo senza supervisione umana solleva questioni cruciali in merito ad un trattamento equo e paritario. Tra le ragioni principali vi sono l'addestramento degli algoritmi e il bias di rappresentazione.

I pregiudizi derivano dall'assenza di proporzionalità nei dati e da un utilizzo inappropriato, il che significa che gli utenti del sistema — in questo caso le aziende — hanno valori differenti rispetto a quelli presupposti durante il processo di progettazione dell'algoritmo.

 Il bias algoritmico può anche derivare dai pregiudizi del programmatore o dai dati impiegati per addestrare il sistema di IA. Se il sistema viene addestrato su dati storici occupazionali che riflettono pregiudizi impliciti a favore di un gruppo rispetto a un altro, esso può — senza mai prendere in considerazione il genere o l'etnia come input — apprendere caratteristiche di proxy correlate a tali attributi e sfruttarle per svantaggiare i candidati, definendo una discriminazione sistemica. La ricerca dimostra che, quando i generi sono bilanciati tra i candidati in lizza, il pregiudizio di genere in molte professioni caratterizzate da una distribuzione sbilanciata della forza lavoro può essere attenuato. Durante la fase iniziale di screening dei candidati, le shortlist generate tramite strumenti di IA sono quelle meno eque dal punto di vista del genere, poiché riproducono disuguaglianze strutturali che compromettono la correttezza degli esiti di selezione. Gli algoritmi possono discriminare direttamente — ovvero essere responsabili di un "trattamento sfavorevole" o "differenziato", come lo scarto automatico del CV di una candidata donna — ma possono anche produrre effetti di genere indiretti più sottili, ad esempio perpetuando gli stereotipi di genere nel mercato del lavoro. Inoltre, un rapporto della Commissione europea evidenzia l'opacità degli algoritmi avanzati, che rende difficile per le aziende comprendere come gli algoritmi di reclutamento siano addestrati e come operino, e per i singoli individui scoprire se e come siano stati discriminati. Poiché la tradizionale normativa antidiscriminatoria dell'UE si basa su quadri comparativi e, in particolare, sulla prova di un trattamento meno favorevole, la complessità algoritmica cela le discriminazioni dietro correlazioni e proxy.

Per questo motivo, l'UE ha introdotto il primo quadro giuridico che disciplina l'uso dell'IA in situazioni considerate a rischio significativo, tra cui l'impiego dell'IA nel reclutamento e nella selezione. Il quadro normativo mira a promuovere la fiducia tra i cittadini europei e i sistemi di IA, attenuando al contempo i potenziali rischi legati al loro utilizzo. A tal fine, stabilisce quattro fasce di rischio in cui i sistemi di IA vengono inseriti in base alle loro funzioni e al potenziale di danno, ciascuna con le proprie normative e i propri obblighi di conformità da soddisfare prima che i sistemi possano essere immessi sul mercato. Ma è sufficiente?

Le carenze

Sosteniamo che la roadmap debba estendere il proprio focus sui candidati al mercato del lavoro durante la fase di reclutamento. I lavoratori che non vengono mai assunti non possono accedere alle tutele della contrattazione collettiva, non possono fare affidamento sui rappresentanti sindacali nei luoghi di lavoro e non possono invocare diritti legati all'impiego che presuppongono un rapporto di lavoro già in essere. Di conseguenza, vengono filtrati a monte prima ancora che il quadro protettivo inizi ad applicarsi, potendo cercare tutela unicamente su base individuale.

I meccanismi di applicazione (enforcement) applicabili a questa fase rimangono non sufficientemente specificati. La roadmap a ammette che l'applicazione della legge risulti disomogenea tra gli Stati membri, ma non propone alcun meccanismo per affrontare specificamente questo aspetto nel reclutamento tramite IA. Si fa brevemente riferimento alle "norme UE sull'informazione e la consultazione dei lavoratori", le quali "impongono di coinvolgere i rappresentanti dei lavoratori nelle decisioni che rischiano di portare a cambiamenti sostanziali nell'organizzazione del lavoro, compresa l'implementazione di sistemi di AM", ma i sindacati e le rappresentanze sindacali aziendali non hanno quasi voce in capitolo nel processo di assunzione.

A partire dall'agosto 2026, l'AI Act è diventato più specifico riguardo ai propri meccanismi di enforcement, attivando principalmente gli obblighi di trasparenza. Questi impongono ai datori di lavoro di notificare ai candidati quando è stata utilizzata l'IA nel processo di reclutamento e riconoscono ai candidati respinti il diritto di richiedere una spiegazione sul ruolo che l'IA ha giocato nella loro valutazione. Qualora i candidati ritengano di aver subito un trattamento iniquo, possono presentare un reclamo all'autorità nazionale di vigilanza del mercato, la quale può infliggere alle aziende sanzioni fino a 35.000.000 di euro. Separatamente, gli obblighi relativi all'IA ad alto rischio — tra cui la supervisione umana obbligatoria, il monitoraggio e la sospensione dei sistemi in caso di anomalie — dovrebbero trovare applicazione per l'IA legata all'impiego a partire dal dicembre 2027, in base al calendario di attuazione rivisto. Tuttavia, la traiettoria di applicazione della legge rimane incerta.

La conformità piena per i sistemi di IA ad alto rischio era richiesta dall'agosto 2026, ma è stata ora posticipata al dicembre 2027; in particolare per quanto riguarda le disposizioni sui dati utilizzati per addestrare e testare i modelli. Tali dati devono essere pertinenti, sufficientemente rappresentativi e controllati al fine di limitare errori e pregiudizi. Le aziende devono inoltre spiegare da dove provengano, come siano stati raccolti, quali modifiche abbiano subito e quali squilibri contengano.

Anche la tensione con il GDPR è reale e irrisolta: i principi di minimizzazione dei dati e limitazione delle finalità entrano in conflitto strutturale con il permesso concesso dall'articolo 10(5) di trattare dati sensibili per il rilevamento dei bias. L'analisi giuridica delle sovrapposizioni tra l'AI Act e il GDPR conferma che i due quadri normativi debbano essere applicati in parallelo, con il GDPR che prevale in qualità di lex specialis; tuttavia non sono emerse linee guida chiare e accessibili su quando trovi applicazione l'eccezione dell'articolo 10(5) nei contesti lavorativi.

Un'ulteriore lacuna nell'applicazione riguarda la questione della responsabilità. Quando un sistema di intelligenza artificiale discrimina nel reclutamento, chi ne è responsabile? Linee di responsabilità confuse costituiscono un problema serio, poiché l'autoregolamentazione aziendale si è storicamente rivelata insufficiente a prevenire esiti discriminatori, e i fornitori di IA commercializzano di frequente i loro strumenti come oggettivi nonostante le crescenti prove di un pregiudizio sistemico.

Teoricamente, l'AI Act suddivide la responsabilità tra il fornitore (provider) e l'utilizzatore (deployer); tuttavia, non prevede alcuna disposizione per il risarcimento degli individui interessati. Né il datore di lavoro né lo sviluppatore dell'algoritmo hanno l'obbligo di fornire un risarcimento diretto alle persone che hanno subito discriminazioni. Un ricorso è possibile solo laddove specifiche normative nazionali o dell'UE stabiliscano la responsabilità per determinate forme di discriminazione, ma l'AI Act in sé non contiene alcuna previsione in tal senso.

Raccomandazioni

L'UE non può dettare il modo in cui le aziende private progettano i propri algoritmi, ma può stabilire dei requisiti su ciò che tali algoritmi devono dimostrare e determinare le conseguenze nel caso in cui non vi riescano. Diverse direzioni meritano una seria considerazione nel prossimo Quality Jobs Act.

Il passo più urgente consiste nell'estendere esplicitamente gli obblighi antidiscriminatori alla fase precedente l'assunzione. La classificazione ad alto rischio dell'AI Act è necessaria ma non sufficiente: necessita di una presa procedurale specifica nel contesto del reclutamento, che includa la notifica ai candidati, requisiti di spiegabilità significativi e meccanismi di ricorso accessibili per i candidati respinti.

Sul versante preventivo, le autorità pubbliche dovrebbero sviluppare linee guida e risorse formative rivolte a sviluppatori e utilizzatori in merito ai loro obblighi ai sensi della legislazione antidiscriminatoria e a come questi si applichino agli strumenti di reclutamento basati sull'IA.

Un'ulteriore priorità è la democratizzazione della supervisione algoritmica, ad esempio attraverso audit di terze parti obbligatori sui bias degli strumenti di IA per il reclutamento, condotti da organismi indipendenti sia dai fornitori che dagli utilizzatori. Ai sensi dell'AI Act, gli sviluppatori possono dimostrare la conformità aderendo a standard messi a punto da organizzazioni di normazione (SSO); tuttavia, tali standard sono tipicamente redatti da esperti del settore, mentre i gruppi della società civile e le organizzazioni dei consumatori svolgono un ruolo marginale. Nel processo di definizione di ciò che possa essere considerato "iniquo" o "imparziale", le aziende di maggiori dimensioni possono intervenire con incentivi per orientare il risultato. I think tank dedicati all'IA responsabile e le organizzazioni della società civile invocano da tempo questo genere di responsabilità strutturale, ma senza un supporto legislativo il loro ruolo rimane consultivo anziché correttivo. Senza una supervisione indipendente, individuare algoritmi potenzialmente dannosi diventa più difficile, poiché le aziende che valutano il proprio operato non hanno alcun incentivo a far emergere risultati scomodi. Inoltre, le competenze in materia di diversità dovrebbero essere integrate nello sviluppo dei sistemi di IA e accompagnate da risorse adeguate (Articolo 77 dell'AI Act) come precondizione per l'impiego in contesti lavorativi ad alto rischio, e non come un impegno etico facoltativo.

Infine, la tensione tra il GDPR e l'AI Act richiede un indirizzo normativo attivo piuttosto che mere citazioni a entrambi i quadri normativi e un'assunzione di auto-allineamento. Un'analisi più chiara di come l'articolo 10(5) interagisca con gli obblighi del GDPR illustra la complessità dell'applicazione simultanea di entrambi i quadri nei contesti lavorativi. Le autorità di controllo devono rilasciare linee guida pratiche e accessibili su quando e come si applichi l'eccezione di cui all'articolo 10(5), orientamenti che ridurrebbero in modo significativo l'incertezza giuridica che attualmente frena gli sforzi di correzione dei bias in buona fede.

Conclusione

L'analisi del quadro legislativo ha evidenziato che l'AI Act riconosce il reclutamento algoritmico come un rischio chiaro, e la Quality Jobs Roadmap segnala la necessità di affrontare i progressi tecnologici sul posto di lavoro; tuttavia, il quadro normativo non è all'altezza delle misure strutturali necessarie per fronteggiare tali rischi.

Abbiamo individuato tre carenze: le tutele antidiscriminatorie sono concepite principalmente per proteggere le persone una volta instaurato un rapporto di lavoro, lasciando i candidati al mercato del lavoro sprovvisti di protezione legale prima dell'assunzione; i meccanismi di applicazione non sono sufficientemente specificati ed è probabile che vengano implementati in modo disomogeneo, facendo dipendere gli esiti dalla capacità istituzionale di ciascuno Stato membro; la responsabilità è stata lasciata indefinita, senza chiarezza in merito alla ripartizione tra la responsabilità del fornitore e quella dell'utilizzatore.

Per queste ragioni, abbiamo individuato alcune raccomandazioni per colpire tali critiche carenze: estendere ex ante gli obblighi antidiscriminatori alla fase pre-assunzionale; introdurre audit obbligatori di terze parti sui bias per contrastare la mancanza di incentivi intrinseca all'autoregolamentazione; fornire indicazioni chiare sul rapporto tra l'articolo 10(5) e il GDPR. Il Quality Jobs Act annunciato nella sezione finale della Roadmap offre l'opportunità di tradurre le aspirazioni in impegni vincolanti, affrontando la discriminazione legata all'IA tramite meccanismi specifici integrati nelle relazioni industriali e nelle istituzioni del mercato del lavoro, e rendendo la correttezza algoritmica molto più di un principio: una pratica.

Riferimenti

European Commission. 2025. Quality Jobs Roadmap. Brussels: European Commission. https://commission.europa.eu/document/download/e6cd4328-673c-4e7b-a89e-7a38b6a7c7d5_en.

European Commission. 2020. "Commission Sets Out Roadmap for the Future of Social Protection." Employment, Social Affairs & Inclusion. https://employment-social-affairs.ec.europa.eu/news/commission-sets-out-roadmap-future-2020-01-14_en.

European Parliament. 2025. The AI Act and the GDPR: Data Governance, Overlaps, and Synergies in High-Risk AI Systems. European Parliamentary Research Service (EPRS) Study. PE 774.670. Brussels: European Parliament. https://www.europarl.europa.eu/RegData/etudes/STUD/2025/774670/EPRS_STU(2025)774670_EN.pdf

European Union. 2024. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain legislative acts. Official Journal of the European Union, L 2024/1689, July 12, 2024. http://data.europa.eu/eli/reg/2024/1689/oj

Gerards, Janneke, and Raphaële Xenidis. 2021. Algorithmic Discrimination in Europe: Challenges and Opportunities for Gender Equality and Non-Discrimination Law. European Equality Law Network (EELN). Brussels: European Commission. https://ai.equineteurope.org/system/files/2021-04/EELN_Algorithmic-discrimination_GERARDS%20and%20XENIDIS_2021.pdf.

Haque, Adnan. 2025. "AI is Hiring You: Algorithmic Power, Ethical Risks, and the Future of Recruitment." International Journal of Organization Theory & Behavior. Ahead-of-print. https://doi.org/10.1108/IJOTB-02-2025-0045.

Hartmann, David, José Renato Laranjeira de Pereira, Chiara Streitbörger, and Bettina Berendt. 2025. "Addressing the Regulatory Gap: Moving Towards an EU AI Audit Ecosystem Beyond the AI Act by Including Civil Society." https://link.springer.com/article/10.1007/s43681-024-00595-3 

Holtz, Hajo Michael, and Jonas Ledendal. 2026. "AI Data Governance – Overlaps between the AI Act and the GDPR." Law, Innovation and Technology 18, no. 1: 1–25. https://doi.org/10.1080/17579961.2026.2633677.

Kaya, Mesut, and Toine Bogers. 2026. "Human, Algorithm, or Both? Gender Bias in Human-Augmented Recruiting." In Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26), 5309–5326. New York: ACM. https://doi.org/10.1145/3797143.3797611.

Kieslich, Kimon, et al. 2026. "Trade-Offs in Deploying Legal AI: Insights from a Public Opinion Study to Guide AI Risk Management." https://arxiv.org/pdf/2603.06240.

Köchling, Alina, and Marius Claus Wehner. 2020. "Discriminated by an Algorithm: A Systematic Review of Discrimination and Fairness by Algorithmic Decision-Making in the Context of HR Recruitment and HR Development." Business Research 13, no. 3: 795–848. https://doi.org/10.1007/s40685-020-00134-w.

La Repubblica. 2026. "AI Act 2 agosto 2026: norme, obblighi, rinvii." la Repubblica, July 31, 2026. https://www.repubblica.it/tecnologia/2026/07/31/news/ai-act-2-agosto-2026-norme-obblighi-rinvii-425504792/.

Lütz, Fabian. 2022. "Gender Equality and Artificial Intelligence in Europe. Addressing Direct and Indirect Impacts of Algorithms on Gender-Based Discrimination." ERA Forum 23, no. 1: 33–52. https://doi.org/10.1007/s12027-022-00709-6.

Mariniello, Mario. "The Right Balance: How to Fix European Union Artificial Intelligence Regulation." Policy Brief 12/2026, Bruegel, 11 giugno 2026. https://www.bruegel.org/policy-brief/right-balance-how-fix-european-union-artificial-intelligence-regulation.

Njoto, Sheilla, Marc Cheong, Reeva Lederman, Aidan McLoughney, Leah Ruppanner, and Anthony Wirth. 2022. "Gender Bias in AI Recruitment Systems: A Sociological-and Data Science-based Case Study." In Proceedings of the 2022 IEEE International Symposium on Technology and Society (ISTAS), 1–7. https://doi.org/10.1109/ISTAS55053.2022.10227106.

Peng, Andi, Besmira Nushi, Emre Kıcıman, Kori Inkpen, Siddharth Suri, e Ece Kamar. 2019. "What You See Is What You Get? The Impact of Representation Criteria on Human Bias in Hiring." Proceedings of the AAAI Conference on Human Computation and Crowdsourcing 7, no. 1: 125–34. https://doi.org/10.1609/hcomp.v7i1.5281.

Themann, Sarah. 2025. "Challenges and Strategies Used In Implementing AI Governance: A Systematic Literature Review." Master's thesis, Uppsala University. https://doi.org/10.1007/s43681-024-00595-3.

Wang, Tianshu, Peng Huang, and Randal Burns. 2023. "Understanding and Dealing with Hard Faults in Persistent Memory Systems." In Proceedings of the 2023 IEEE International Conference on Computer Design (ICCD), 441–457. Piscataway, NJ: IEEE. https://ieeexplore.ieee.org/document/10227106.

Wuidar, Simon, Laura Engels, Olivier Lisein, Patrizia Zanoni, Giseline Rondeaux, and Thomas Pirsoul. 2026. Recruitment and Selection in the Age of AI: AI Use, Awareness of Bias Risks and Recommendations Regarding the Risks of Gender Discrimination – Policy Brief. Brussels: Institute for the Equality of Women and Men. https://hdl.handle.net/2268/340904.