A mitigação de riscos à privacidade e vieses no pré-processamento de dados num processo de triagem de currículos baseado em modelos de I.A. generativa
##plugins.themes.bootstrap3.article.sidebar##
##plugins.themes.bootstrap3.article.main##
Resumo
Este artigo analisa o uso de I.A. generativa em sistemas de triagem automatizada de currículos, articulando perspetivas jurídicas e computacionais, ao estudar um conjunto de 758 currículos associados a um processo de recrutamento na Federação Polaca de Futsal.
O objetivo centrou-se em criar uma cadeia de pré‑processamento de dados que mitigasse os riscos associados à privacidade e vieses (bias) dos dados de entrada a modelos de I.A. A experiência realizada permitiu desenvolver procedimentos de extração automática, anonimização manual e de normalização dos dados em bruto que mitigassem vieses inerentes. Os programas desenvolvidos foram executados localmente, alinhando-se com os princípios do RGPD e com as obrigações do regulamento AI Act para sistemas de alto risco.
Os resultados indicam uma redução do risco associado aos vieses e reforça a importância de uma abordagem de mitigação de riscos no pré‑processamento dos dados antes de os submeter a modelos de I.A. generativa.
Downloads
##plugins.themes.bootstrap3.article.details##
Este trabalho encontra-se publicado com a Licença Internacional Creative Commons Atribuição 4.0.
Referências
Anzenberg, E., Samajpati, A., Chandrasekar, S., & Kacholia, V. (2025). Evaluating the promise and pitfalls of LLMs in hiring decisions [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2507.02087
Armstrong, L., Liu, A., MacNeil, S., & Metaxa, D. (2024). The silicon ceiling: Auditing GPT’s race and gender biases in hiring [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2405.04412
Ataíde, M. C. (2025). A discriminação algorítmica na seleção de trabalhadores: O caso Amazon. Cadernos Jurídicos da Faculdade de Direito de Sorocaba, 5(1), 33–58. https://cadernosjuridicos.fadi.br/cadernosjuridicos/article/view/125
Awad, E., Balafoutas, L., Chen, L., Ip, E., & Vecci, J. (2023). Artificial intelligence and debiasing in hiring: Impact on applicant quality and gender diversity [Preprint]. SSRN. https://doi.org/10.2139/ssrn.4626059
Barreto, J. C., Stefano, E., Freitag, A. E. B., Santana, W. A., & Picoli, M. A. (2023). Currículo inclusivo: Uma proposta para a equidade e efetividade nos processos de recrutamento. Revista de Gestão e Secretariado, 14(5), 7586–7607. https://doi.org/10.7769/gesec.v14i5.2139
Biswas, S., & Rajan, H. (2021). Fair preprocessing: Towards understanding compositional fairness of data transformers in machine learning pipeline [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2106.06054
Blumen, D., & Cepellos, V. M. (2023). Dimensões do uso de tecnologia e inteligência artificial (IA) em recrutamento e seleção (R&S): Benefícios, tendências e resistências. Cadernos EBAPE, 21(2), 1–16. https://doi.org/10.1590/1679-395120220080
Chen, Z. (2023). Ethics and discrimination in artificial intelligence-enabled recruitment practices. Humanities & Social Sciences Communications, 10, Article 567. https://doi.org/10.1057/s41599-023-02079-x
Costa, V. S. A. (2024). A utilização de inteligência artificial na triagem de currículos e tomada de decisão em processos seletivos [Trabalho de conclusão de curso, Universidade Estadual de Goiás]. Repositório Institucional. https://repositorio.ueg.br/jspui/handle/riueg/6213
Coutinho, C. P., Sousa, A., Dias, A., Bessa, F., Ferreira, M. J., & Vieira, S. (2009). Investigação-ação: Metodologia preferencial nas práticas educativas. Psicologia, Educação e Cultura, 12(2), 455–479. https://hdl.handle.net/1822/10148
Dargnies, M. P., Hakimov, R., & Kübler, D. (2022). Aversion to hiring algorithms: Transparency, gender profiling, and self-confidence [Preprint]. SSRN. https://doi.org/10.2139/ssrn.4238275
Dasaklis, T. K., Giannopoulos, P. G., Koutras, D., Malamas, V., & Chountalas, P. T. (2025). Large language models in human resource management: A systematic literature review of applications, open issues, and future research directions. Decision Support Systems. Advance online publication. https://doi.org/10.2139/ssrn.5314976
Derous, E., & Decoster, J. (2017). Implicit age cues in résumés: Subtle effects on hiring discrimination. Frontiers in Psychology, 8, Article 1321. https://doi.org/10.3389/fpsyg.2017.01321
Falcão, D., & Tomás, S. T. (2025). Lições de direito do trabalho: Relação individual de trabalho (15.ª ed.). Almedina.
González, J., Cortina, C., & Rodríguez, J. (2019). The role of gender stereotypes in hiring: A field experiment. European Sociological Review, 35(2), 187–204. https://doi.org/10.1093/esr/jcy055
Lei n.º 13/2023, de 3 de abril. Altera o Código do Trabalho e legislação conexa no âmbito da agenda do trabalho digno. Diário da República, 1.ª série, n.º 66. https://diariodarepublica.pt/dr/detalhe/lei/13-2023-211340863
Lei n.º 58/2019, de 8 de agosto. Assegura a execução, na ordem jurídica nacional, do Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016 (Regulamento Geral sobre a Proteção de Dados). Diário da República, 1.ª série, n.º 151. https://diariodarepublica.pt/dr/detalhe/lei/58-2019-123815982
Lei n.º 7/2009, de 12 de fevereiro. Aprova a revisão do Código do Trabalho. Diário da República, 1.ª série, n.º 30. https://www.unl.pt/sites/default/files/codigo_do_trabalho.pdf
Lo, F. P.-W., Qiu, J., Wang, Z., Yu, H., Chen, Y., Zhang, G., & Lo, B. (2025). AI hiring with LLMs: A context-aware and explainable multi-agent framework for resume screening [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2504.02870
Lukács, B. (2023). GDPR-compliant AI-based automated decision-making in the world of work. Computer Law & Security Review, 49, Article 105789. https://doi.org/10.1016/j.clsr.2023.105789
Machado, S. S., & Magalhães, M. M. (n.d.). O uso responsável dos algoritmos no mundo do trabalho em Portugal. In Direitos sociais: Diálogos transdisciplinares (Vol. II, pp. 385–391). IberojurSciencePress. https://doi.org/10.62140/SMMM3852024
Marcelino, N. R. (2023). Inteligência artificial aplicada aos processos de recrutamento e seleção em Portugal [Dissertação de mestrado, Instituto Politécnico de Setúbal]. Repositório Comum. http://hdl.handle.net/10400.26/58467
Moreira, T. C. (2022). Direito no trabalho na era digital. Almedina.
Page, M. J., Moher, D., Bossuyt, P. M., Boutron, I., Hoffmann, T. C., Mulrow, C. D., Shamseer, L., Tetzlaff, J. M., Akl, E. A., Brennan, S. E., Chou, R., Glanville, J., Grimshaw, J. M., Hróbjartsson, A., Lalu, M. M., Li, T., Loder, E. W., Mayo-Wilson, E., McDonald, S., … McKenzie, J. E. (2021). PRISMA 2020 explanation and elaboration: Updated guidance and exemplars for reporting systematic reviews. BMJ, 372, Article n160. https://doi.org/10.1136/bmj.n160
Peixe, J. (2025). Decisões automatizadas, inteligência artificial e proteção de dados: Riscos e desafios no contexto português e europeu. Vida Judiciária. https://www.vidajudiciaria.com
Rana, C. I. P. (2021). Gestão de talentos e processos de recrutamento: Vantagens e desafios [Dissertação de mestrado, ISCTE – Instituto Universitário de Lisboa]. Repositório ISCTE-IUL. https://repositorio.iscte-iul.pt/bitstream/10071/24227/1/master_catarina_pereira_rana.pdf
Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016 (Regulamento Geral sobre a Proteção de Dados). Jornal Oficial da União Europeia, L 119, 1–88. https://eur-lex.europa.eu/eli/reg/2016/679/oj
Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024 (Regulamento sobre Inteligência Artificial). Jornal Oficial da União Europeia, L. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Rodriguez, V. (2023). Ethical implications of AI-based algorithms in recruiting processes: A study of civil rights violations under Title VII and the Americans with Disabilities Act [Graduate project, Boise State University]. ScholarWorks @ Boise State University. https://scholarworks.boisestate.edu/cgi/viewcontent.cgi?article=1006&context=cyber_gradproj
Sequeira, F. V. (2022). O algoritmo no tecido empresarial: Das vicissitudes de contratação ao despedimento de trabalhadores – uma arma nociva que necessita de ser desarmada? In Anuário da Proteção de Dados 2022 (pp. 70–126). Faculdade de Direito da Universidade Nova de Lisboa. https://protecaodedadosue.cedis.fd.unl.pt/wp-content/uploads/2022/12/3.-Frederico-Sequeira.pdf
Sivakaminathan, S. S., & Musi, E. (2025). ChatGPT is a gender bias echo-chamber in HR recruitment: An NLP analysis and framework to uncover the language roots of bias. AI & Society. Advance online publication. https://doi.org/10.1007/s00146-025-02564-8
van Bekkum, M. de M. (2025). Using sensitive data to de-bias AI systems: Article 10(5) of the AI Act. Computer Law & Security Review, 56, Article 106115. https://doi.org/10.1016/j.clsr.2025.106115
Wen, A., Patil, T., Saxena, A., Fu, Y., O’Brien, S., & Zhu, K. (2025). FAIRE: Assessing racial and gender bias in AI-driven resume evaluations [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2504.01420
Xavier, J. P., & Ferreira, D. O. (2025). Inteligência artificial e direitos fundamentais da seleção em Portugal. In Livro de atas (pp. 371–395). https://doi.org/10.62140/JXDF3712025