Algorithmic discrimination and its implications for personality rights and human rights in the era of artificial intelligence
Abstract
This article aims to provide an innovative legal perspective on new technologies, with an emphasis on algorithmic technology, and its main implications for human rights and personality rights. The topic is researched and presented using the deductive method, in an analysis carried out according to qualitative research and theoretical review, using historical and comparative methods. The study initially addresses technological evolution and social transformations that culminated in the contemporary digital society. Likewise, the concepts involving algorithmic discrimination are analyzed, demonstrating how algorithms can perpetuate and even amplify existing prejudices and inequalities. Different legal approaches will be compared in this article, providing reflection on which gaps should be filled by legislation. There is a study of cases of algorithmic discrimination in several areas, such as the labor market and access to public services, highlighting the consequences for human rights and personality rights. The study aims to promote academic awareness of the risks associated with algorithmic discrimination and the need for greater transparency and legal responsibility in the use of artificial intelligence technologies.
Downloads
References
ALENCAR, Ana Catarina de. Inteligência Artificial, ética e direito: guia prático para entender o novo mundo. São Paulo: Saraiva, 2022.
ADOROCINEMA. Minority Report, a nova lei. Sinopse. 2024. Disponível em: https://www.adorocinema.com/filmes/filme-34917/. Acesso em: 24 jul. 2024.
CASTELLS, Manuel. A sociedade em rede. Tradução: Roneide Venâncio Majer. 25. ed. Rio de Janeiro. Paz e Terra, 2023.
CÂMARA, Marco Sérgio Andrade Leal. Inteligência Artificial: representação de conhecimento. Coimbra, Departamento de Engenharia Informática da Faculdade de Ciências e Tecnologia da Universidade de Coimbra. Disciplina de Comunicação Técnica Profissional, 2000/2001. Disponível em: https://student.dei.uc.pt/~mcamara/artigos/inteligencia_artificial.pdf. Acesso em: 20 nov. 2024.
CAMIN, Gustavo Vinícius. Teoria dos direitos fundamentais: primeiras reflexões. Revista Jurídica Cesumar. Maringá, PR, v. 15, n. 1, p. 41-54, jan./jun. 2015. Disponível em: https://periodicos.unicesumar.edu.br/index.php/revjuridica/article/view/3887/2581. Acesso em: 15 out. 2024.
CHAMORRO-PREMUZIC, Tomas. I, Human. AI, automation, and the quest to reclaim what make us unique. Boston: Havard Business Review Press, 2023.
DATA SCIENCE ACADEMY. Deep Learning Book. [s.l.], 2022, Capítulo 2. Disponível em: https://www.deeplearningbook.com.br/uma-breve-historia-das-redes-neurais-artificiais/. Acesso em: 22 jun. 2023.
EHRHARDT JÚNIOR, Marcos; SILVA, Gabriela Buarque Pereira. Diretrizes éticas para a inteligência artificial confiável na União Europeia e a regulação jurídica no Brasil. Revista IBERC. Belo Horizonte, MG, v. 3, n. 3, p. 1-28, 2020. Disponível em: https://revistaiberc.responsabilidadecivil.org/iberc/article/view/133. Acesso em: 20 nov. 2024.
FRANÇA NETTO, Milton Pereira de; EHRHARDT, Marcos. Os riscos da discriminação algorítmica na utilização de aplicações de inteligência artificial no cenário brasileiro. Revista Jurídica Luso-brasileira. Lisboa, ano 8, n. 3, p. 1271-1318, 2022. Disponível em: https://www.cidp.pt/revistas/rjlb/2022/3/2022_03_1271_1318.pdf. Acesso em: 22 jul. 2024.
FELICIANO, Guilherme Guimarães; NASPOLINI, Samyra Haydêe dal Farra; FOGAROLLI FILHO, Paulo Roberto; SOUZA, Devanildo de Amorim. O capitalismo de vigilância e seus efeitos: Discriminação algorítmica e a reificação humana. Revista de Direito Brasileira. Florianópolis, SC, v. 33, n. 12, p. 309-332, set./dez. 2022. Disponível em: https://www.indexlaw.org/index.php/rdb/article/view/9167. Acesso em: 22 jul. 2024.
GIRARDI, Rosário. Inteligência Artificial aplicada ao Direito. Rio de Janeiro: Clube dos Autores, 2020. Disponível em: https://books.google.com.br/books?hl=ptBR&lr=&id=PDF3EAAAQBAJ&oi=fnd&pg=PA2&dq=intelig%C3%AAncia+artificial+e+o+direito&ots=RBIQdNopYJ&sig=hCuJrBnEBoD29XYV5HqR2oj0Ao#v=onepage&q=intelig%C3%AAncia%20artificial%20e%20o%20direito&f=false. Acesso em: 01 jun. 2024.
KASPERKEVIC, Jana. Google says sorry for racist auto-tag in photo app. The Guardian. [s.l.], 1 jul. 2015, 18h52. Disponível em: https://www.theguardian.com/technology/2015/jul/01/google-sorry-racist-auto-tag-photo-app. Acesso em: 20 nov. 2024.
MACHADO, Daniela. Precisamos falar sobre discriminação algoritmica. Instituto Palavra Aberta. São Paulo, 14 nov. 2023. Disponível em: https://www.palavraaberta.org.br/artigo/precisamos-falar-sobre-discriminacao-algoritmica. Acesso em: 23 jul. 2024.
NAÇÕES UNIDAS. Declaração Universal dos Direitos Humanos. 1948. Disponível em: https://www.un.org/en/about-us/universal-declaration-of-human-rights. Acesso em: 31 jul. 2024.
ORGANIZAÇÃO DOS ESTADOS AMERICANOS. Convenção Interamericana contra o Racismo, a Discriminação Racial e formas correlatas de Intolerância. 2013. Disponível em: https://www.oas.org/en/sla/dil/inter_american_treaties_A-68_racism. Acesso em: 31 jul. 2024.
PAIVA, Maria Lucia Fabbres. Os direitos da personalidade do idoso. 2005, 224 f. Dissertação (Mestrado em Direito). Pontifícia Universidade Católica de São Paulo, São Paulo, 2005. Disponível em: https://repositorio.pucsp.br/handle/handle/7491. Acesso em: 25 jul. 2024.
RUSSEL, Stuart; NORVIG, Peter. Inteligência Artificial. Tradução: Regina Célia Simille. Rio de Janeiro: Elsevier, 2013.
SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais. Porto Alegre: Livraria do Advogado, 1998.
SMOLENAARS, Claudine Costa; GONÇALVES, Thaís Leal Vieira. A tardia responsabilidade civil na discriminação algorítmica e a regulação estatal para sistemas de governança e compliance. Revista da Faculdade de Direito. Fortaleza, v. 42, n. 2, p. 59-76, jul./dez. 2021. Disponível em: www.revistadireito.ufc.br/index.php/revdir/article/view/1292. Acesso em: 20 jul. 2024.
SCHWAB, Klaus. A Quarta Revolução Industrial. São Paulo: EDIPRO, 2016.
SZANIAWSKI, Elimar. Direitos de Personalidade e sua tutela. 2. ed. São Paulo. Revista dos Tribunais. 2005.
ZANON, José Carlos. Direito à proteção dos dados pessoais. São Paulo: Revista dos Tribunais, 2013
Copyright (c) 2024 Luiza Schiavon Girolimetto, Cleber Sanfelici Otero
This work is licensed under a Creative Commons Attribution 4.0 International License.
Os autores que publicam nesta revista mantém os direitos autorais sobre os trabalhos publicados e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons Attribution 4.0 International License que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista. Os Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
Os autores declaram que este artigo é original, de autoria própria, que nunca foi foi publicado em qualquer outro veículo, em português ou outro idioma, no formato impresso ou eletrônico (incluindo páginas da Internet, grupos de discussão ou outros modelos de boletim eletrônico), e não está em avaliação em outro veículo ou casa editorial.
Declaram, ainda, que este artigo não contém violação a direito autoral ou qualquer outro direito de terceiro, tampouco possui material de natureza ilegal e exoneram a REVISTA JURÍDICA DIKÉ DO DEPARTAMENTO DE CIÊNCIAS JURÍDICAS DA UNIVERSIDADE ESTADUAL DE SANTA CRUZ E SUA EDITORA EDITUS em face de quaisquer reclamações e despesas (incluindo custos e despesas legais) causadas por qualquer ruptura desta e de outras garantias.
Autorizam a REVISTA JURÍDICA DIKÉ DO DEPARTAMENTO DE CIÊNCIAS JURÍDICAS DA UNIVERSIDADE ESTADUAL DE SANTA CRUZ E SUA EDITORA EDITUS a proceder a modificações e correções para a adequação do texto às normas da publicação e informam que leram e estão cientes destes termos e das diretrizes para os autores.
