Discriminação algorítmica e sua implicação nos direitos da personalidade e nos direitos humanos na era da inteligência artificial
Resumo
O presente artigo tem como objetivo proporcionar uma visão jurídica inovadora sobre as novas tecnologias, com ênfase na tecnologia algorítmica, e suas principais implicações nos direitos humanos e nos direitos da personalidade. O tema é pesquisado e apresentado consoante o método dedutivo, em análise procedida conforme uma pesquisa qualitativa e de revisão teórica, com a utilização dos métodos de procedimento histórico e comparativo. O estudo aborda, inicialmente, a evolução tecnológica e as transformações sociais que culminaram na sociedade digital contemporânea. De igual forma, são analisados os conceitos que envolvem a discriminação algorítmica, com a demonstração de como os algoritmos podem perpetuar e até mesmo ampliar preconceitos e desigualdades existentes. Diferentes abordagens jurídicas serão comparadas no presente artigo, proporcionando a reflexão sobre quais lacunas devem ser preenchidas pela legislação. Há estudo de casos de discriminação algorítmica em diversas áreas, como mercado de trabalho e o acesso a serviços públicos, colocando em evidência as consequências para os direitos humanos e os direitos da personalidade. O estudo visa a promover a conscientização acadêmica sobre os riscos associados à discriminação algorítmica e a necessidade de maior transparência e responsabilidade jurídica diante do uso das tecnologias de inteligência artificial.
Downloads
Referências
ALENCAR, Ana Catarina de. Inteligência Artificial, ética e direito: guia prático para entender o novo mundo. São Paulo: Saraiva, 2022.
ADOROCINEMA. Minority Report, a nova lei. Sinopse. 2024. Disponível em: https://www.adorocinema.com/filmes/filme-34917/. Acesso em: 24 jul. 2024.
CASTELLS, Manuel. A sociedade em rede. Tradução: Roneide Venâncio Majer. 25. ed. Rio de Janeiro. Paz e Terra, 2023.
CÂMARA, Marco Sérgio Andrade Leal. Inteligência Artificial: representação de conhecimento. Coimbra, Departamento de Engenharia Informática da Faculdade de Ciências e Tecnologia da Universidade de Coimbra. Disciplina de Comunicação Técnica Profissional, 2000/2001. Disponível em: https://student.dei.uc.pt/~mcamara/artigos/inteligencia_artificial.pdf. Acesso em: 20 nov. 2024.
CAMIN, Gustavo Vinícius. Teoria dos direitos fundamentais: primeiras reflexões. Revista Jurídica Cesumar. Maringá, PR, v. 15, n. 1, p. 41-54, jan./jun. 2015. Disponível em: https://periodicos.unicesumar.edu.br/index.php/revjuridica/article/view/3887/2581. Acesso em: 15 out. 2024.
CHAMORRO-PREMUZIC, Tomas. I, Human. AI, automation, and the quest to reclaim what make us unique. Boston: Havard Business Review Press, 2023.
DATA SCIENCE ACADEMY. Deep Learning Book. [s.l.], 2022, Capítulo 2. Disponível em: https://www.deeplearningbook.com.br/uma-breve-historia-das-redes-neurais-artificiais/. Acesso em: 22 jun. 2023.
EHRHARDT JÚNIOR, Marcos; SILVA, Gabriela Buarque Pereira. Diretrizes éticas para a inteligência artificial confiável na União Europeia e a regulação jurídica no Brasil. Revista IBERC. Belo Horizonte, MG, v. 3, n. 3, p. 1-28, 2020. Disponível em: https://revistaiberc.responsabilidadecivil.org/iberc/article/view/133. Acesso em: 20 nov. 2024.
FRANÇA NETTO, Milton Pereira de; EHRHARDT, Marcos. Os riscos da discriminação algorítmica na utilização de aplicações de inteligência artificial no cenário brasileiro. Revista Jurídica Luso-brasileira. Lisboa, ano 8, n. 3, p. 1271-1318, 2022. Disponível em: https://www.cidp.pt/revistas/rjlb/2022/3/2022_03_1271_1318.pdf. Acesso em: 22 jul. 2024.
FELICIANO, Guilherme Guimarães; NASPOLINI, Samyra Haydêe dal Farra; FOGAROLLI FILHO, Paulo Roberto; SOUZA, Devanildo de Amorim. O capitalismo de vigilância e seus efeitos: Discriminação algorítmica e a reificação humana. Revista de Direito Brasileira. Florianópolis, SC, v. 33, n. 12, p. 309-332, set./dez. 2022. Disponível em: https://www.indexlaw.org/index.php/rdb/article/view/9167. Acesso em: 22 jul. 2024.
GIRARDI, Rosário. Inteligência Artificial aplicada ao Direito. Rio de Janeiro: Clube dos Autores, 2020. Disponível em: https://books.google.com.br/books?hl=ptBR&lr=&id=PDF3EAAAQBAJ&oi=fnd&pg=PA2&dq=intelig%C3%AAncia+artificial+e+o+direito&ots=RBIQdNopYJ&sig=hCuJrBnEBoD29XYV5HqR2oj0Ao#v=onepage&q=intelig%C3%AAncia%20artificial%20e%20o%20direito&f=false. Acesso em: 01 jun. 2024.
KASPERKEVIC, Jana. Google says sorry for racist auto-tag in photo app. The Guardian. [s.l.], 1 jul. 2015, 18h52. Disponível em: https://www.theguardian.com/technology/2015/jul/01/google-sorry-racist-auto-tag-photo-app. Acesso em: 20 nov. 2024.
MACHADO, Daniela. Precisamos falar sobre discriminação algoritmica. Instituto Palavra Aberta. São Paulo, 14 nov. 2023. Disponível em: https://www.palavraaberta.org.br/artigo/precisamos-falar-sobre-discriminacao-algoritmica. Acesso em: 23 jul. 2024.
NAÇÕES UNIDAS. Declaração Universal dos Direitos Humanos. 1948. Disponível em: https://www.un.org/en/about-us/universal-declaration-of-human-rights. Acesso em: 31 jul. 2024.
ORGANIZAÇÃO DOS ESTADOS AMERICANOS. Convenção Interamericana contra o Racismo, a Discriminação Racial e formas correlatas de Intolerância. 2013. Disponível em: https://www.oas.org/en/sla/dil/inter_american_treaties_A-68_racism. Acesso em: 31 jul. 2024.
PAIVA, Maria Lucia Fabbres. Os direitos da personalidade do idoso. 2005, 224 f. Dissertação (Mestrado em Direito). Pontifícia Universidade Católica de São Paulo, São Paulo, 2005. Disponível em: https://repositorio.pucsp.br/handle/handle/7491. Acesso em: 25 jul. 2024.
RUSSEL, Stuart; NORVIG, Peter. Inteligência Artificial. Tradução: Regina Célia Simille. Rio de Janeiro: Elsevier, 2013.
SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais. Porto Alegre: Livraria do Advogado, 1998.
SMOLENAARS, Claudine Costa; GONÇALVES, Thaís Leal Vieira. A tardia responsabilidade civil na discriminação algorítmica e a regulação estatal para sistemas de governança e compliance. Revista da Faculdade de Direito. Fortaleza, v. 42, n. 2, p. 59-76, jul./dez. 2021. Disponível em: www.revistadireito.ufc.br/index.php/revdir/article/view/1292. Acesso em: 20 jul. 2024.
SCHWAB, Klaus. A Quarta Revolução Industrial. São Paulo: EDIPRO, 2016.
SZANIAWSKI, Elimar. Direitos de Personalidade e sua tutela. 2. ed. São Paulo. Revista dos Tribunais. 2005.
ZANON, José Carlos. Direito à proteção dos dados pessoais. São Paulo: Revista dos Tribunais, 2013
Copyright (c) 2024 Luiza Schiavon Girolimetto, Cleber Sanfelici Otero
This work is licensed under a Creative Commons Attribution 4.0 International License.
Os autores que publicam nesta revista mantém os direitos autorais sobre os trabalhos publicados e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Creative Commons Attribution 4.0 International License que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista. Os Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
Os autores declaram que este artigo é original, de autoria própria, que nunca foi foi publicado em qualquer outro veículo, em português ou outro idioma, no formato impresso ou eletrônico (incluindo páginas da Internet, grupos de discussão ou outros modelos de boletim eletrônico), e não está em avaliação em outro veículo ou casa editorial.
Declaram, ainda, que este artigo não contém violação a direito autoral ou qualquer outro direito de terceiro, tampouco possui material de natureza ilegal e exoneram a REVISTA JURÍDICA DIKÉ DO DEPARTAMENTO DE CIÊNCIAS JURÍDICAS DA UNIVERSIDADE ESTADUAL DE SANTA CRUZ E SUA EDITORA EDITUS em face de quaisquer reclamações e despesas (incluindo custos e despesas legais) causadas por qualquer ruptura desta e de outras garantias.
Autorizam a REVISTA JURÍDICA DIKÉ DO DEPARTAMENTO DE CIÊNCIAS JURÍDICAS DA UNIVERSIDADE ESTADUAL DE SANTA CRUZ E SUA EDITORA EDITUS a proceder a modificações e correções para a adequação do texto às normas da publicação e informam que leram e estão cientes destes termos e das diretrizes para os autores.