Discriminação algorítmica e sua implicação nos direitos da personalidade e nos direitos humanos na era da inteligência artificial

Palavras-chave: Segurança cibernética, Desigualdade tecnológica, Tecnologia da informação, Sociedade digital

Resumo

O presente artigo tem como objetivo proporcionar uma visão jurídica inovadora sobre as novas tecnologias, com ênfase na tecnologia algorítmica, e suas principais implicações nos direitos humanos e nos direitos da personalidade. O tema é pesquisado e apresentado consoante o método dedutivo, em análise procedida conforme uma pesquisa qualitativa e de revisão teórica, com a utilização dos métodos de procedimento histórico e comparativo. O estudo aborda, inicialmente, a evolução tecnológica e as transformações sociais que culminaram na sociedade digital contemporânea. De igual forma, são analisados os conceitos que envolvem a discriminação algorítmica, com a demonstração de como os algoritmos podem perpetuar e até mesmo ampliar preconceitos e desigualdades existentes. Diferentes abordagens jurídicas serão comparadas no presente artigo, proporcionando a reflexão sobre quais lacunas devem ser preenchidas pela legislação. Há estudo de casos de discriminação algorítmica em diversas áreas, como mercado de trabalho e o acesso a serviços públicos, colocando em evidência as consequências para os direitos humanos e os direitos da personalidade. O estudo visa a promover a conscientização acadêmica sobre os riscos associados à discriminação algorítmica e a necessidade de maior transparência e responsabilidade jurídica diante do uso das tecnologias de inteligência artificial. 

Downloads

Não há dados estatísticos.

Biografia do Autor

Luiza Schiavon Girolimetto, UniCesumar

Mestranda em Ciências Jurídicas (modalidade bolsista) na instituição UniCesumar - Centro Universitário de Maringá; Bacharel no curso de Direito da instituição UniCesumar - Centro Universitário de Maringá; Formada em Gestão de Negócios Imobiliários na modalidade EAD da instituição UniCesumar - Centro Universitário de Maringá;

Cleber Sanfelici Otero, UniCesumar

Doutor (2011) e Mestre (2002) em Direito Constitucional pelo Programa de Pós-graduação stricto sensu Sistema Constitucional de Garantia de Direitos da ITE, Bauru/SP. Graduado em Direito (1996) pela Faculdade de Direito da USP, São Paulo/SP. Professor no Curso de Graduação em Direito e no Programa de Mestrado e Doutorado em Ciências Jurídicas da UNICESUMAR, Maringá/PR. Professor no Curso de Especialização em Direito Previdenciário da UEL, Londrina/PR. Pesquisador Bolsista do Instituto Cesumar de Ciência, Tecnologia e Inovação (ICETI). Ex-Procurador da Fazenda Nacional (2000 e 2001). Juiz Federal desde 2001.

Referências

ALENCAR, Ana Catarina de. Inteligência Artificial, ética e direito: guia prático para entender o novo mundo. São Paulo: Saraiva, 2022.

ADOROCINEMA. Minority Report, a nova lei. Sinopse. 2024. Disponível em: https://www.adorocinema.com/filmes/filme-34917/. Acesso em: 24 jul. 2024.

CASTELLS, Manuel. A sociedade em rede. Tradução: Roneide Venâncio Majer. 25. ed. Rio de Janeiro. Paz e Terra, 2023.

CÂMARA, Marco Sérgio Andrade Leal. Inteligência Artificial: representação de conhecimento. Coimbra, Departamento de Engenharia Informática da Faculdade de Ciências e Tecnologia da Universidade de Coimbra. Disciplina de Comunicação Técnica Profissional, 2000/2001. Disponível em: https://student.dei.uc.pt/~mcamara/artigos/inteligencia_artificial.pdf. Acesso em: 20 nov. 2024.

CAMIN, Gustavo Vinícius. Teoria dos direitos fundamentais: primeiras reflexões. Revista Jurídica Cesumar. Maringá, PR, v. 15, n. 1, p. 41-54, jan./jun. 2015. Disponível em: https://periodicos.unicesumar.edu.br/index.php/revjuridica/article/view/3887/2581. Acesso em: 15 out. 2024.

CHAMORRO-PREMUZIC, Tomas. I, Human. AI, automation, and the quest to reclaim what make us unique. Boston: Havard Business Review Press, 2023.

DATA SCIENCE ACADEMY. Deep Learning Book. [s.l.], 2022, Capítulo 2. Disponível em: https://www.deeplearningbook.com.br/uma-breve-historia-das-redes-neurais-artificiais/. Acesso em: 22 jun. 2023.

EHRHARDT JÚNIOR, Marcos; SILVA, Gabriela Buarque Pereira. Diretrizes éticas para a inteligência artificial confiável na União Europeia e a regulação jurídica no Brasil. Revista IBERC. Belo Horizonte, MG, v. 3, n. 3, p. 1-28, 2020. Disponível em: https://revistaiberc.responsabilidadecivil.org/iberc/article/view/133. Acesso em: 20 nov. 2024.

FRANÇA NETTO, Milton Pereira de; EHRHARDT, Marcos. Os riscos da discriminação algorítmica na utilização de aplicações de inteligência artificial no cenário brasileiro. Revista Jurídica Luso-brasileira. Lisboa, ano 8, n. 3, p. 1271-1318, 2022. Disponível em: https://www.cidp.pt/revistas/rjlb/2022/3/2022_03_1271_1318.pdf. Acesso em: 22 jul. 2024.

FELICIANO, Guilherme Guimarães; NASPOLINI, Samyra Haydêe dal Farra; FOGAROLLI FILHO, Paulo Roberto; SOUZA, Devanildo de Amorim. O capitalismo de vigilância e seus efeitos: Discriminação algorítmica e a reificação humana. Revista de Direito Brasileira. Florianópolis, SC, v. 33, n. 12, p. 309-332, set./dez. 2022. Disponível em: https://www.indexlaw.org/index.php/rdb/article/view/9167. Acesso em: 22 jul. 2024.

GIRARDI, Rosário. Inteligência Artificial aplicada ao Direito. Rio de Janeiro: Clube dos Autores, 2020. Disponível em: https://books.google.com.br/books?hl=ptBR&lr=&id=PDF3EAAAQBAJ&oi=fnd&pg=PA2&dq=intelig%C3%AAncia+artificial+e+o+direito&ots=RBIQdNopYJ&sig=hCuJrBnEBoD29XYV5HqR2oj0Ao#v=onepage&q=intelig%C3%AAncia%20artificial%20e%20o%20direito&f=false. Acesso em: 01 jun. 2024.

KASPERKEVIC, Jana. Google says sorry for racist auto-tag in photo app. The Guardian. [s.l.], 1 jul. 2015, 18h52. Disponível em: https://www.theguardian.com/technology/2015/jul/01/google-sorry-racist-auto-tag-photo-app. Acesso em: 20 nov. 2024.

MACHADO, Daniela. Precisamos falar sobre discriminação algoritmica. Instituto Palavra Aberta. São Paulo, 14 nov. 2023. Disponível em: https://www.palavraaberta.org.br/artigo/precisamos-falar-sobre-discriminacao-algoritmica. Acesso em: 23 jul. 2024.

NAÇÕES UNIDAS. Declaração Universal dos Direitos Humanos. 1948. Disponível em: https://www.un.org/en/about-us/universal-declaration-of-human-rights. Acesso em: 31 jul. 2024.

ORGANIZAÇÃO DOS ESTADOS AMERICANOS. Convenção Interamericana contra o Racismo, a Discriminação Racial e formas correlatas de Intolerância. 2013. Disponível em: https://www.oas.org/en/sla/dil/inter_american_treaties_A-68_racism. Acesso em: 31 jul. 2024.

PAIVA, Maria Lucia Fabbres. Os direitos da personalidade do idoso. 2005, 224 f. Dissertação (Mestrado em Direito). Pontifícia Universidade Católica de São Paulo, São Paulo, 2005. Disponível em: https://repositorio.pucsp.br/handle/handle/7491. Acesso em: 25 jul. 2024.

RUSSEL, Stuart; NORVIG, Peter. Inteligência Artificial. Tradução: Regina Célia Simille. Rio de Janeiro: Elsevier, 2013.

SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais. Porto Alegre: Livraria do Advogado, 1998.

SMOLENAARS, Claudine Costa; GONÇALVES, Thaís Leal Vieira. A tardia responsabilidade civil na discriminação algorítmica e a regulação estatal para sistemas de governança e compliance. Revista da Faculdade de Direito. Fortaleza, v. 42, n. 2, p. 59-76, jul./dez. 2021. Disponível em: www.revistadireito.ufc.br/index.php/revdir/article/view/1292. Acesso em: 20 jul. 2024.

SCHWAB, Klaus. A Quarta Revolução Industrial. São Paulo: EDIPRO, 2016.

SZANIAWSKI, Elimar. Direitos de Personalidade e sua tutela. 2. ed. São Paulo. Revista dos Tribunais. 2005.

ZANON, José Carlos. Direito à proteção dos dados pessoais. São Paulo: Revista dos Tribunais, 2013

Publicado
2024-12-30