Explicabilidade e contraditório algorítimico nas decisões automatizadas no setor público: as decisões em processos apoiados em algoritmos e o problema da redução da realidade a dados

Resumo

Diante da produção cada vez mais crescente de decisões automatizadas, sejam intermediárias ou finais, durante processos administrativos ou judiciais, o presente trabalho tem enquanto problema de pesquisa: de que forma as decisões automatizadas, em observância ao princípio da publicidade, estão sendo explicadas, isto é, tem sua lógica de programação tornada pública e transparente? Além disso, em razão da necessidade de se respeitar o princípio do contraditório, uma vez que essas decisões automatizadas podem afetar direitos ou ocasionar obrigações, de que forma se tem garantido aos interessados o direito de influenciar o resultado do processamento algorítmico? O objetivo geral consiste em investigar de que forma as decisões automatizados no âmbito de processos administrativos e judiciais que se apoiam em algoritmos têm buscado oferecer explicabilidade em respeito ao princípio da publicidade, bem como de qual maneira tem sido oportunizado ao interesse a possibilidade de influenciar no resultado do processamento automatizado algorítmico dessas decisões, em respeito ao princípio do contraditório. A pesquisa adota o método dedutivo e enquanto técnicas de pesquisa será utilizada de consulta à legislação e à literatura científica, bem como à documentação indireta, especialmente, registros e informações relacionados a casos de utilização de algoritmos para produção de decisões automatizadas no âmbito de processos administrativos e judiciais setor público apoiados em algoritmos.  As conclusões desse trabalho demonstram a distinção entre algoritmo simples e algoritmo de Inteligência Artificial; as diferentes tipologias de decisões nos processos digitais: decisão humana, decisão híbrida e decisão algorítmica; o dever de explicabilidade quanto ao momento: prévia (ex ante), concomitante e posterior (ex post); e, por fim, a existência do dever de garantia ao contraditório algorítmico na legislação brasileira no âmbito de processos administrativos e judiciais apoiados em algoritmos.