Algoritmização da justiça criminal: uma análise do aplicativo Compas e seus vieses

Resumen

O presente estudo analisa o funcionamento do software COMPAS, aplicativo que concede notas a infratores penais para subsidiar decisão judicial sobre a prisão ou liberdade provisória, referência a partir da qual se busca descrever como se dá atualmente a relação entre a inteligência artificial e o Direito, explicar o que é a justiça algorítmica e avaliar a existência de vieses, mesmo em sistemas supostamente objetivos e neutros. Utiliza-se metodologia de investigação do tipo bibliográfica-documental, com pesquisa pura de abordagem qualitativa e quantitativa, descritiva e exploratória quanto aos objetivos. Conclui-se que o uso de algoritmos exigirá familiaridade com conceitos da lógica, da matemática e da estatística para fundamentar ou se contrapor às decisões, que é possível observar vieses nos softwares ainda que respeitem os parâmetros da justiça algorítmica, e que a reprodução desses vieses em diferentes cenários indica que essas distorções estão fora dos algoritmos, podendo representar uma manifestação de racismo estrutural.