Compreendendo algoritmos aplicados ao sistema de justiça criminal – Ilegibilidade, acesso, compreensão, verdade e computabilidade no ‘eu’ identificado por algoritmos
Palavras-chave:
Sistema de Justiça Criminal, Algoritmos, Ilegibilidade, Fluxo de informações, Computabilidade do euResumo
Este artigo parte do problema da opacidade e da dificuldade de compreensão dos algoritmos no âmbito da segurança pública e da justiça criminal. A simples compreensão descritiva do que consiste um algoritmo ou até mesmo o mero acesso ao “interior” de um algoritmo tampouco parece contribuir para uma compreensão efetiva das possíveis utilizações e dos efeitos dessa tecnologia. Muito tem se falado sobre algoritmos e sua previsibilidade, mas pouco se discute que sentidos podem a eles ser atribuídos, como efetivamente acessá-los, e como podem ser enfim compreendidos. É o que se pretende abordar neste artigo. Seu objeto não são os algoritmos em si, mas a compreensão que pode ser atribuída a eles. Metodologicamente, parte-se de conceitos como ilegibilidade e fluxo oculto de informações, elementos já existentes nos estudos sobre documentos do Estado. Em seguida, pela revisão de literatura especializada, são abordadas as seguintes questões: o que é algoritmo? É possível compreender um algoritmo? É possível acessar um algoritmo? Quão verdadeiros são os resultados de um algoritmo? O eu é computável?
Downloads
Referências
ARENDT, H. A condição Humana. 11. ed. Rio de Janeiro: Forense Universitária, 2011. 474 p.
BRUNO, F. Visões maquínicas da cidade maravilhosa: do centro de operações do Rio à Vila Autódromo. In: BRUNO, F. et al. (Org.). Tecnopolíticas da vigilância: perspectivas da margem. São Paulo. Boitempo, 2018. p. 239-256.
BURRELL, J. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1. jan. /jun.2016. DOI: 10.1177/2053951715622512. Disponível em: [journals.sagepub.com/doi/full/10.1177/2053951715622512]. Acesso em: 30.03.2021.
CHAUI, M. Experiência do pensamento: Ensaios sobre a obra de Merleau-Ponty. São Paulo: Martins Fontes, 2012.
CUSTERS, B. Data Dilemmas in the Information Society: Introduction and Overview In: Discrimination and Privacy in the Information Society. In: CUSTERS B. et al. (Org). Data Mining and Profiling in Large Databases. Berlim: Editora Springer, 2013. p. 03-26.
DAS, V.; POOLE, D. State and its margins. In: DAS, V. POOLE, D. (Org). Anthropology in the margins of the state. 1st ed. Santa Fe: School of American Research Press, 1991. p. 3-34.
DAS, V. The signature of the State: the paradox of illegibility. In: DAS, V.; POOLE, D. (org). Anthropology in the margins of the state. 1st ed. Santa Fe: School of American Research Press, 1991. p. 225-252.
DEUS GARCIA, R. Tecnologia e gestão da prova nos crimes de drogas. Belo Horizonte: Editora D’Plácido, 2017. 322 p.
DONEDA, D.; ALMEIDA, V. A. F. O que é governança por algoritmos? In: BRUNO, Fernanda et al. Tecnopolíticas da vigilância: perspectivas da margem. São Paulo: Boitempo, 2018. p. 141-148.
DOURISH, P. Algorithms and their others: Algorithmic culture in context. Big Data & Society, v. 3, n. 2. Dec. 2016. DOI: 10.1177/2053951716665128. Disponível em: [journals.sagepub.com/doi/10.1177/2053951716665128]. Acesso em: 30.03.2021
DUARTE, E. C. P.; MURARO, M.; SILVA, M. L.; DEUS GARCIA, R.. Quem é o suspeito do crime de tráfico de drogas? Anotações sobre a dinâmica dos preconceitos raciais e sociais na definição das condutas de usuário e traficante pelos policiais militares nas cidades de Brasília, Curitiba e Salvador. In: FIGUEIREDO, I. S. (Org.). Segurança pública e direitos humanos: temas transversais. Brasília: Ministério da Justiça (SENASP), 2014. v. 5. p. 81-120.
ESLAMI , M. et al. User Attitudes towards Algorithmic Opacity and Transparency in Online Reviewing Platforms. In: CHI Conference on Human Factors in Computing Systems Proceedings, 2019, Scotland Uk, Glasgow. Disponível em: [https://doi.org/10.1145/3290605.3300724]. Acesso em: 30.03.2021.
EUBANKS, V. Automating inequality: How high-tech tools profile, police, and punish the poor. New Ypork: St. Martin's Press, 2015. 260 p.
FARIAS, J. Fuzil, caneta e carimbo: notas sobre burocracia e tecnologias de governo. Confluências: revista interdisciplinar de sociologia e direito, v. 17, n. 3, p. 75-91, 2015. Disponível em: [periodicos.uff.br/confluencias/article/view/34502]. Acesso em: 30.03.2021.
FERGUSON, A. G.; LOGAN, W. A. Policing Criminal Justice Data. Minnesota Law Review, v. 101, n. 2, p. 541-616, 2016.
FERGUSON, A. G. The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement. 1st ed. New York: New York University Press, 2017. 272 p.
FOUCAULT, M. A verdade e as formas jurídicas. 4. ed. Rio de Janeiro: Nau Editora, 2005. 160 p.
GAZETAONLINE. Homem é preso no Carnaval após reconhecimento facial na Bahia. A Gazeta, 06 mar. 2019. Disponível em: [www.gazetaonline.com.br/noticias/brasil/2019/03/homem-e-preso-no-carnaval-apos-reconhecimento-facial-na-bahia-1014170960.html]. Acesso em: 30.03.2021.
GOMES, P. C. C. O Lugar do Olhar. Rio de Janeiro: Bertrand Brasil, 2013.
HILDEBRANDT, M. Privacy as Protection of the Incomputable Self: From Agnostic to Agonistic Machine Learning. Theoretical Inquiries in Law, v. 20, n. 1, p. 83-121, 2019.
HARWELL, Drew. Doorbell-camera firm ring has partnered with 400 police forces, extending surveillance concerns. The Washington Post, 28 aug. 2019. Disponível em: [www.washingtonpost.com/technology/2019/08/28/doorbell-camera-firm-ring-has-partnered-with-police-forces-extending-surveillance-reach/]. Acesso em: 30.03.2021.
HULL, M. S. Documents and Bureaucracy. Annu. Rev. Anthropol, v. 41, p. 251-267, 2012. DOI 10.1146/annurev.anthro.012809.104953. Disponível em: [www.annualreviews.org/doi/pdf/10.1146/annurev.anthro.012809.104953]. Acesso em: 30.03.2021.
LYON, D. Cultura da vigilância: envolvimento, exposição e ética na modernidade digital. In: BRUNO, Fernanda et al. Tecnopolíticas da vigilância: perspectivas da margem. São Paulo. Boitempo, 2018. p. 151-180.
KAMIRAN, F.; CALDERS, T. Data preprocessing techniques for classification without discrimination. Knowl Inf Syst, v. 33, n. 1, 2012. DOI 10.1007/s10115-011-0463-8. Disponível em: [doi.org/10.1007/s10115-011-0463-8]. Acesso em: 30.03.2021.
MERLEAU-PONTY, M. O algoritmo e o mistério da linguagem. In: MERLEAU-PONTY, M. A prosa do mundo. São Paulo: Cosac Naify, 2012. p. 193-213.
MERLEAU-PONTY, M. O olho e o espírito. São Paulo: Cosac Naify, 2013.
MISSE, M. O inquérito policial no Brasil: Resultados gerais de uma pesquisa. Dilemas: revista de estudos de conflito e controle social, v. 3, n. 7, p. 35-50, jan./fev./mar. 2010.
MISSE, M. O Papel do Inquérito Policial no Processo de Incriminação no Brasil: algumas reflexões a partir de uma pesquisa. Revista Sociedade e Estado, v. 26, n. 1, p. 15-27, jan./abr. 2011.
MOROZOV, E. Big Tech: A ascensão dos dados e a morte da política. São Paulo: Ubu Editora, 2018.
MUZZOPAPPA, E; VILLALTA, C. Los documentos como campo. Reflexiones teórico-metodológicas sobre un enfoque etnográfico de archivos y documentos estatales. Revista Colombiana de Antropología, v. 47, n. 1, p. 13-42, 2011.
NOBLE, S. U. Algorithms of oppression: how search engines reinforce racism. 1 st ed. New York: New York University Press, 2018.
OGLES, J. Google Tweak Stops 'Lesbian' Searches From Returning So Much Porn. Advocate, 07 aug. 2019. Disponível em: [www.advocate.com/news/2019/8/07/google-tweak-stops-lesbian-searches-returning-so-much-porn]. Acesso em: 30.03.2021.
PAUDYAL, P.; WONG, W. Algorithmic Opacity: Making Algorithmic Processes Transparent through Abstraction Hierarchy. Human Factors and Ergonomics Society, v. 62, n. 1, p. 192-196, 2018. DOI: 10.1177/1541931218621046. Disponível em: [journals.sagepub.com/doi/abs/10.1177/1541931218621046]. Acesso em: 30.03.2021.
PEDRESCHI, D.; RUGGIERI, Salvatore; TURINI, Franco. Discrimination-aware Data Mining. In: KDD '08: Proceedings of the 14th ACM SIGKDD international conference on Knowledge discovery and data minin, p. 560-568, aug. 2008. DOI 10.1145/1401890.1401959. Disponível em: [dl.acm.org/doi/10.1145/1401890.1401959]. Acesso em: 30.03.2021.
SEAVER, N. Algorithms as culture: Some tactics for the ethnography of algorithmic systems. Big Data & Society, v. 4, n. 2, jul./dec. 2017. DOI https://doi.org/10.1177/2053951717738104. Disponível em: [journals.sagepub.com/doi/10.1177/2053951717738104]. Acesso em: 30.03.2021.
STROBEL, M. Aspects of Transparency in Machine Learning. In: Proc. of the 18th International Conference on Autonomous Agents and Multiagent Systems (AAMAS 2019), Montreal: IFAAMAS, p. 13-17, may. 2019.
VIANNA, A. Introdução: fazendo e desfazendo inquietudes no mundo dos direitos. In: VIANNA, Adriana (Org.). O fazer e o desfazer dos direitos: experiências etnográficas sobre política, administração e moralidades. Rio de Janeiro: E-papers, 2013. p. 17-35.
VIBES, J. Watch: Hong Kong Protesters Use Lasers to Disrupt Facial Recognition. The mind Unleashed, 02 aug. 2019. Disponível em: [themindunleashed.com/2019/08/hong-kong-protesters-use-lasers-disrupt-facial-recognition.html]. Acesso em: 30.03.2021.
ZUBOFF, S. Big other: surveillance capitalism and the prospects of an information civilization. Journal of Information Technology, v. 30, n. 1, p. 75-89, mar. 2015. DOI 10.1057/jit.2015.5, 2015. Disponível em: [journals.sagepub.com/doi/10.1057/jit.2015.5]. Acesso em: 30.03.2021.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Os direitos autorais dos artigos publicados são do autor, com direitos do periódico sobre a primeira publicação.
Os autores somente poderão utilizar os mesmos resultados em outras publicações indicando claramente este periódico como o meio da publicação original. Se não houver tal indicação, considerar-se-á situação de autoplágio.
Portanto, a reprodução, total ou parcial, dos artigos aqui publicados fica sujeita à expressa menção da procedência de sua publicação neste periódico, citando-se o volume e o número dessa publicação. Para efeitos legais, deve ser consignada a fonte de publicação original.
