Understanding algorithms in the criminal justice system – Illegibility, access, understanding, truth and computability of the ‘self’ in algorithms
Keywords:
Criminal Justice System, Algorithms, Illegibility, Informational flow, Computability of the selfAbstract
Opacity and technical complexity are major problems when it comes to understanding an algorithm, especially in the area of public security and criminal justice system. The mere technical description of what an algorithm is or even the simple access to the "interior" of an algorithm does not seem to contribute to an effective understanding of the possible uses and effects of this technology. Much has been said about algorithms and their function of predictability, but little is discussed about which meanings can be attributed to them, how to effectively access them, and how they can be finally understood. This is what we intend to address in this article. Its object is not the algorithms themselves, but the understanding that can be attributed to them. Methodologically, it starts with concepts such as illegibility and hidden information flow, elements that already exist in studies on documents of the State. Then, by reviewing the specialized literature, the following questions are addressed: What is an algorithm? Is it possible to understand an algorithm? Is it possible to access an algorithm? How true are the results of an algorithm? Can the self be computable?
Downloads
References
ARENDT, H. A condição Humana. 11. ed. Rio de Janeiro: Forense Universitária, 2011. 474 p.
BRUNO, F. Visões maquínicas da cidade maravilhosa: do centro de operações do Rio à Vila Autódromo. In: BRUNO, F. et al. (Org.). Tecnopolíticas da vigilância: perspectivas da margem. São Paulo. Boitempo, 2018. p. 239-256.
BURRELL, J. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1. jan. /jun.2016. DOI: 10.1177/2053951715622512. Disponível em: [journals.sagepub.com/doi/full/10.1177/2053951715622512]. Acesso em: 30.03.2021.
CHAUI, M. Experiência do pensamento: Ensaios sobre a obra de Merleau-Ponty. São Paulo: Martins Fontes, 2012.
CUSTERS, B. Data Dilemmas in the Information Society: Introduction and Overview In: Discrimination and Privacy in the Information Society. In: CUSTERS B. et al. (Org). Data Mining and Profiling in Large Databases. Berlim: Editora Springer, 2013. p. 03-26.
DAS, V.; POOLE, D. State and its margins. In: DAS, V. POOLE, D. (Org). Anthropology in the margins of the state. 1st ed. Santa Fe: School of American Research Press, 1991. p. 3-34.
DAS, V. The signature of the State: the paradox of illegibility. In: DAS, V.; POOLE, D. (org). Anthropology in the margins of the state. 1st ed. Santa Fe: School of American Research Press, 1991. p. 225-252.
DEUS GARCIA, R. Tecnologia e gestão da prova nos crimes de drogas. Belo Horizonte: Editora D’Plácido, 2017. 322 p.
DONEDA, D.; ALMEIDA, V. A. F. O que é governança por algoritmos? In: BRUNO, Fernanda et al. Tecnopolíticas da vigilância: perspectivas da margem. São Paulo: Boitempo, 2018. p. 141-148.
DOURISH, P. Algorithms and their others: Algorithmic culture in context. Big Data & Society, v. 3, n. 2. Dec. 2016. DOI: 10.1177/2053951716665128. Disponível em: [journals.sagepub.com/doi/10.1177/2053951716665128]. Acesso em: 30.03.2021
DUARTE, E. C. P.; MURARO, M.; SILVA, M. L.; DEUS GARCIA, R.. Quem é o suspeito do crime de tráfico de drogas? Anotações sobre a dinâmica dos preconceitos raciais e sociais na definição das condutas de usuário e traficante pelos policiais militares nas cidades de Brasília, Curitiba e Salvador. In: FIGUEIREDO, I. S. (Org.). Segurança pública e direitos humanos: temas transversais. Brasília: Ministério da Justiça (SENASP), 2014. v. 5. p. 81-120.
ESLAMI , M. et al. User Attitudes towards Algorithmic Opacity and Transparency in Online Reviewing Platforms. In: CHI Conference on Human Factors in Computing Systems Proceedings, 2019, Scotland Uk, Glasgow. Disponível em: [https://doi.org/10.1145/3290605.3300724]. Acesso em: 30.03.2021.
EUBANKS, V. Automating inequality: How high-tech tools profile, police, and punish the poor. New Ypork: St. Martin's Press, 2015. 260 p.
FARIAS, J. Fuzil, caneta e carimbo: notas sobre burocracia e tecnologias de governo. Confluências: revista interdisciplinar de sociologia e direito, v. 17, n. 3, p. 75-91, 2015. Disponível em: [periodicos.uff.br/confluencias/article/view/34502]. Acesso em: 30.03.2021.
FERGUSON, A. G.; LOGAN, W. A. Policing Criminal Justice Data. Minnesota Law Review, v. 101, n. 2, p. 541-616, 2016.
FERGUSON, A. G. The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement. 1st ed. New York: New York University Press, 2017. 272 p.
FOUCAULT, M. A verdade e as formas jurídicas. 4. ed. Rio de Janeiro: Nau Editora, 2005. 160 p.
GAZETAONLINE. Homem é preso no Carnaval após reconhecimento facial na Bahia. A Gazeta, 06 mar. 2019. Disponível em: [www.gazetaonline.com.br/noticias/brasil/2019/03/homem-e-preso-no-carnaval-apos-reconhecimento-facial-na-bahia-1014170960.html]. Acesso em: 30.03.2021.
GOMES, P. C. C. O Lugar do Olhar. Rio de Janeiro: Bertrand Brasil, 2013.
HILDEBRANDT, M. Privacy as Protection of the Incomputable Self: From Agnostic to Agonistic Machine Learning. Theoretical Inquiries in Law, v. 20, n. 1, p. 83-121, 2019.
HARWELL, Drew. Doorbell-camera firm ring has partnered with 400 police forces, extending surveillance concerns. The Washington Post, 28 aug. 2019. Disponível em: [www.washingtonpost.com/technology/2019/08/28/doorbell-camera-firm-ring-has-partnered-with-police-forces-extending-surveillance-reach/]. Acesso em: 30.03.2021.
HULL, M. S. Documents and Bureaucracy. Annu. Rev. Anthropol, v. 41, p. 251-267, 2012. DOI 10.1146/annurev.anthro.012809.104953. Disponível em: [www.annualreviews.org/doi/pdf/10.1146/annurev.anthro.012809.104953]. Acesso em: 30.03.2021.
LYON, D. Cultura da vigilância: envolvimento, exposição e ética na modernidade digital. In: BRUNO, Fernanda et al. Tecnopolíticas da vigilância: perspectivas da margem. São Paulo. Boitempo, 2018. p. 151-180.
KAMIRAN, F.; CALDERS, T. Data preprocessing techniques for classification without discrimination. Knowl Inf Syst, v. 33, n. 1, 2012. DOI 10.1007/s10115-011-0463-8. Disponível em: [doi.org/10.1007/s10115-011-0463-8]. Acesso em: 30.03.2021.
MERLEAU-PONTY, M. O algoritmo e o mistério da linguagem. In: MERLEAU-PONTY, M. A prosa do mundo. São Paulo: Cosac Naify, 2012. p. 193-213.
MERLEAU-PONTY, M. O olho e o espírito. São Paulo: Cosac Naify, 2013.
MISSE, M. O inquérito policial no Brasil: Resultados gerais de uma pesquisa. Dilemas: revista de estudos de conflito e controle social, v. 3, n. 7, p. 35-50, jan./fev./mar. 2010.
MISSE, M. O Papel do Inquérito Policial no Processo de Incriminação no Brasil: algumas reflexões a partir de uma pesquisa. Revista Sociedade e Estado, v. 26, n. 1, p. 15-27, jan./abr. 2011.
MOROZOV, E. Big Tech: A ascensão dos dados e a morte da política. São Paulo: Ubu Editora, 2018.
MUZZOPAPPA, E; VILLALTA, C. Los documentos como campo. Reflexiones teórico-metodológicas sobre un enfoque etnográfico de archivos y documentos estatales. Revista Colombiana de Antropología, v. 47, n. 1, p. 13-42, 2011.
NOBLE, S. U. Algorithms of oppression: how search engines reinforce racism. 1 st ed. New York: New York University Press, 2018.
OGLES, J. Google Tweak Stops 'Lesbian' Searches From Returning So Much Porn. Advocate, 07 aug. 2019. Disponível em: [www.advocate.com/news/2019/8/07/google-tweak-stops-lesbian-searches-returning-so-much-porn]. Acesso em: 30.03.2021.
PAUDYAL, P.; WONG, W. Algorithmic Opacity: Making Algorithmic Processes Transparent through Abstraction Hierarchy. Human Factors and Ergonomics Society, v. 62, n. 1, p. 192-196, 2018. DOI: 10.1177/1541931218621046. Disponível em: [journals.sagepub.com/doi/abs/10.1177/1541931218621046]. Acesso em: 30.03.2021.
PEDRESCHI, D.; RUGGIERI, Salvatore; TURINI, Franco. Discrimination-aware Data Mining. In: KDD '08: Proceedings of the 14th ACM SIGKDD international conference on Knowledge discovery and data minin, p. 560-568, aug. 2008. DOI 10.1145/1401890.1401959. Disponível em: [dl.acm.org/doi/10.1145/1401890.1401959]. Acesso em: 30.03.2021.
SEAVER, N. Algorithms as culture: Some tactics for the ethnography of algorithmic systems. Big Data & Society, v. 4, n. 2, jul./dec. 2017. DOI https://doi.org/10.1177/2053951717738104. Disponível em: [journals.sagepub.com/doi/10.1177/2053951717738104]. Acesso em: 30.03.2021.
STROBEL, M. Aspects of Transparency in Machine Learning. In: Proc. of the 18th International Conference on Autonomous Agents and Multiagent Systems (AAMAS 2019), Montreal: IFAAMAS, p. 13-17, may. 2019.
VIANNA, A. Introdução: fazendo e desfazendo inquietudes no mundo dos direitos. In: VIANNA, Adriana (Org.). O fazer e o desfazer dos direitos: experiências etnográficas sobre política, administração e moralidades. Rio de Janeiro: E-papers, 2013. p. 17-35.
VIBES, J. Watch: Hong Kong Protesters Use Lasers to Disrupt Facial Recognition. The mind Unleashed, 02 aug. 2019. Disponível em: [themindunleashed.com/2019/08/hong-kong-protesters-use-lasers-disrupt-facial-recognition.html]. Acesso em: 30.03.2021.
ZUBOFF, S. Big other: surveillance capitalism and the prospects of an information civilization. Journal of Information Technology, v. 30, n. 1, p. 75-89, mar. 2015. DOI 10.1057/jit.2015.5, 2015. Disponível em: [journals.sagepub.com/doi/10.1057/jit.2015.5]. Acesso em: 30.03.2021.
Downloads
Published
How to Cite
Issue
Section
License
Os direitos autorais dos artigos publicados são do autor, com direitos do periódico sobre a primeira publicação.
Os autores somente poderão utilizar os mesmos resultados em outras publicações indicando claramente este periódico como o meio da publicação original. Se não houver tal indicação, considerar-se-á situação de autoplágio.
Portanto, a reprodução, total ou parcial, dos artigos aqui publicados fica sujeita à expressa menção da procedência de sua publicação neste periódico, citando-se o volume e o número dessa publicação. Para efeitos legais, deve ser consignada a fonte de publicação original.
