O uso da inteligência artificial na predição do feminicídio e o direito à explicabilidade e à autodeterminação informativa
DOI:
https://doi.org/10.5281/zenodo.17058373Palavras-chave:
proteção de dados, privacidade, sigilo médico, feminicídio, opacidadeResumo
O presente artigo examina criticamente os limites éticos e jurídicos do uso da inteligência artificial na formulação de políticas públicas voltadas à predição de feminicídios, com especial atenção aos riscos impostos à privacidade, ao sigilo médico e à autodeterminação informativa. Toma-se como estudo de caso o projeto desenvolvido por Vital Strategies e FrameNet Brasil, que analisou, sem consentimento expresso das pacientes, registros médicos de mulheres atendidas na rede pública de saúde no Recife. A partir dessa experiência concreta, discute-se a opacidade algorítmica, os usos secundários dos dados sensíveis e os efeitos da vigilância digital sobre corpos vulnerabilizados. O texto também investiga a tendência de relativização de direitos fundamentais sob o discurso da segurança pública e demonstra como tecnologias que se apresentam como soluções de proteção podem, na prática, reforçar estruturas de poder, criminalização e controle social. A pesquisa propõe, ao final, uma reconfiguração normativa e institucional que resgate os princípios da confidencialidade, da transparência e da dignidade humana diante da tecnificação crescente das políticas públicas de segurança e saúde.
Downloads
Referências
Referências bibliográficas
AGAMBEN, Giorgio. Estado de exceção. Trad. Iraci D. Poleti. São Paulo: Boitempo, 2004.
AMBROSIO, Gleiner Pedroso Ferreira; BARBOSA, André Luis Jardini. O paradigma da implantação da inteligência artificial na segurança pública brasileira: regulação versus eficiência. Revista de Estudos Jurídicos da UNESP, Franca, v. 28, n. 48, p. 73-92, 2024. Disponível em: [https://periodicos.franca.unesp.br/index.php/estudosjuridicosunesp/article/view/4398/3595]. Acesso em: 11.03.2025.
ANGWIN, Julia et al. Machine Bias. ProPublica, 2016.
ARRIETA, Alejandro Barredo et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, v. 58, 2020, p. 82-115. Disponível em: [https://doi.org/10.1016/j.inffus.2019.12.012]. Acesso em: 27.03.2025.
BAUMAN, Zygmunt. Vigilância líquida: diálogos com David Lyon. Trad. Carlos Alberto Medeiros. Rio de Janeiro: Zahar, 2013.
BELIATO, Araceli Martins. Inteligência de Segurança Pública e defesa dos Direitos Humanos: lições do julgamento do Caso CAJAR vs. Colômbia pela Corte Interamericana de Direitos Humanos. In: BELIATO, Araceli Martins et al. (Orgs.). Inteligência policial. Leme: Mizuno, 2025b, p. 63-94.
BELIATO, Araceli Martins. Persecução penal e novas tecnologias. In: JORGE, Higor Vinicius Nogueira (Org.). Direito processual penal para carreiras policiais. São Paulo: JusPodivm, 2025a, p. 67-90.
BIGO, Didier. Security and Immigration: Toward a Critique of the Governmentality of Unease. Alternatives, v. 27, Special Issue, p. 63-92, 2002.
BUARQUE, Gabriela; EHRHARDT JÚNIOR, Marcos. Direito fundamental à proteção de dados pessoais: entre autodeterminação e proporcionalidade. Revista de Direito, Governança e Novas Tecnologias, n. 24, p. 73-96, jul.-dez. 2023. Disponível em: [https://revistas.unilasalle.edu.br/index.php/dialogos/article/view/12487]. Acesso em: 30.03.2025.
BUOLAMWINI, J.; GEBRU, T. Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, v. 81, p. 77-91, 2018. Disponível em: [https://doi.org/10.1145/3287560.3287590]. Acesso em: 27.03.2025.
BURRELL, Jenna. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1, 2016. Disponível em: [https://doi.org/10.1177/2053951715622512]. Acesso em: 07.03.2025.
CHANG, Yan. Reflexões sobre a proteção penal de dados pessoais sob a Lei de Proteção de Informações Pessoais. Revista Estudos Institucionais, v. 9, n. 1, p. 15-33, jan.-abr. 2023. Disponível em: [https://www.estudosinstitucionais.com/REI/article/view/744]. Acesso em: 30.03.2025.
CORTE INTERAMERICANA DE DIREITOS HUMANOS (Corte IDH). Caso Miembros de la Corporación Colectivo de Abogados “José Alvear Restrepo” vs. Colombia. Sentencia de 18 de octubre de 2023 (excepciones preliminares, fondo, reparaciones y costas). San José: Corte Interamericana de Direitos Humanos, 2023. Disponível em: [https://www.corteidh.or.cr/docs/casos/articulos/seriec_506_esp.pdf]. Acesso em: 16.03.2025.
COZMAN, Fabio Gagliardi; CORTESE, João Figueiredo Nobre. Inteligência artificial em pleno verão. [S.l.], 2019.
COZMAN, Fabio Gagliardi; NERI, Hugo. O que, afinal, é Inteligência Artificial? In: COZMAN, Fabio Gagliardi; PLONSKI, Guilherme Ary; NERI, Hugo (Orgs.). Inteligência artificial: avanços e tendências. São Paulo: Instituto de Estudos Avançados da Universidade de São Paulo, 2021.
DOSHI-VELEZ, F.; KIM, B. Towards a rigorous science of interpretable machine learning. arXiv preprint, arXiv:1702.08608, Cornell University, 2017. Disponível em: [https://arxiv.org/abs/1702.08608]. Acesso em: 28.03.2025.
ESTEVA, A. et al. A guide to deep learning in healthcare. Nature Medicine, v. 25, n. 1, p. 24-29, 2019. [https://doi.org/10.1038/s41591-018-0316-z].
FEDERICI, Silvia. Calibã e a bruxa: mulheres, corpo e acumulação primitiva. São Paulo: Elefante, 2017.
FERGUSON, A. G. The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement. Oxford: Oxford University Press, 2019. Disponível em: [https://openscholarship.wustl.edu/cgi/viewcontent.cgi?article=6306&context=law_lawreview]. Acesso em: 27.03.2025.
FOLHA DE SÃO PAULO. IA lê prontuários e detecta violência contra mulher 92 dias antes de caso se agravar. São Paulo, 21 dez. 2024. Disponível em: [https://www1.folha.uol.com.br/equilibrioesaude/2024/12/ia-le-prontuarios-e-detecta-violencia-contra-mulher-92-dias-antes-de-caso-se-agravar.shtml]. Acesso em: 03.03.2025.
FÓRUM BRASILEIRO DE SEGURANÇA PÚBLICA. Modelos de inteligências artificiais e a propensão ao autoritarismo algorítmico. Renato Sérgio de Lima et al. (Orgs.). São Paulo: FBSP, 2025. (Informe de Análise nº 04). Disponível em: [https://publicacoes.forumseguranca.org.br/items/661a8833-c041-4d-36-a1d1-d180b996a28c]. Acesso em: 10.03.2025.
FOUCAULT, Michel. Em defesa da sociedade: curso no Collège de France (1975- 1976). Trad. Maria Ermantina Galvão. São Paulo: Martins Fontes, 2005.
HARARI, Yuval Noah. 21 lições para o século 21. Trad. Paulo Geiger. 1. ed. São Paulo: Companhia das Letras, 2018.
KNUTH, Donald Ervin. The art of computer programming. v. 1. Fundamental algorithms. 3. ed. Boston, MA, 1997. Disponível em: [http://broiler.astrometry.net/~kilian/The_Art_of_Computer_Programming%20-%20Vol%201.pdf]. Acesso em: 20.03.2025.
KROLL, Joshua et al. Accountable algorithms. University of Pennsylvania Law Review, v. 165, 2017. Disponível em: [https://scholarship.law.upenn.edu/cgi/viewcontent.cgi?article=9570&context=penn_law_review]. Acesso em: 12.03.2025.
LEPRI, Bruno et al. Fair, Transparent, and Accountable Algorithmic Decision-making Processes. Philosophy & Technology, v. 31, n. 4, p. 611-627, dez. 2018. Disponível em: [https://datapopalliance.org/wp-content/uploads/2020/09/Fair-Transparent-and-Accountable-Algorithmic-Decision-making-Processes.pdf]. Acesso em: 11.03.2025.
LUM, K.; ISAAC, W. To predict and serve? Significance, v. 17, n. 5, p. 14-19, 2020. [https://doi.org/10.1038/s41599-020-00593-9].
MENDES, Laura Schertel Ferreira. Autodeterminação informativa: a história de um conceito. Pensar, Fortaleza, v. 25, n. 4, p. 1-18, out.-dez. 2020.
MORAES, Alexandre de. Direito constitucional. 41. ed. São Paulo: Atlas, 2025.
MORAES, Maurício Zanoide de. Opacidade da IA como impeditivo de transparência e controle democrático da investigação criminal. Colóquio Luso-Brasileiro Direito Penal, Tecnologia e IA. Colégio da Trindade – Faculdade de Direito da Universidade de Coimbra, dias 26 e 27 de outubro de 2023. Youtube. Disponível em: [https://www.youtube.com/watch?v=0hnqgBHPkXw]. Acesso em: 11.03.2025.
MORAES, Maurício Zanoide de. Processo criminal transformativo: modelo criminal e sistema processual não violentos. Coord. da coleção Cláudio Brandão. 1. ed. Belo Horizonte, São Paulo: D’Plácido, 2022. (Ciência criminal contemporânea; v. 2).
MOTTA, Júlia. IA auxilia médicos e detecta violência contra mulher 92 dias antes de caso se agravar. Fórum, 21 dez. 2024. Disponível em: [https://revistaforum.com.br/saude/2024/12/21/ia-auxilia-medicos-detecta-violncia-contra-mulher-92-dias-antes-de-caso-se-agravar-171407.html]. Acesso em: 03.03.2025.
MURDOCH, Blake. Privacy and artificial intelligence: challenges for protecting health information in a new era. BMC Medical Ethics, n. 22, v. 122, 2021. [https://doi.org/10.1186/s12910-021-00687-3].
O TEMPO. IA lê prontuários e detecta violência contra mulher 92 dias antes de caso se agravar. Agências, Contagem-MG, 21 dez. 2024. Disponível em: [https://www.otempo.com.br/brasil/2024/12/21/ia-le-prontuarios-edetecta-violencia-contra-mulher-92-dias-antes-de-caso-se-agravar]. Acesso em: 02.03.2025.
OBERMEYER, Ziad et al. Dissecting racial bias in an algorithm used to manage the health of populations. Science, v. 366, Issue 6464, 2019. Disponível em: [https://www.science.org/doi/10.1126/science.aax2342]. Acesso em: 13.03.2025.
OLIVEIRA, Letícia Lé. Inteligência Artificial e desigualdade social: o impacto do colonialismo digital nas políticas públicas. Internet & Sociedade, v. 5, n. 1, p. 148-167, jul. 2024.
PHAM, H. et al. DeepCare: A deep dynamic memory model for predictive medicine. In: Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM, 2017. p. 1485-1494. [https://doi.org/10.1145/2783258.2788613].
RATCLIFFE, J. H. Policing and machine learning. Policing: A Journal of Policy and Practice, v. 13, n. 2, p. 215-221, 2019. [https://doi.org/10.1093/police/pay073].
RIBEIRO, Marco Tulio; SINGH, Sameer; GUESTRIN, Carlos. “Why Should I Trust You?”: Explaining the Predictions of Any Classifier. In: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM, 2016. p. 1135-1144. [https://doi.org/10.1145/2939672.2939778].
RICHARDSON, R.; SCHULTZ, J.; CRAWFORD, K. Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice. New York University Law Review Online, 2019. Disponível em: [https://ssrn.com/abstract=3370129]. Acesso em: 27.03.2025.
RUSSELL, Stuart; NORVIG, Peter. Artificial intelligence: a modern approach. 4. ed. Hoboken: Pearson, 2021.
SARLET, Ingo Wolfgang. O STF e a proteção dos dados pessoais. Consultor Jurídico, 3 mar. 2025. Disponível em: [https://www.conjur.com.br/2025-mar-03/o-stf-e-a-protecao-dos-dados-pessoais/]. Acesso em: 15.03.2025.
SARLET, Ingo Wolfgang. Proteção de dados pessoais: para além da privacidade e autodeterminação informacional. Consultor Jurídico, 16 jul. 2021. Disponível em: [https://www.conjur.com.br/2021-jul-16/direitos-fundamentais-protecao-dados-alem-privacidade-autodeterminacao-informacional/?utm_source=chatgpt.com]. Acesso em: 15.03.2025.
SETZER, Valdemar W. Dado, informação, conhecimento e competência. Departamento de Ciência da Computação, Universidade de São Paulo. 25 maio 2015. Disponível em: [www.ime.usp.br/~vwsetzer]. Acesso em: 15.03.2025.
SOLOVE, Daniel J. The myth of the privacy paradox. George Washington Law Review, v. 89, n. 1, p. 1-51, 2020. [https://doi.org/10.2139/ssrn.3567521].
SOUSA, Natália; SUAREZ, Joana. Médicos quebram sigilo e denunciam mulheres por aborto. Profissionais de saúde se aproveitam da vulnerabilidade de pacientes e devem ser responsabilizados por isso. Terra/AzMina, 16 ago. 2023. Disponível em: [https://www.terra.com.br/nos/medicos-quebram-sigilo-e-denunciam-mulheres-por-aborto,362101de09f122ec9b370acf03b7baees9uikkt6.html]. Acesso em: 30.03.2025.
SOUSA, Susana Aires de. “Não fui eu, foi a máquina”: teoria do crime, responsabilidade e inteligência artificial. In: RODRIGUES, Anabela Miranda (Coord.). A inteligência artificial no direito penal. Coimbra, Portugal: Almedina, 2020.
SUPERIOR TRIBUNAL DE JUSTIÇA. Sexta Turma tranca ação penal por aborto ao ver quebra de sigilo profissional entre médico e paciente. Brasília, DF, 14 mar. 2023. Disponível em: [https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/2023/14032023-Sexta-Turma-tranca-acao-penal-por-aborto-ao-ver-quebra-de-sigilo-profissional-entre-medico-e-paciente.aspx]. Acesso em: 30.03.2025.
TELLES, Primonata Silva Brilhante. Inteligência artificial e polícia preditiva: limites e possibilidades. Boletim Científico ESMPU, Brasília, v. 20, n. 57, p. 247-268, jul.-dez. 2021. Disponível em: [https://escola.mpu.mp.br/publicacoescientificas/index.php/boletim/article/download/613/516/1896]. Acesso em: 11.03.2025.
TERESTCHENKO, Michel. O bom uso da tortura: ou como as democracias justificam o injustificável. Trad. Eduardo Brandão. São Paulo: WMF Martins Fontes, 2011.
TOPOL, E. J. High-performance medicine: the convergence of human and artificial intelligence. Nature Medicine, v. 25, n. 1, p. 44-56, 2019. [https://doi.org/10.1038/s41591-018-0300-7].
VAISHYA, R. et al. Artificial Intelligence (AI) applications for COVID-19 pandemic. Diabetes & Metabolic Syndrome: Clinical Research & Reviews, v. 14, n. 4, p. 337-339, 2020. [https://doi.org/10.1016/j.dsx.2020.04.012].
VALDIVIA, Ana; HYDE-VAAMONDE, Cari; GARCÍA MARCOS, Julián. Judging the algorithm: a case study on the risk assessment tool for gender-based violence implemented in the Basque Country. Patterns, v. 4, n. 6, 100838, 2023. [https://doi.org/10.1016/j.patter.2023.100838].
VIANEZ, Paula. IA auxilia médicos a identificarem violência contra mulher 92 dias antes. A Repórter, 23 jan. 2025. Disponível em: [https://areporter.com.br/ia-auxilia-medicos-a-identificarem-violencia-contra-mulher-92-dias-antes/]. Acesso em: 03.03.2025.
ZAVRŠNIK, A. Big Data, Crime and Social Control. ERA Forum, v. 20, p. 567-583, 2020. Disponível em: [https://link.springer.com/article/10.1007/s12027-020-00602-0]. Acesso em: 20.03.2025.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Trad. George Schlesinger. Rio de Janeiro: Intrínseca, 2021.
Legislação
BRASIL. Conselho Nacional de Justiça. Resolução nº 332 de 21.08.2020. Dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e dá outras providências. Brasília, DF, 2020. DJe/CNJ, nº 274, de 25.08.2020, p. 4-8. Disponível em: [https://atos.cnj.jus.br/atos/detalhar/3429]. Acesso em: 18.03.2025.
BRASIL. Conselho Nacional de Justiça. Resolução nº 615, de 11 de março de 2025. Estabelece diretrizes para o desenvolvimento, utilização e governança de soluções desenvolvidas com recursos de inteligência artificial no Poder Judiciário. Brasília, DF, 2025. Disponível em: [https://atos.cnj.jus.br/files/original1555302025031467d4517244566.pdf]. Acesso em: 05.08.2025.
BRASIL. Decreto nº 11.491, de 12 de abril de 2023. Promulga a Convenção sobre o Crime Cibernético, firmada pela República Federativa do Brasil, em Budapeste, em 23 de novembro de 2001. Brasília, DF, 2023. Disponível em: [https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2023/decreto/d11491.htm]. Acesso em: 17.03.2025.
BRASIL. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Altera a Constituição Federal para incluir a proteção de dados pessoais entre os direitos e garantias fundamentais e para fixar a competência privativa da União para legislar sobre proteção e tratamento de dados pessoais. Brasília, DF, 2022. Disponível em: [https://www.planalto.gov.br/ccivil_03/constituicao/Emendas/Emc/emc115.htm]. Acesso em: 06.08.2025.
BRASIL. Lei nº 10.778, de 24 de novembro de 2003. Estabelece a notificação compulsória, no território nacional, do caso de violência contra a mulher que for atendida em serviços de saúde públicos ou privados. Brasília, DF, 2003. Disponível em: [https://www.planalto.gov.br/ccivil_03/Leis/2003/L10.778.htm]. Acesso em: 06.03.2025.
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil (Marco Civil da Internet). Brasília, DF, 2014. Disponível em: [https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm]. Acesso em: 16.03.2025.
BRASIL. Lei nº 13.709, de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei nº 12.965, de 23 de abril de 2014 (Marco Civil da Internet). Brasília, DF, 2018. Disponível em: [http://www.planalto.gov.br/ccivil_03/_Ato2015-2018/2018/Lei/L13709.htm]. Acesso em: 16.03.2025.
BRASIL. Lei nº 13.931, de 10 de dezembro de 2019. Altera a Lei nº 10.778, de 24 de novembro de 2003, para dispor sobre a notificação compulsória dos casos de suspeita de violência contra a mulher. Brasília, DF, 2019. Disponível em: [https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2019/lei/L13931.htm]. Acesso em: 06.03.2025.
BRASIL. Lei nº 6.259, de 30 de outubro de 1975. Dispõe sobre a organização das ações de Vigilância Epidemiológica, sobre o Programa Nacional de Imunizações, estabelece normas relativas à notificação compulsória de doenças, e dá outras providências. Brasília, DF, 1975. Disponível em: [https://www.planalto.gov.br/ccivil_03/leis/l6259.htm]. Acesso em: 16.03.2025.
CONSELHO FEDERAL DE MEDICINA. Código de Ética Médica: Resolução CFM nº 2.217, de 27 de setembro de 2018, modificada pelas Resoluções CFM nº 2.222/2018 e 2.226/2019. Brasília: Conselho Federal de Medicina, 2019.
UNIÃO EUROPEIA. Regulamento (UE) 2016/679, de 27 de abril de 2016. Relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados (Regulamento Geral de Proteção de Dados). Jornal Oficial da União Europeia, L 119, 4 maio 2016. Disponível em: [https://eur-lex.europa.eu/legal-content/PT/TXT/PDF/?uri=CELEX%3A32016R0679]. Acesso em: 11.03.2025.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689, de 12 de julho de 2024. Estabelece regras harmonizadas sobre a inteligência artificial (AI Act) e altera determinados atos legislativos da União. Jornal Oficial da União Europeia, L 2.024/1689, 12 jul. 2024. Disponível em: [https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai]. Acesso em: 11.03.2025.
UNITED NATIONS (UN). High Commissioner for Human Rights. The right to privacy in the digital age. Geneva: UN, 4 Aug. 2022. Disponível em: [https://digitallibrary.un.org/record/3985679?ln=en&v=pdf]. Acesso em: 06.08.2025.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Os direitos autorais dos artigos publicados são do autor, com direitos do periódico sobre a primeira publicação.
Os autores somente poderão utilizar os mesmos resultados em outras publicações indicando claramente este periódico como o meio da publicação original. Se não houver tal indicação, considerar-se-á situação de autoplágio.
Portanto, a reprodução, total ou parcial, dos artigos aqui publicados fica sujeita à expressa menção da procedência de sua publicação neste periódico, citando-se o volume e o número dessa publicação. Para efeitos legais, deve ser consignada a fonte de publicação original.
