Inteligência artificial e Direito Penal
das lacunas de responsabilidade às possibilidades de tutela da segurança algorítmica
DOI:
https://doi.org/10.5281/zenodo.18806775Palabras clave:
Inteligência artificial, Responsabilidade penal, Culpabilidade, Algoritmos, Tipos penaisResumen
Este artículo analiza los desafíos dogmáticos, filosóficos y normativos que plantean los sistemas de inteligencia artificial en el ámbito del Derecho Penal. Parte de la premisa de que, en el actual estadio tecnológico, los sistemas de IA no son susceptibles de responsabilidad penal, debido a la ausencia de una conducta significativa, culpabilidad y fines legítimos de la pena. A continuación, el artículo explora la posible responsabilidad penal de los actores humanos en el ecosistema sociotécnico de la IA, con énfasis en las dificultades de imputación en los delitos culposos, considerando la imprevisibilidad algorítmica. Finalmente, propone tres nuevos tipos penales destinados a proteger la seguridad algorítmica. La investigación reafirma el carácter subsidiario y protector del Derecho Penal, al tiempo que aboga por su apertura normativa frente a los riesgos contemporáneos derivados de la disrupción tecnológica.
Descargas
Citas
‘UM DOS MEUS MELHORES AMIGOS fez deepfake pornô contra mim’. G1, 10 fev. 2025. Disponível em: [https://g1.globo.com/tecnologia/noticia/2025/02/10/um-dos-meus-melhores-amigos-fez-deepfake-porno-contra-mim.ghtml]. Acesso em: 23.05.2025.
ANTUNES, Mário; RODRIGUES, Baltazar. Introdução à cibersegurança: a internet, os aspectos legais e a análise digital forense. Lisboa: FCA, 2018.
AUSTRÁLIA. Criminal Code Act 1995. Canberra: Australian Government, 1995. Disponível em: [https://legislation.gov.au/C2004A04868/2018-12-29/text]. Acesso em: 23.05.2025.
AYDIN, Kerem. What is an LLM Agent and how does it work? Medium, 9 jan. 2024. Disponível em: [https://medium.com/@aydinKerem/what-is-an-llm-agent-and-how-does-it-work-1d4d9e4381ca]. Acesso em: 13.02.2025.
BARROSO, Luís Roberto. A dignidade da pessoa humana no direito constitucional contemporâneo: a construção de um conceito jurídico à luz da jurisprudência mundial. Belo Horizonte: Fórum, 2013.
BECK, Ulrich. Sociedade de risco: rumo a uma outra modernidade. Trad. Sebastião Nascimento. São Paulo: 34, 2010.
BITENCOURT, Cezar Roberto. Tratado de direito penal. 25. ed. São Paulo: Saraiva, 2019. v. I.
BRANDÃO, Cláudio. Curso de direito penal: parte geral. Rio de Janeiro: Forense, 2010.
BRASIL. Projeto de Lei 146, de 2024. Altera o Decreto-Lei n. 2.848, de 7 de dezembro de 1940 (Código Penal), para estabelecer causa de aumento de pena para os crimes contra a honra e hipótese qualificada para o crime de falsa identidade, para quando houver a utilização de tecnologia de inteligência artificial para alterar a imagem de pessoa ou de som humano. Brasília: Senado Federal, 2024c. Disponível em: [https://congressonacional.leg.br/materias/materias-bicamerais/-/ver/pl-146-2024]. Acesso em: 13.05.2025.
BRASIL. Projeto de Lei 2.338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília: Senado Federal, 2023. Disponível em: [https://legis.senado.leg.br/sdleg-getter/documento?dm=9347622]. Acesso em: 12.02.2025.
BRASIL. Projeto de Lei 262, de 2024. Altera o Decreto Lei 2.848, de 7 de dezembro de 1940 – Código Penal –, para prever causa de aumento de pena para o crime de violação de direito autoral, quando houver uso de inteligência artificial, e criar o crime de falsidade científica ou acadêmica. Brasília: Câmara dos Deputados, 2024a. Disponível em: [https://senado.leg.br/web/atividade/materias/-/materia/162041]. Acesso em: 13.05. 2025.
BRASIL. Projeto de Lei 3.488, de 2024. Altera a Lei n. 12.965, de 23 de abril de 2014 e o Decreto-Lei n. 2.848, de 7 de dezembro de 1940 (Código Penal), no intuito de coibir a criação e divulgação de falso vídeo ou imagem sexualmente explícita e não consensual, produzido por meio de inteligência artificial. Brasília: Câmara dos Deputados, 2024a. Disponível em: [https://camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2457308]. Acesso em: 13.05.2025.
BREYER, Stephen. Active liberty: interpreting our democratic Constitution. New York: Alfred A. Knopf, 2007.
BRITO, Alexis Couto de. Inteligência artificial e direito penal. In: SCALQUETTE, Ana Cláudia Silva et al. (Org.). Biopolítica: uma abordagem ítalo-brasileira. São Paulo: Almedina, 2024.
BUGEJA, Alex. The EU AI Act explained (Law decoded: making sense of legal text for business, tech & beyond). Stockholm: Tech & Beyond, 2024.
BUSATO, Paulo César. De máquinas e seres vivos: quem age em resultados criminais decorrentes de decisões cibernéticas. Revista Rede de Direito Digital, Intelectual & Sociedade, v. 3, n. 5, p. 183-213, 2023.
CAPAVERDE, Caroline Bastos; FOGAÇA, Lucas; HENRIQSON, Éder. Teoria Ator-Rede para as ciências da segurança: reagregando elementos sociais e técnicos. Revista de Administração de Empresas, São Paulo, v. 63, n. 3, e2021-0530, 2023. DOI: [https://doi.org/10.1590/S0034-759020230302].
CHARLEAUX, Lupa. Homem morre esmagado por robô na Coreia do Sul. Tecnoblog, 9 nov. 2023. Disponível em: [https://tecnoblog.net/noticias/homem-morre-esmagado-por-robo-na-coreia-do-sul/]. Acesso em: 11.02.2025.
CONCEIÇÃO, Pedro Augusto Simões. A comunicação ao COAF e o tipo de lavagem. Boletim IBCCRIM, São Paulo, n. 386, v. 33, p. 31-34, 2025. DOI: [https://doi.org/10.5281/zenodo.14421177].
DUROVIC, Mateja; WATSON, Jonathan. AI, consumer data protection and privacy. In: DIMATTEO, Larry A.; PONCIBÒ, Cristina; CANNARSA, Michel (Orgs.). The Cambridge handbook of artificial intelligence: global perspectives on law and ethics. Cambridge: Cambridge University Press, 2022.
ESTADOS UNIDOS DA AMÉRICA. National Institute of Standards and Technology. NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition Software. NIST, 19 dez. 2019. Disponível em: [https://nist.gov/news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software]. Acesso em: 25.05.2025.
ESTELLITA, Heloísa; LEITE, Alaor. Veículos autônomos e direito penal: uma introdução. In: ESTELLITA, Heloísa; LEITE, Alaor (Orgs.). Veículos autônomos e direito penal. São Paulo: Marcial Pons, 2019.
FACHIN, Zulmar. Direitos fundamentais na sociedade digital. Rio de Janeiro: Lumen Juris, 2023.
FILIPPO, Thiago Baldani Gomes De. Neoconstitucionalismo e súmulas vinculantes. Porto Alegre: safE, 2012.
FILIPPO, Thiago Baldani Gomes de. Proporcionalidade legislativa penal. 3. ed. São Paulo: Marcial Pons, 2025.
FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Trad. Raquel Ramalhete. 10. ed. Petrópolis: Vozes, 1987.
FRAZÃO, Ana. Inteligência artificial e os seus desafios no direito penal. In: MENDES, Gilmar Ferreira; FREITAS, Matheus Pimenta de (Orgs.). Constituição, direito penal e novas tecnologias. São Paulo: Almedina, 2023.
GLESS, Sabine; SILVERMAN, Emily; WEIGEND, Thomas. If robots cause harm, who is to blame? Self-driving cars and criminal liability. New Criminal Law Review, v. 19, n. 3, p. 412-436, 2016. DOI: [https://doi.org/10.1525/nclr.2016.19.3.412].
GLESS, Sabine; WEIGEND, Thomas. Agentes inteligentes e o direito penal. Trad. Heloísa Estellita. In: ESTELLITA, Heloísa; LEITE, Alaor (Orgs.). Veículos autônomos e direito penal. São Paulo: Marcial Pons, 2019.
GOLDSTEIN, Ian; EDELSON, Laura; NGUYEN, Minh-Kha; GOGA, Oana; MCCOY, Damon; LAUINGER, Tobias.Understanding the (in)effectiveness of content moderation: a case study of Facebook in the context of the U.S. Capitol Riot. arXiv, arXiv:2301.02737, 2023. Preprint. Disponível em: [https://arxiv.org/abs/2301.02737]. Acesso em: 26.05.2025.
GOMES, Enéias Xavier Gomes. Dolo sem vontade psicológica: perspectivas de aplicação no Brasil. Belo Horizonte: D'Plácido, 2017.
GONÇALVES, André Luiz Dias. Robô ataca engenheiro em fábrica da Tesla nos Estados Unidos. TecMundo, 27 dez. 2023. Disponível em: [https://tecmundo.com.br/mercado/275403-robo-ataca-engenheiro-fabrica-tesla-estados-unidos.htm]. Acesso em: 11.02.2025.
GRACIA MARTÍN, Luis. A modernização do direito penal como exigência da realização do postulado do estado de direito (social e democrático). Trad. Érika Mendes de Carvalho. Revista Brasileira de Ciências Criminais, São Paulo, n. 88, p. 95-142, 2011.
GRAHAM, Jennifer. Risk of discrimination in AI systems: evaluating the effectiveness of current legal safeguards in tackling algorithmic discrimination. In: LUI, Alison; RYDER, Nicholas (Orgs.). Fintech, artificial intelligence and the law: regulation and crime prevention. New York: Routledge, 2021.
GRECO, Luís. Tem futuro o conceito de ação? In: GRECO, Luís; LOBATO, Danilo (Orgs.). Temas de direito penal: parte geral. Rio de Janeiro: Renovar, 2008.
GUPTA, Abhishek; DWIVEDI, Dwijendra Nath; SHAH, Jigar. Artificial Intelligence: applications in banking and financial services. Singapura: Springer, 2023.
HALLEVY, Gabriel. Liability for crimes involving artificial intelligence systems. Heidelberg: Springer, 2015.
HARARI, Yuval Noah. Nexus: uma breve história das redes de informação, da idade da pedra à inteligência artificial. Trad. Beatriz Vargas e Denise Bottmann. São Paulo: Companhia das Letras, 2024.
HASSEMER, Winfried. ¿Por qué castigar? Razones por las que merece la pena la pena. Trad. Manuel Cancio Meliá e Francisco Muñoz Conde. Valencia: Tirant Lo Blanch, 2016.
HASSEMER, Winfried. Introdução aos fundamentos do direito penal. Trad. Pablo Rodrigo Alflen da Silva. Porto Alegre: safE, 2005.
KNEUSEL, Ronald T. Como a inteligência artificial funciona: da magia à ciência. Trad. Cibelle Ravaglia. São Paulo: Novatec, 2024.
KOKOTAJLO, Daniel; ALEXANDER, Scott; LARSEN, Thomas; LIFLAND, Eli; DEAN, Romeo. AI 2027. AI Futures Project, 3 abr. 2025. Disponível em: [https://ai-2027.com/ai-2027.pdf]. Acesso em: 25.05.2025.
KUDINA, Olya; POEL, Ibo van de. A sociotechnical system perspective on AI. Minds and Machines, v. 34, art. 21, 2024. DOI: [https://doi.org/10.1007/s11023-024-09680-2].
LUCENA, Marina Giovanetti Lili. Os impactos democráticos na era digital: desinformação, polarização e a relativização da verdade. Revista Sociais e Humanas, Santa Maria, v. 37, e84026, 2024. DOI: [https://doi.org/10.5902/2317175884026].
MACHADO, Diego. Algoritmos e proteção de dados pessoais. São Paulo: Almedina, 2023.
MIR PUIG, Santiago. Función fundamentadora y función limitadora de la prevención general positiva. Anuario de Derecho Penal y Ciencias Penales, Madrid, v. 39, n. 1, p. 49-58, 1986. Disponível em: [https://revistas.mjusticia.gob.es/index.php/ADPCP/article/view/138]. Acesso em: 11.11.2025.
MOORE, Martin. Democracy hacked: political turmoil and information warfare in the digital era. London: OneWorld, 2018.
MORAES, Alexandre de. Democracia e redes sociais: o desafio de combater o populismo digital extremista. Barueri: Atlas, 2025.
MUÑOZ CONDE, Francisco. Introducción. In: ROXIN, Claus. Política criminal y sistema del derecho penal. Trad. Francisco Muñoz Conde. 2. ed. Buenos Aires: Hammurabi, 2002.
PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Cambridge: Harvard University Press, 2015.
RECONQUISTA Germanica. In: WIKIPÉDIA: a enciclopédia livre, 2025. Disponível em: [https://en.wikipedia.org/w/index.php?title=Reconquista_Germanica&oldid=1314722141]. Acesso em: 25.05.2025.
RODRIGUES, Anabela Miranda. Compliance inteligente e prevenção e luta contra o branqueamento. In: RODRIGUES, Anabela Miranda (Org.). A inteligência artificial no direito penal. Coimbra: Almedina, 2022. v. II.
RODRIGUES, Anabela Miranda; SOUSA, Susana Aires. Algoritmos em contexto empresarial: vantagens e desafios à luz do direito penal. In: RODRIGUES, Anabela Miranda (Org.). A inteligência artificial no direito penal. Coimbra: Almedina, 2022. v. II.
RUSSELL, Stuart J.; NORVIG, Peter. Artificial intelligence: a modern approach. 4. ed. Boston: Pearson, 2020.
SALVADOR NETTO, Alamiro Velludo. Responsabilidade penal da pessoa jurídica. São Paulo: Ed. RT, 2018.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: SESC, 2022.
SILVEIRA, Renato de Mello Jorge. Direito penal empresarial: a omissão do empresário como crime. Belo Horizonte: D'Plácido, 2016.
SOUSA, Susana Aires de. “Não fui eu: foi a máquina”: teoria do crime, responsabilidade e inteligência artificial. In: RODRIGUES, Anabela Miranda (Org.). A inteligência artificial no direito penal. Coimbra: Almedina, 2020.
SOUSA, Susana Aires de. A IA no setor económico: uma reflexão entre o “bom, o mau e o vilão”. In: RODRIGUES, Anabela Miranda (Org.). A inteligência artificial no direito penal. Coimbra: Almedina, 2022. v. II.
SOUZA, Luciano Anderson de. Direito penal: parte geral. 2. ed. São Paulo: Thomson Reuters, 2021. v. I.
SULEYMAN, Mustafa; BHASKAR, Michael. A próxima onda. 3. ed. Trad. Alessandra Bonrruquer. Rio de Janeiro: Record, 2024.
TAVARES, Juarez. Fundamentos de teoria do delito. Florianópolis: Tirant Lo Blanch, 2018.
TRINDADE, Rodrigo. Como acidente fatal mudou o programa de carros autônomos da Uber. UOL, 16 nov. 2019. Disponível em: [https://uol.com.br/tilt/noticias/redacao/2019/11/16/como-acidente-fatal-mudou-o-programa-de-carros-autonomos-da-uber.htm]. Acesso em: 11.11.2025.
TURING, Alan M. Computing machinery and intelligence. Mind, Oxford, v. 59, n. 236, p. 433-460, out. 1950. DOI: https://doi.org/10.1093/mind/LIX.236.433.
UNESCO. Recommendation on the ethics of Artificial Intelligence. Paris: Unesco, 2022. Disponível em: [https://unesdoc.unesco.org/ark:/48223/pf0000381137]. Acesso em: 25.05.2025.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho de 13 de junho de 2024. Disponível em: [https://eur-lex.europa.eu/legal-content/PT/TXT/PDF/?uri=OJ%3AL_202401689]. Acesso em: 12.02.2025.
VALENTE, Victor Augusto Estevam. Inteligência artificial e o direito penal: a propósito da responsabilidade criminal em decorrência dos sistemas tecnológicos altamente complexos nas empresas. Belo Horizonte/São Paulo: D'Plácido, 2023.
VIANA, Eduardo. Dolo como compromisso cognitivo. São Paulo: Marcial Pons, 2017.
VIVES ANTÓN, Tomás S. Fundamentos do sistema penal. Trad. Paulo César Busato. 2. ed. São Paulo: Tirant Lo Blanch, 2022.
ZYNGIER, Lucas Rosa. Omissão imprópria do compliance officer: fundamentos e análises de casos. São Paulo: Tirant Lo Blanch Brasil, 2023.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Os direitos autorais dos artigos publicados são do autor, com direitos do periódico sobre a primeira publicação.
Os autores somente poderão utilizar os mesmos resultados em outras publicações indicando claramente este periódico como o meio da publicação original. Se não houver tal indicação, considerar-se-á situação de autoplágio.
Portanto, a reprodução, total ou parcial, dos artigos aqui publicados fica sujeita à expressa menção da procedência de sua publicação neste periódico, citando-se o volume e o número dessa publicação. Para efeitos legais, deve ser consignada a fonte de publicação original.
