The phenomenon of deep fake in the electoral context and its effects on the democratic state of law

Views: 524

Authors

  • Amanda Passos Ferreira Universidade do Estado do Rio de Janeiro, UERJ, Brasil.
  • Carolina da Silva Leme Pontifícia Universidade Católica de São Paulo, PUC/SP, Brasil.

Keywords:

Deep fake, Democracy, Fake News, Law philosophy, Ethics

Abstract

The research will address the issue of the phenomenon of deep fake in the electoral context and its effects on the Democratic State of Law, analyzing the dilemmas, interfaces and obstacles in democracy in the face of technological advances in the era of fake news polarization. The article discusses the technical-legal concept of deep fakes in the political scenario as a way of delegitimizing the electoral process, as well as the demerit of democracy. Based on these preliminary considerations, the article aims to answers the following problem: What are the main risks arising from deep fakes in the Brazilian electoral process as a means of weakening democracy?

Downloads

Download data is not yet available.

Author Biographies

Amanda Passos Ferreira, Universidade do Estado do Rio de Janeiro, UERJ, Brasil.

Bacharel em Direito. Pós-graduanda em Direito Constitucional. Residente Jurídica na Defensoria do Estado do Maranhão. Associada ao IBCCRIM. Integrante do Grupo de Estudos Avançados Nacional Direito Eleitoral Penal ‒ IBCCRIM.

Carolina da Silva Leme, Pontifícia Universidade Católica de São Paulo, PUC/SP, Brasil.

Mestra e Doutoranda em Direito Penal pela PUC-SP. Extensão em Transações Ilícitas Internacionais pela Universidade de Groningen, NL. Especialista em Corrupção, Crime Organizado e Terrorismo pela Universidad de Salamanca, ES. Especialista em Processo Penal e Crimes Econômicos pela FGV. Especialista em Direito Penal Econômico Europeu pela Universidade de Coimbra (IDPEE ‒ IBCCRIM). Graduada em Direito pela Universidade Presbiteriana Mackenzie. Advogada.

References

ADAIR, Bill. Duke Reporters’ Lab. 2016. Disponível em: https://reporterslab.org/fact-checking. Acesso em: 22 set. 2021.

AGENCE FRANCE PRESSE. Cambridge Analytica se declara culpada em caso de uso de dados do Facebook. G1, Economia, 9 jan. 2019. Disponível em: https://g1.globo.com/economia/tecnologia/noticia/2019/01/09/cambridge-analytica-se-declara-culpada-por-uso-de-dados-do-facebook.ghtml. Acesso em: 04 set. 2021.

ALEXY, Robert. Conceito e validade do direito. Trad. Gercélia Batista de Oliveira Mendes. São Paulo: WMF Martins Fontes, 2009.

ALEXY, Robert. Teoria dos Direitos Fundamentais. São Paulo: Malheiros, 2015.

ALLCOTT, Hunt; GENTZKOW, Matthew. Social media and fake news in the 2016 election. Journal of Economic Perspectives, v. 31, n. 2, p. 211-236, 2017. Disponível em: https://www.aeaweb.org/articles?id=10.1257/jep.31.2.211. Acesso em: 23 dez. 2022.

ALMEIDA, Fernanda Campos. Deep fake: tecnologia permite colocar rosto e voz em outro corpo. Veja São Paulo, Cultura & Lazer, 3 jul. 2020. Disponível em: https://vejasp.abril.com.br/cultura-lazer/deepfake-tecnologia-permite-copiar-o-rosto-expressao-e-a-voz/. Acesso em: 23 dez. 2022.

ALTARES, Guillermo. A longa história das notícias falsas. El País, Cultura, 18 jun. 2018. Disponível em: https://brasil.elpais.com/brasil/2018/06/08/cultura/1528467298_389944.html. Acesso em: 23 dez. 2022.

ARENDT, Hannah. A condição humana. 10. ed. Rio de Janeiro: Forense Universitária, 2007.

ARENDT, Hannah. Sobre a revolução. Trad. Denise Bottmann. São Paulo: Companhia das Letras, 2011.

BAUMAN, Zygmunt. Globalização: as consequências humanas. Rio de Janeiro: Jorge Zahar, 1999.

BAUMAN, Zygmunt. Em busca da política. Rio de Janeiro: Jorge Zahar, 2000.

BAUMAN, Zygmunt. Modernidade líquida. Trad. Plínio Dentzien. Rio de Janeiro: Jorge Zahar, 2001.

BAUMAN, Zygmunt. Confiança e medo na cidade. Rio de Janeiro: Jorge Zahar, 2009.

BAUMAN, Zygmunt. A ética é possível num mundo de consumidores? Rio de Janeiro: Jorge

Zahar, 2011.

BENNETT, W. Lance; LIVINGSTON, Steven. The disinformation order: disruptive communication and the decline of democratic institutions. European Journal of Communication, v. 33, n. 2, 2 abr. 2018. DOI: https://doi.org/10.1177/0267323118760317

BOBBIO, Norberto. O futuro da democracia: uma defesa das regras do jogo. São Paulo: Paz e Terra, 2006.

BOBBIO, Norberto. Liberalismo e democracia. São Paulo: Edipro, 2017.

BOURDIEU, Pierre. O poder simbólico. 10. ed. Trad. Fernando Tomaz. Rio de Janeiro: Bertrand Brasil, 2007.

BRAGA, Renê Morais da Costa. A indústria das fake news e o discurso de ódio. In: PEREIRA, Rodolfo Viana (org.). Direitos políticos, liberdade de expressão e discurso de ódio. v. I. Belo Horizonte: IDDE, 2018. p. 203-220. Disponível em: http://bibliotecadigital.tse.jus.br/xmlui/bitstream/handle/bdtse/4443/2018_pereira_direitos_politicos_liberdade.pdf?sequence=1#page=205. Acesso em: 23 dez. 2022.

BRASIL. Resolução nº 742, de 27 de agosto de 2021. Institui o programa de combate à desinformação no âmbito do Supremo Tribunal Federal. Diário da Justiça Eletrônico, Brasília, DF, 30 ago. 2021. Disponível em: http://www.stf.jus.br/arquivo/cms/noticiaNoticiaStf/anexo/DJE172.pdf. Acesso em: 25 set. 2021.

BUCCI, Eugenio. Existe democracia sem verdade factual? São Paulo: Estação das Letras, 2019.

CANAL, Rodrigo. Sobre a filosofia da mente de John Searle. 2010. 174 f. Dissertação (Mestrado em Filosofia) – Faculdade de Filosofia e Ciências, Universidade Estadual Paulista, Marília, 2010.

ČERKA, Paulius; GRIGIENĖ, Jurgita; SIRBIKYTĖ, Gintarė. Liability for damages caused by artificial intelligence. Computer Law & Security Review, v. 31, n. 3, 2015.

CHESNEY, Robert; CITRON, Danielle Keats. Deep fakes: a looming challenge for privacy, democracy and national security. California Law Review, v. 107, n. 6, dez. 2019a. Disponível em: https://ssrn.com/abstract=3213954. Acesso em: 15 maio 2021.

CHESNEY, Robert; CITRON, Danielle. Deep fake and the new desinformation war: the coming age of post-truth geopolitics. HeinOnline, 2019b. Disponível em: https://heinonline.org/HOL/LandingPage?handle=hein.journals/fora98&div=18&id=&page=. Acesso em: 10 set. 2021.

ECO, Umberto. Como se faz uma tese. São Paulo: Perspectiva, 2012.

GIL, Antonio Carlos. Como elaborar projetos de pesquisa. 4. ed. São Paulo: Atlas, 2002.

GOODFELLOW, Ian; BENGIO, Yoshua; COURVILLE, Aaron. Deep Learning Book. MIT Press, 2016. Disponível em: https://www.deeplearningbook.org. Acesso em: 15 maio 2021.

GREIFENEDER, Rainer et al. The psychology of fake news. London: Routledge, 2021.

HARTMANN PEIXOTO, Fabiano. Inteligência Artificial e Direito: convergência ética e estratégica. Coleção Direito, Racionalidade e Inteligência Artificial. Curitiba: Alteridade, 2020.

HESSE, Konrad. A força normativa da constituição. Porto Alegre: Sergio Antonio Fabris, 1991.

JUDT, Tony. Reflexões sobre um século esquecido: 1901 a 2000. Rio de Janeiro: Objetiva, 2010.

KUHN, Thomas S. A estrutura das revoluções científicas. 12. ed. São Paulo: Perspectiva, 2013.

LEE, Kai-Fu. Inteligência artificial: como os robôs estão mudando o mundo, a forma como amamos, nos comunicamos e vivemos. Trad. Marcelo Brabão. Rio de Janeiro: Globo Livros, 2019.

LEMOS, Ronaldo. Diante da realidade, seis ficções epistemológicas. In: ABRANCHES, Sérgio et al. Democracia em risco? 22 ensaios sobre o Brasil hoje. São Paulo: Companhia das Letras, 2019a.

LEMOS, Ronaldo. Como combater deep fakes? Instituto de Tecnologia e Sociedade do Rio, 11 mar. 2019b. Disponível em: https://itsrio.org/pt/artigos/como-combater-deepfakes. Acesso em: 04 set. 2021.

LOPES, Gilmar. 20 boatos que circularam durante as eleições de 2014. E-Farsas, 27 out. 2014. Disponível em: https://www.e-farsas.com/20-boatos-que-circularam-durante-eleicoes-de-2014.html. Acesso em: 23 dez. 2022.

MCCARTHY, J. What is artificial intelligence? Stanford University, 2007. Disponível em: http://www-formal.stanford.edu/jmc/whatisai.pdf. Acesso em: 05 ago. 2021.

MEHR, Hila. Artificial intelligence for citizen services and government. ASH Center, Harvard Kennedy School, 2017. Disponível em: https://ash.harvard.edu/publications/artificial-intelligence-citizen-services-and-government. Acesso em: 05 ago. 2021.

NEWMAN, Nic et al. Digital News Report 2019. Reuters Institute of the Study of Journalism, 2019. Disponível em: http://www.digitalnewsreport.org. Acesso em 15 mai. 2021.

RAIS, Diogo. O que é fake news. Portal Mackenzie, 13 abr. 2017. Disponível em: http://portal.mackenzie.br/fakenews/noticias/arquivo/artigo/o-que-e-fake-news. Acesso em: 23 dez. 2022.

SARAMAGO, José. Ensaio sobre a cegueira. 45. reimp. São Paulo: Companhia das Letras, 1995.

SIQUEIRA, Gustavo Silveira. Pequeno manual de metodologia da pesquisa jurídica: ou roteiro de pesquisa para estudantes de Direito. 2. ed. Belo Horizonte: Instituto Pazes, 2021.

SOURDIN, Tania. Judge v Robot? Artificial intelligence and judicial decision-making. UNSW Law Journal, v. 41, n. 4, 2018. Disponível em: http://www.unswlawjournal.unsw.edu.au/article/judge-v-robot-artificial-intelligence-and-judicial-decision-making. Acesso em: 05 maio 2021.

SOUZA, Carlos Affonso. “Deep fake do bem”? Índia sai na frente na manipulação de vídeos eleitorais. Instituto de Tecnologia e Sociedade do Rio, 20 fev. 2020. Disponível em: https://itsrio.org/pt/artigos/deepfake-do-bem-india-sai-na-frente-na-manipulacao-de-videos-eleitorais/. Acesso em: 04 set. 2021.

TRIBUNAL SUPERIOR ELEITORAL. TSE faz campanha contra a desinformação: “Se for fake news, não transmita”. Disponível em: https://www.tse.jus.br/imprensa/noticias-tse/2020/Julho/tse-faz-campanha-contra-a-desinformacao-201cse-for-fake-news-nao-transmita201d. Acesso em: 22 set. 2021.

TRINDADE, Rodrigo (ed.). Uso do Facebook caiu 20% desde escândalo de Cambridge Analytica. UOL, Tilt, 20 jun. 2019. Disponível em: https://www.uol.com.br/tilt/noticias/redacao/2019/06/20/uso-do-facebook-caiu-20-desde-escandalo-de-cambridge-analytica.htm. Acesso em: 04 set. 2021.

VEYNE, Paul. Acreditavam os gregos em seus mitos? São Paulo: Brasiliense, 1984.

WINCHESTER, Simon. Dicionário Oxford. Oxford: Oxford University Press, 2016. Disponível em: https://languages.oup.com/about-us/our-story. Acesso em: 22 out. 2020.

YU, Chia-Mu; CHANG, Ching-Tang; TI, Yen-Wu. Detecting deepfake-forged contents with separable convolutional neural network and image segmentation. Cornell University, 21 dez. 2019. Disponível em: http://arxiv.org/abs/1912.12184. Acesso em: 15 maio 2021.

Downloads

Published

2024-07-25

How to Cite

Passos Ferreira, A., & da Silva Leme, C. (2024). The phenomenon of deep fake in the electoral context and its effects on the democratic state of law. Boletim IBCCRIM, 31(363), 21–23. Retrieved from https://publicacoes.ibccrim.org.br/index.php/boletim_1993/article/view/1573

Issue

Vol. 31 No. 363 (2023): Boletim IBCCRIM - Fevereiro

Section

Doutrina

License

Copyright of published articles belongs to the author, but with journal rights over the first publication and respecting the one-year exclusivity period. Authors may only use the same results in other publications by clearly indicating this journal as the medium of the original publication. If there is no such indication, it will be considered a situation of self-plagiarism.

Therefore, the reproduction, total or partial, of the articles published here is subject to the express mention of the origin of its publication in this journal, citing the volume and number of this publication. For legal purposes, the source of the original publication must be consigned, in addition to the DOI link for cross-reference (if any).