Neo-Nazi hate speech on digital platforms (dis)favoring adolescents: challenges and implications in criminal sciences

Authors

DOI:

https://doi.org/10.17765/2176-9184.2025v25.e13724

Keywords:

ICMS, IPI, Public Policy, Sunscreen, Taxation

Abstract

Contextualization: The spread of neo-Nazi hate speech on social networks poses a serious threat to adolescents, who are particularly vulnerable to such content. In this scenario, the research investigates how digital platforms can be regulated to ensure the protection of adolescents against neo-Nazi hate speech, considering the challenges of criminal and constitutional law in the context of emerging technologies.

Objectives: The study aims to analyze the effectiveness and limitations of current technological and legal measures, fostering critical reflection on the role of the State and companies in these political (in)flows.

Methodology: The research is conducted through a qualitative literature review and a critical theoretical analysis of the sources. The approach is transdisciplinary, integrating perspectives from critical criminology, constitutional law, and sociology, emphasizing the first two, in order to build a comprehensive understanding of the topic, without any totalitarian bias, as it is grounded in the epistemology of uncertainty, a hallmark of contemporary scientific inquiry.

Results: The research reveals that effective and ethical regulation in the digital environment requires ongoing efforts to adapt legal norms, improve moderation technologies, and develop international agreements. It is essential to guarantee freedom of expression while also protecting adolescents from the harms caused by hate speech, especially in an era marked by surveillance and algorithms.

Author Biographies

Isabela Quartieri da Rosa, Universidade Federal de Santa Maria - UFSM

Doutoranda. Mestre em Direito na Universidade Federal de Santa Maria (PPGD/UFSM) na linha de pesquisa Direitos da Sociedade em Rede: atores, fatores e processo na mundialização; Especialista em Direito Público pela Universidade de Caxias do Sul (UCS) em parceria com a Escola Superior da Magistratura Federal do Rio Grande do Sul (ESMAFE); Bacharel em Direito pela Universidade Franciscana (UFN); Pesquisadora do Núcleo de Direito Informacional (NUDI) da Universidade Federal de Santa Maria (UFSM) no projeto "Observatório Permanente de Discurso de Ódio na Internet" e "DISCURSO DE ÓDIO E JUSTIÇA GLOBAL: tratamento jurídico do tema em perspectiva comparada", ambos sob coordenação da Profa. Dra. Rosane Leal da Silva. 

Ana Carolina Sassi, Universidade Federal de Santa Maria - UFSM

CAPES Scholarship Holder. Ph.D. candidate and Master's degree holder in the Graduate Program in Law at the Federal University of Santa Maria (PPGD/UFSM), in the research line Rights in the Networked Society: actors, factors, and processes in globalization. Specialist in Labor and Social Security Law (UniAméricas). Bachelor of Law (UFN). Researcher at the Research Center for Informational Law (NUDI/UFSM). Email: acsassi@gmail.com.

Luis Gustavo Durigon, Universidade Federal de Santa Maria - UFSM

Ph.D. in Criminal Sciences from PUC/RS. Professor in the Law Department and the Graduate Program in Law at the Federal University of Santa Maria (UFSM). Email: durigon.lgustavo@ufsm.br.

References

AMARAL, Augusto Jobim do; SABARIEGO, Jesús; SALLES, Eduardo Baldissera Carvalho. Algoritarismos. São Paulo-Valencia, Tirant lo Blanch, 2020.

BARROSO, Luís Roberto. Revolução tecnológica, crise da democracia e constituição: Direito e políticas públicas num mundo em transformação. Belo Horizonte: Fórum, 2020.

BAUMAN, Zygmunt. LYON, David. Vigilância Líquida. Ciudad Autónoma de Buenos Aires: Paidós, 2013.

BENTHAM, Jeremy. O Panóptico. 3 ed. Belo Horizonte: Autêntica, 2019.

BRASIL. Lei nº 8069, de 13 de julho de 1990. Dispõe sobre o Estatuto da Criança e do Adolescente e dá outras providências. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l8069.htm. Acesso em: 08 ago. 2024.

BRASIL. Lei n. 12.965, de 23 de abril de 2014. Marco Civil da Internet. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 16 fev. 2025.

BRASIL. Lei nº 13.709, de 14 de Agosto de 2018. Dispõe sobre a Lei Geral de Proteção de Dados Pessoais (LGPD). Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 10 fev. 2025.

BRASIL. Supremo Tribunal Federal. Recurso Extraordinário nº 1.037.396/SP. Recorrente: Facebook Serviços Online do Brasil Ltda. Recorrida: Lourdes Pavioto Corrêa. Relator: Ministro Dias Toffoli. Brasília, DF, julgado em 27 nov. 2024. Disponível em: https://portal.stf.jus.br/processos/detalhe.asp?incidente=5160549. Acesso em: 7 abr. 2025.

BRASIL. Supremo Tribunal Federal. Ação Penal 2493/DF. Relator: Min. Alexandre de Moraes. Julgamento em 23 de novembro de 2023a. Brasília, DF: STF, 2023. Disponível em: https://redir.stf.jus.br/paginadorpub/paginador.jsp?docTP=TP&docID=785246760. Acesso em: 14 abr. 2025.

BRASIL. Projeto de Lei n° 2630, de 2020, e seus apensados. Institui a Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet. Parecer Preliminar de Plenário de 25 de mar. de 2023. Relator Deputado Orlando Silva. Brasília: Portal da Câmara dos Deputados, 2023b. Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=2265334&filename=PRLP+1+%3D%3E+PL+2630/2020. Acesso em: 10 abr. 2025.

BRASIL. Supremo Tribunal Federal. Petição nº 12.404. Relator: Min. Alexandre de Moraes. Decisão monocrática referendada. Brasília, DF, 2024. Disponível em: https://portal.stf.jus.br/processos/detalhe.asp?incidente=5160549. Acesso em: 7 abr. 2025.

BRASIL. Supremo Tribunal Federal. Petição nº 9.935. Relator: Min. Alexandre de Moraes. Julgamento em 17 de março de 2025. Brasília, DF, 2025. Disponível em: https://jurisprudencia.stf.jus.br/pages/search/sjur526333/false. Acesso em: 7 abr. 2025.

BIGO, Didier. (In)segurança globalizada: o campo e o ban-opticon. In: AMARAL, Augusto Jobim do et al. (Orgs.). A cidade como máquina biopolítica. Valencia: Tirant lo blanch, 2022, p. 116-154.

CGI.br. TIC Kids Online Brasil 2024 [índices]. Disponível em: https://cetic.br/pt/tics/kidsonline/2024/criancas/C7/. Acesso em: 07 abr. 2025.

FOUCALT, Michel. Vigiar e punir: nascimento da prisão. Trad. Raquel Ramalhete. 42 ed. Rio de Janeiro: Vozes, 2021.

LUIS, Luis. Os princípios constitucionais penais. 2. ed. Revista e aumentada. Porto Alegre:

Sergio Antonio Fabris, 2003.

GIACOMOLLI, Felipe Mrack. Gerenciamento tecnológico do sistema de justiça penal. As novas tecnologias no âmbito do policiamento, da investigação e da decisão. Madri: Marcial Pons, 2023.

MENDES, Gilmar Ferreira; FREITAS, Matheus Pimenta. Constituição, Direito Penal e novas tecnologias. São Paulo: Almedina, 2023.

MDHC. Relatório de recomendações para o enfrentamento do discurso de ódio e o extremismo no Brasil. Christian Ingo Lenz Dunker, Débora Diniz Rodrigues, Esther Solano. et al. / Camilo Onoda Luiz Caldas, Manuela Pinto Vieira d ?Ávila, Brenda de Fraga Espindula. et al. (Coord.) - 1. ed. - Brasília: 2023.

PIETRO, Javier Valls. Problemas jurídico penales asociados a las nuevas técnicas de prevención y persecución del crimen mediante inteligencia artificial. Madri: Dykinson, 2017.

SANTOS, Milton. Por uma outra globalização. Do pensamento único à consciência

universal. 5° ed. Rio de Janeiro/São Paulo: Record, 2001.

SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e descriminalização das redes sociais. São Paulo: Sesc, 2022.

SILVEIRA, Paulo Antônio Caliendo Veloso da. Ética e inteligência artificial. Da possibilidade filosófica de agentes morais artificiais. Porto Alegre: Editora Fi, 2021.

STANLEY, Jason. Como funciona o fascismo. A política do nós e eles. 2° ed. Porto Alegre:

L&PM, 2019.

TRAVASSOS, Gabriel Saad; AMARAL, Augusto Jobim. O sistema europeu de reconhecimento facial: o dispositivo banóptico e as novas faces do positivismo. Anais do 7º Congresso Internacional de Direito e Contemporaneidade: mídias e direitos da sociedade em rede, 2024. Disponível em: https://www.ufsm.br/app/uploads/sites/563/2024/12/2.1.pdf Acesso em: 19 dez. 2024.

UNIÃO EUROPEIA. Regulamento (UE) 2022/2065. Parlamento Europeu e do Conselho de 19 de outubro de 2022 relativo aos serviços digitais e que altera a Diretiva 2000/31/CE. Jornal Oficial da União Europeia, 2022. Disponível em: https://eur-lex.europa.eu. Acesso em: 14 abr. 2025.

ZUBOFF, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: PublicAffairs, 2019.

Published

2025-11-17

How to Cite

Rosa, I. Q. da, Sassi, A. C., & Durigon, L. G. (2025). Neo-Nazi hate speech on digital platforms (dis)favoring adolescents: challenges and implications in criminal sciences. Revista Jurídica Cesumar - Mestrado, 25(1), 270–286. https://doi.org/10.17765/2176-9184.2025v25.e13724

Issue

Section

Artigo Original