How can the law help deplatform misogyny? Between algorithmic opacity, The Brazilian Supreme Court, and the civil rights framework for the internet

Authors

DOI:

https://doi.org/10.17765/2176-9184.2025v25.e13985

Keywords:

Algorithmic Opacity, Brazilian Internet Bill of Rights, Deplatformization of Misogyny, Digital Platforms, Misogyny

Abstract

Contextualization: In June 2025, the Supreme Federal Court (STF) ruled on Extraordinary Appeals (RE) No. 1,057,258 and No. 1,037,396, declaring the unconstitutionality of Article 19 of the Brazilian Internet Bill of Rights (“Marco Civil da Internet”). This decision significantly altered the liability framework for internet application providers in Brazil, making them responsible for content posted by third parties on social media.

Objective: Given the recent nature of the issue, this article aims to address whether, through such a significant change, the law can contribute to the deplatformization of misogyny —understood here as the removal of content, individuals, or groups that promote misogynistic discourse on social media. It is argued that the platformization of misogyny has historically been fostered by two main factors: algorithmic opacity in content distribution and the absence of liability for internet application providers. The in-depth examination of these two aspects therefore constitutes the specific objectives of this study.

Methodology: This is an exploratory research, employing a deductive approach and using bibliographical and documentary research techniques.

Results: The study concluded that misogyny on social media is amplified by opaque algorithmic structures and by a business model that profits from it. Furthermore, the historical lack of provider liability for third-party content has contributed to the persistence of this scenario; however, recent legal developments, particularly the STF decision, indicate the possibility of greater control. Regulating platforms is, therefore, essential for the protection of fundamental rights and for addressing digital misogyny.

Author Biographies

Deise Brião Ferraz, Universidade de Santa Cruz do Sul

Doutoranda em Direito no Programa de Pós-Graduação em Direito da Universidade de Santa Cruz do Sul – PPGD/UNISC, na linha de pesqui­sa Diversidade e Políticas Públicas, com bolsa PROSUC/CAPES II e período de Doutorado-Sanduíche na Universidad de la República (UDELAR) com bolsa PDSE/CAPES. Mestra em Direito e Justiça Social pelo PPGD/FURG, com bolsa CAPES/DS. Bacharela em Direito (FURG) e em Jornalismo (UCPEL). Integrante do Grupo de Pesquisa CNPQ/UNISC intitulado “Direi­to, Cidadania e Políticas Públicas”, do PPGD/ UNISC. Advogada e Professora de Direito.

Marli Marlene Moraes da Costa, Universidade de Santa Cruz do Sul

Doutora em Direito pela Universidade Federal de Santa Catarina - UFSC, com pós-doutoramento em Direito pela Universidade de Burgos - Espanha, com bolsa CAPES. Profes­sora da Graduação e da Pós-Graduação Lato Sensu em Direito da Universidade de Santa Cruz do Sul - UNISC. Professora do Progra­ma de Pós-Graduação em Direito - Mestrado e Doutorado da UNISC. Coordenadora do Grupo de Estudos Direito, Cidadania e Políti­cas Públicas do PPGD/UNISC. Membro do Conselho Consultivo da Rede de Pesquisa em Direitos Humanos e Políticas Públicas. Mem­bro do Núcleo de Pesquisas Migrações Inter­nacionais e Pesquisa na Região Sul do Brasil - MIPESUL. Integrante do Grupo de Trabalho em Apoio a Refugiados e Imigrantes (GTARI/UNISC).

References

ALI, Muhammad; SAPIEZYNSKI, Piotr; BOGEN, Miranda; KOROLOVA, Aleksandra; MISLOVE, Alan; RIEKE, Aaron. Discrimination through optimization: How Facebook’s ad delivery can lead to skewed outcomes, Proceedings of the ACM on Human-Computer Interaction, v. 3, n. CSCW, p. 1-30, nov. 2019. Disponível em: http://arxiv.org/abs/1904.02095.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Diário Oficial da União: seção 1, Brasília, DF, ano 151, n. 78, p. 1, 24 abr. 2014. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm

BRASIL. PL 2.338/2023. Dispõe sobre o uso da Inteligência Artificial. Brasília, DF: Senado Federal. Disponível em: http://www25.senado.leg.br/web/atividade/materias/-/materia/157233.

BRASIL. Supremo Tribunal Federal. Informação à sociedade. RE 1.037 (Tema 987) e 1.057.258 (Tema 533) Responsabilidade de plataformas digitais por conteúdo de terceiros. Disponível em: https://www.stf.jus.br/arquivo/cms/noticiaNoticiaStf/anexo/Informac807a771oa768SociedadeArt19MCI_vRev.pdf

CAPARRÓS, Mariana Sánchez. Los riesgos de la inteligencia artificial para el principio de igualdad y no discriminación. Planteo de la problemática y algunas aclaraciones conceptuales necesarias bajo el prisma del Sistema Interamericano de Derechos Humanos. elDial.com Contenidos Jurídicos, 2022, p. 1-22. Disponível em: http://www.researchgate.net/publication/361510404_Los_riesgos_de_la_inteligencia_artificial_para_el_principio_del_igualdad_y_no_discriminacion_planteo_de_la_problematica_y_algunas_aclaraciones_conceptuales_necesarias_bajo_el_prisma_del_Sistema_Intera.

COTTER, Kevin; MEDEIROS, Meghaan; PAK, Chong; THORSON, Kjerstin. “Reach the right people”: The politics of “interests” in Facebook’s classification system for ad targeting, Big Data & Society, v. 8, n. 1, p. 1–16, 2021. DOI: http://doi.org/10.1177/2053951721996046.

d’ANDRÉA, Carlos Frederico de Brito. Cartografando controvérsias com as plataformas digitais: apontamentos teórico-metodológicos, Revista Galaxia, n. 38, p. 28-39, maio-ago. 2018. DOI: https://doi.org/10.1590/1982-2554234208

FERRAZ, Deise Brião. COSTA, Marli Marlene Moraes da. O Protocolo de Julgamento com Perspectiva de Gênero como respostas institucional à pretensa universalização do feminino, amparada nos esforços internacionais de eliminação de todas as formas de discriminação contra as mulheres, Revista de Direito Internacional, v. 20, n. 1, p. 115-127, 2023a. Disponível em: http://uniceub.emnuvens.com.br/rdi/article/view/9070/pdf. Acesso em 01 abr. 2024.

FERRAZ, Deise Brião; COSTA, Marli Marlene Moraes da. Violência de gênero, subjetivação e homossociabilidade masculina: Nem sempre os processos de socialização acompanham a evolução legislativa. In: Clovis Gorczevski e André Viana Custódio (org.). Direito & políticas públicas, v. III, 1 ed. Porto Alegre: Free Press, 2023b, p. 309-328.

FERRAZ, Deise Brião; COSTA, Marli Marlene Moraes da. Políticas Públicas contra o assédio e violência sexual: estudo comparado entre o Protocolo de Barcelona “No Callamos” e o projeto de lei brasileiro que cria o Protocolo “Não é Não”. Revista Vertentes do Direito, [S. l.], v. 10, n. 2, p. 379–410, 2023c. DOI: https://doi.org/10.20873/uft.2359-0106.2023.v10n2.p379-410

FERRAZ, Deise Brião; COSTA, Marli Marlene Moraes da. A plataformização da misoginia na publicidade digital em redes sociais: um produto da opacidade algorítmica e da ausência de marco regulatório da inteligência artificial. Revista Direito UNIFACS – Debate Virtual, n. 291, 2024a. Disponível em: https://revistas.unifacs.br/index.php/redu/article/view/9111. Acesso em: 13 jan. 2025.

FERRAZ, Deise Brião; COSTA, Marli Marlene Moraes da. Microtrabalho na Inteligência Artificial: direitos fundamentais das mulheres e a ética do cuidado, Revista Brasileira de Sociologia do Direito, v. 11, n. 2, p. 25-43, 2024b. DOI: https://doi.org/10.21910/rbsd.v11i2.807

HOMEM, Maria. CALLIGARIS, Contardo. Coisa de menina? Uma conversa sobre gênero, sexualidade, maternidade e feminismo. Campinas: Papirus, 2019, p. 80.

KHOO, Cynthia. Deplatforming Misogyny. Report on platform liability for technology-facilitated gender-based violence. Women’s Legal Education and Action Fund, 2021. Disponível em: http://www.leaf.ca/publication/ deplatforming-misogyny/. Acesso em: 18 mar. 2024.

LILLY, Mary. ‘The World Is Not a Safe Place for Men’: The Representational Politics of the Manosphere.”. Otawa: University of Ottawa, 2016. Disponível em: http://ruor.uottawa.ca/server/api/core/bitstreams/1eee5112-7f22-4ffc-a49d-a978a56bed05/content. Acesso em: 17 mar. 2024.

SANTINI, R. Marie. SALLES, Débora. MATTOS, Bruno. BELIN, Luciane L. CANAVARRO, Marcela. MEDEIROS, Stéphanie. HADDAD, João G. SILVA, Daphne. SEADE, Renata. DIAS, Bernardo. GOMES, Matheus. Golpes, fraudes e desinformação na publicidade digital abusiva contra mulheres. Rio de Janeiro: NetLab – Laboratório de Estudos de Internet e Redes Sociais, Universidade Federal do Rio de Janeiro (UFRJ). Publicado em 08 de março de 2024. Disponível em: http://netlab.eco.ufrj.br/post/golpes-fraudes-e-desinformac-a-o-na-publicidade-digital-abusiva-contra-mulheres. Acesso em 19 mar. 2024.

Published

2026-05-13

How to Cite

Ferraz, D. B., & Costa, M. M. M. da. (2026). How can the law help deplatform misogyny? Between algorithmic opacity, The Brazilian Supreme Court, and the civil rights framework for the internet. Revista Jurídica Cesumar - Mestrado, 26, e13985. https://doi.org/10.17765/2176-9184.2025v25.e13985

Issue

Section

Artigo Original