Como o direito pode ajudar a desplataformizar a misoginia? Entre a opacidade algorítmica, o STF e o Marco Civil da Internet

Deise Brião Ferraz; Marli Marlene Moraes da Costa

doi:10.17765/2176-9184.2025v25.e13985

Autores/as

Deise Brião Ferraz Universidade de Santa Cruz do Sul https://orcid.org/0000-0002-3754-818X
Marli Marlene Moraes da Costa Universidade de Santa Cruz do Sul https://orcid.org/0000-0003-3841-2206

DOI:

https://doi.org/10.17765/2176-9184.2025v25.e13985

Palabras clave:

Desplataformización de la Misoginia, Marco Civil de Internet, Misoginia, Opacidad Algorítmica, Plataformas Digitales

Resumen

Contextualización: En junio de 2025, el Supremo Tribunal Federal (STF) resolvió los Recursos Extraordinarios (RE) nº 1.057.258 y nº 1.037.396, declarando la inconstitucionalidad del artículo 19 del Marco Civil de Internet. Esta decisión modificó de manera significativa el régimen de responsabilidad de los proveedores de aplicaciones de internet en Brasil, haciéndolos responsables por el contenido publicado por terceros en las redes sociales.

Objetivo: Dada la reciente aparición del tema, este artículo tiene como objetivo general analizar si, a través de un cambio tan significativo, el Derecho puede contribuir a la desplataformización de la misoginia — entendida aquí como la eliminación de contenidos, individuos o grupos que promueven discursos misóginos en las redes sociales. Se argumenta que la plataformización de la misoginia ha sido históricamente favorecida por dos factores principales: la opacidad algorítmica en la distribución de contenidos y la ausencia de responsabilidad de los proveedores de aplicaciones de internet. El abordaje profundo de estas dos cuestiones constituye, por lo tanto, los objetivos específicos de este estudio.

Metodología: Se trata de una investigación exploratoria, con enfoque de abordaje deductivo y técnicas de investigación bibliográfica y documental.

Resultados: Se concluyó que la misoginia en las redes sociales se ve amplificada por estructuras algorítmicas opacas y por un modelo de negocio que obtiene beneficios de ella. Asimismo, la histórica ausencia de responsabilidad de los proveedores por los contenidos de terceros ha contribuido al mantenimiento de este escenario; sin embargo, los recientes avances jurídicos, en especial la decisión del STF, señalan la posibilidad de un mayor control. Regular las plataformas es, por lo tanto, esencial para la protección de los derechos fundamentales y para enfrentar la misoginia digital.

Biografía del autor/a

Deise Brião Ferraz, Universidade de Santa Cruz do Sul

Doutoranda em Direito no Programa de Pós-Graduação em Direito da Universidade de Santa Cruz do Sul – PPGD/UNISC, na linha de pesquisa Diversidade e Políticas Públicas, com bolsa PROSUC/CAPES II e período de Doutorado-Sanduíche na Universidad de la República (UDELAR) com bolsa PDSE/CAPES. Mestra em Direito e Justiça Social pelo PPGD/FURG, com bolsa CAPES/DS. Bacharela em Direito (FURG) e em Jornalismo (UCPEL). Integrante do Grupo de Pesquisa CNPQ/UNISC intitulado “Direito, Cidadania e Políticas Públicas”, do PPGD/ UNISC. Advogada e Professora de Direito.

Marli Marlene Moraes da Costa, Universidade de Santa Cruz do Sul

Doutora em Direito pela Universidade Federal de Santa Catarina - UFSC, com pós-doutoramento em Direito pela Universidade de Burgos - Espanha, com bolsa CAPES. Professora da Graduação e da Pós-Graduação Lato Sensu em Direito da Universidade de Santa Cruz do Sul - UNISC. Professora do Programa de Pós-Graduação em Direito - Mestrado e Doutorado da UNISC. Coordenadora do Grupo de Estudos Direito, Cidadania e Políticas Públicas do PPGD/UNISC. Membro do Conselho Consultivo da Rede de Pesquisa em Direitos Humanos e Políticas Públicas. Membro do Núcleo de Pesquisas Migrações Internacionais e Pesquisa na Região Sul do Brasil - MIPESUL. Integrante do Grupo de Trabalho em Apoio a Refugiados e Imigrantes (GTARI/UNISC).

Citas

ALI, Muhammad; SAPIEZYNSKI, Piotr; BOGEN, Miranda; KOROLOVA, Aleksandra; MISLOVE, Alan; RIEKE, Aaron. Discrimination through optimization: How Facebook’s ad delivery can lead to skewed outcomes, Proceedings of the ACM on Human-Computer Interaction, v. 3, n. CSCW, p. 1-30, nov. 2019. Disponível em: http://arxiv.org/abs/1904.02095.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Diário Oficial da União: seção 1, Brasília, DF, ano 151, n. 78, p. 1, 24 abr. 2014. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm

BRASIL. PL 2.338/2023. Dispõe sobre o uso da Inteligência Artificial. Brasília, DF: Senado Federal. Disponível em: http://www25.senado.leg.br/web/atividade/materias/-/materia/157233.

BRASIL. Supremo Tribunal Federal. Informação à sociedade. RE 1.037 (Tema 987) e 1.057.258 (Tema 533) Responsabilidade de plataformas digitais por conteúdo de terceiros. Disponível em: https://www.stf.jus.br/arquivo/cms/noticiaNoticiaStf/anexo/Informac807a771oa768SociedadeArt19MCI_vRev.pdf

CAPARRÓS, Mariana Sánchez. Los riesgos de la inteligencia artificial para el principio de igualdad y no discriminación. Planteo de la problemática y algunas aclaraciones conceptuales necesarias bajo el prisma del Sistema Interamericano de Derechos Humanos. elDial.com Contenidos Jurídicos, 2022, p. 1-22. Disponível em: http://www.researchgate.net/publication/361510404_Los_riesgos_de_la_inteligencia_artificial_para_el_principio_del_igualdad_y_no_discriminacion_planteo_de_la_problematica_y_algunas_aclaraciones_conceptuales_necesarias_bajo_el_prisma_del_Sistema_Intera.

COTTER, Kevin; MEDEIROS, Meghaan; PAK, Chong; THORSON, Kjerstin. “Reach the right people”: The politics of “interests” in Facebook’s classification system for ad targeting, Big Data & Society, v. 8, n. 1, p. 1–16, 2021. DOI: http://doi.org/10.1177/2053951721996046.

d’ANDRÉA, Carlos Frederico de Brito. Cartografando controvérsias com as plataformas digitais: apontamentos teórico-metodológicos, Revista Galaxia, n. 38, p. 28-39, maio-ago. 2018. DOI: https://doi.org/10.1590/1982-2554234208

FERRAZ, Deise Brião. COSTA, Marli Marlene Moraes da. O Protocolo de Julgamento com Perspectiva de Gênero como respostas institucional à pretensa universalização do feminino, amparada nos esforços internacionais de eliminação de todas as formas de discriminação contra as mulheres, Revista de Direito Internacional, v. 20, n. 1, p. 115-127, 2023a. Disponível em: http://uniceub.emnuvens.com.br/rdi/article/view/9070/pdf. Acesso em 01 abr. 2024.

FERRAZ, Deise Brião; COSTA, Marli Marlene Moraes da. Violência de gênero, subjetivação e homossociabilidade masculina: Nem sempre os processos de socialização acompanham a evolução legislativa. In: Clovis Gorczevski e André Viana Custódio (org.). Direito & políticas públicas, v. III, 1 ed. Porto Alegre: Free Press, 2023b, p. 309-328.

FERRAZ, Deise Brião; COSTA, Marli Marlene Moraes da. Políticas Públicas contra o assédio e violência sexual: estudo comparado entre o Protocolo de Barcelona “No Callamos” e o projeto de lei brasileiro que cria o Protocolo “Não é Não”. Revista Vertentes do Direito, [S. l.], v. 10, n. 2, p. 379–410, 2023c. DOI: https://doi.org/10.20873/uft.2359-0106.2023.v10n2.p379-410

FERRAZ, Deise Brião; COSTA, Marli Marlene Moraes da. A plataformização da misoginia na publicidade digital em redes sociais: um produto da opacidade algorítmica e da ausência de marco regulatório da inteligência artificial. Revista Direito UNIFACS – Debate Virtual, n. 291, 2024a. Disponível em: https://revistas.unifacs.br/index.php/redu/article/view/9111. Acesso em: 13 jan. 2025.

FERRAZ, Deise Brião; COSTA, Marli Marlene Moraes da. Microtrabalho na Inteligência Artificial: direitos fundamentais das mulheres e a ética do cuidado, Revista Brasileira de Sociologia do Direito, v. 11, n. 2, p. 25-43, 2024b. DOI: https://doi.org/10.21910/rbsd.v11i2.807

HOMEM, Maria. CALLIGARIS, Contardo. Coisa de menina? Uma conversa sobre gênero, sexualidade, maternidade e feminismo. Campinas: Papirus, 2019, p. 80.

KHOO, Cynthia. Deplatforming Misogyny. Report on platform liability for technology-facilitated gender-based violence. Women’s Legal Education and Action Fund, 2021. Disponível em: http://www.leaf.ca/publication/ deplatforming-misogyny/. Acesso em: 18 mar. 2024.

LILLY, Mary. ‘The World Is Not a Safe Place for Men’: The Representational Politics of the Manosphere.”. Otawa: University of Ottawa, 2016. Disponível em: http://ruor.uottawa.ca/server/api/core/bitstreams/1eee5112-7f22-4ffc-a49d-a978a56bed05/content. Acesso em: 17 mar. 2024.

SANTINI, R. Marie. SALLES, Débora. MATTOS, Bruno. BELIN, Luciane L. CANAVARRO, Marcela. MEDEIROS, Stéphanie. HADDAD, João G. SILVA, Daphne. SEADE, Renata. DIAS, Bernardo. GOMES, Matheus. Golpes, fraudes e desinformação na publicidade digital abusiva contra mulheres. Rio de Janeiro: NetLab – Laboratório de Estudos de Internet e Redes Sociais, Universidade Federal do Rio de Janeiro (UFRJ). Publicado em 08 de março de 2024. Disponível em: http://netlab.eco.ufrj.br/post/golpes-fraudes-e-desinformac-a-o-na-publicidade-digital-abusiva-contra-mulheres. Acesso em 19 mar. 2024.