Tecnología

Los supremacistas blancos aún están en Facebook: cuando la monetización ignora a la moderación

La organización sin fines de lucro Tech Transparency Project (TTP) publicó un estudio en el que señaló que en Facebook proliferan los grupos supremacistas blancos a pesar de las prácticas de moderación informadas por la compañía. Además, el reporte del organismo de control nota que en esas páginas aparecen anuncios publicitarios, una variable que pone sobre la mesa un debate paralelo: ¿por qué una empresa lucra en espacios que supuestamente prohíbe?

El informe de TTP señala que estos grupos aún tienen una presencia significativa en Facebook. Los siguientes son algunos de los datos que incluye el estudio:

  • Más de 80 agrupaciones racistas están en la red social, algunas de las cuales fueron anteriormente etiquetadas por Facebook como “organizaciones peligrosas”.
  • Los investigadores encontraron 119 páginas y 20 grupos de supremacistas blancos.
  • Además, hallaron 24 páginas que Facebook creó automáticamente cuando se mencionaron grupos de supremacistas blancos como empleadores o como “intereses”.

Según Washington Post, la red social mostró anuncios junto a las búsquedas de grupos supremacistas blancos, incluso cuando esos grupos fueron castigados por la empresa estadounidense.

 

Las redes sociales ante el desafío de moderar los discursos de odio

Libby Hemphill, profesora de la Universidad de Michigan, comentó a la fuente mencionada que los grupos de odio son cada vez más hábiles para eludir las restricciones de contenido y que el estudio de TTP sugiere que los esfuerzos de las empresas que gestionan redes sociales no siempre tienen éxito.

Frances Haugen, exmpleada de Facebook que reveló secretos de la compañía luego de apartarse de ella, entre sus muchas críticas dijo que el filtrado algorítmico de contenido de la red social solo detectó a una “pequeña minoría” de discurso de odio.

 

La respuesta de Meta

En declaraciones al sitio Engadget, desde Meta señalaron que inmediatamente eliminaron los anuncios de búsquedas vinculadas a grupos prohibidos. Además dijeron que solucionaron el problema de las páginas generadas en forma automática.

En el mismo comunicado, la compañía que dirige Mark Zuckerberg prometió seguir trabajando junto a expertos para controlar los discursos de odio y otros contenidos extremistas.

Los 270 grupos que Meta ha designado como organizaciones supremacistas blancas están prohibidos en nuestra plataforma. Invertimos mucho en tecnología, personas e investigación para mantener nuestras plataformas seguras. Resolvimos de inmediato un problema en el que aparecían anuncios en búsquedas de términos relacionados con temas prohibidos, organizaciones y también estamos trabajando para solucionar un problema de generación automática, que afectó incorrectamente a una pequeña cantidad de páginas”, señalaron.

“Continuaremos trabajando con expertos externos y organizaciones en un esfuerzo por adelantarnos al contenido violento, odioso y relacionado con el terrorismo y eliminar dicho contenido de nuestras plataformas”, cerraron.

Artículos Relacionados