Condenado a finales de mayo en Europa por protección de datos, el grupo Meta es atacado en otro frente en Kenia: la labor de los moderadores de contenidos, empleados en la sombra encargados de eliminar las publicaciones violentas y de odio de Facebook.
En Kenia, tres denuncias se dirigieron a Meta y a la empresa californiana Sama, a la que el grupo propietario de Facebook, WhatsApp e Instagram subcontrató la moderación de sus contenidos de redes sociales para África subsahariana entre 2019 y 2023. Dos fueron presentadas por moderadores de contenido empleados por Sama en Nairobi. Su trabajo consistía en revisar y eliminar de Facebook las publicaciones que fueran violentas, llamando al odio o difundiendo información errónea.
Preguntados por AFP, ni Sama ni Meta quisieron pronunciarse sobre la actualidad. AFP es socio de Meta, brindando servicios de verificación de hechos en Asia-Pacífico, Europa, Medio Oriente, América Latina y África.
Trauma
Una primera denuncia fue presentada en mayo de 2022 en el Tribunal de Empleo y Relaciones Laborales por un sudafricano, Daniel Motaung. Denuncia condiciones laborales «inhumano», métodos engañosos de contratación, remuneración irregular e insuficiente, así como la falta de apoyo psicológico ante el trauma sufrido por esta actividad. También afirma haber sido despedido después de intentar formar un sindicato. El caso aún no ha sido juzgado.
En marzo, se presentó una segunda denuncia por parte de otros 184 empleados alegando haber sido despedidos indebidamente por parte de Sama, que anunció que cesaba su actividad en la moderación de contenidos. Exigen compensación por sus salarios «insuficiente» pagar “el riesgo al que estaban expuestos” y los “daños a su salud mental”. A la espera de una sentencia sobre el fondo, estos trabajadores despedidos fueron suspendidos el 2 de junio por el Tribunal Laboral, que ordenó a Meta y Sama a “brindar atención psicológica y médica adecuada a los afectados”. Meta y Sama han anunciado su intención de apelar.
Otra denuncia, en diciembre de 2022, los acusó de inacción frente al discurso de odio, que según los sospechosos culminó con el asesinato en 2021 de un profesor universitario en Etiopía.
Estos casos son los más importantes en materia de moderación de contenidos desde una demanda colectiva presentada en 2018 en Estados Unidos. En mayo de 2020, Facebook acordó pagar a los moderadores 52 millones de dólares como compensación por los efectos de su trabajo en su salud mental. Las denuncias presentadas en Nairobi apuntan a señalar un esquema de subcontratación que, según sus críticos, está siendo utilizado por Meta para tratar de evadir responsabilidades.
«Habitaciones oscuras»
Al igual que Sama en Nairobi, Meta subcontrata la moderación de contenidos en Facebook a empresas que operan en más de 20 lugares del mundo y generan más de 2 millones de elementos diarios, según datos proporcionados por el grupo a la AFP. Sus abogados argumentaron que el grupo no podía ser juzgado en Kenia, donde no tiene ninguna actividad y donde no es un empleador directo. Pero en su sentencia del 2 de junio, la justicia demostró que Meta estaba “Digital Labor y Digital Workspace Owner”.
“Estos casos levantan el velo de los verdaderos cuartos oscuros de la moderación de contenidos”señala Brandie Nonnecke, directora del Centro de Derecho y Tecnología de la Universidad de California, Berkeley. «El público en general no se da cuenta de lo peligroso y horrible que puede ser el contenido y cuál es el costo humano de la moderación»Ella cree.
Para Cori Crider, directora de la asociación británica Foxglove, que apoya las denuncias en Kenia, «el objetivo principal en este negocio es cambiar la forma de trabajar». El caso del asesinato en Etiopía y el caso de las condiciones de trabajo son «dos lados de la misma moneda», argumenta, porque las condiciones de trabajo degradadas conducen a una moderación deficiente, lo que puede tener consecuencias mortales. Más allá del Meta, estos casos revelados “el lado oscuro de las redes sociales en general”ella señala.
Para Brandie Nonnecke, son «el síntoma» de un problema más profundo: «Las plataformas [de réseaux sociaux] tienen sistemas integrados que son un polvo para que el contenido dañino compartido se vuelva viral. Y difícilmente se les hace responsables. » Según ella, “Deben verse obligados a diseñar sus plataformas de una manera que no fomente la publicación y el intercambio de contenido dañino. Esto podría detener la publicación de contenido dañino en la fuente. »
