La vida secreta de los moderadores de las redes sociales

Hay muchos contenidos que se consideran demasiado violentos, sexuales, abusivos o de otro tipo para ser vistos en las redes sociales. TikTok, Instagram, Facebook, Twitter/X, todos ellos moderan sus contenidos en mayor o menor medida, pero si pensabas que había un gran ordenador detrás de todo esto, quizá quieras pensártelo otra vez.

Personas de carne y hueso son las que criban el contenido que se sube a estos sitios, asegurándose de que, aunque puede que nosotros nunca veamos imágenes horripilantes, ellos están expuestos a ellas de forma constante y diaria. La BBC habló con el moderador Mojez, de Nairobi, sobre los estragos que puede causar en la vida de un moderador.

"Si coges tu teléfono y vas a TikTok, verás un montón de actividades, bailes, ya sabes, cosas felices", dijo. "Pero en el fondo, yo personalmente estaba moderando, por centenares, vídeos horribles y traumatizantes. Lo asumí. Dejé que mi salud mental se llevara el golpe para que los usuarios en general pudieran seguir con sus actividades en la plataforma".

Aunque hay moderadores en todo el mundo, una gran parte están establecidos en África Oriental, y muchos de ellos afirman que el trabajo ha destruido su salud mental. Algunos han abandonado por completo el sector, mientras que otros se han unido para formar un sindicato.

Se está trabajando en modelos de IA para llevar a cabo esta moderación, pero necesitan ser entrenados por personas que, por tanto, seguirán teniendo que ver contenidos truculentos y abusivos. Hasta que una herramienta de este tipo pueda moderar perfectamente los espacios en línea, habrá personas en primera línea.