Según un nuevo estudio, para que TikTok y YouTube Shorts recomienden contenidos tóxicos o misóginos a las cuentas de hombres jóvenes se necesitan de media entre 23 y 26 minutos de visionado de vídeos.
El estudio de la Dublin City University ha realizado un seguimiento de los contenidos recomendados a 10 cuentas 'títeres' de TikTok y YouTube Short creadas por los investigadores en 'smartphones' nuevos.
Todas las cuentas estaban dirigidas a mostrar los intereses de búsqueda de chicos de 16 y 18 años, ya fuera con contenidos habituales, como deportes o videojuegos, o para replicar a los que buscan a propósito contenidos misóginos online.
La investigación descubrió que se necesitaban aproximadamente 23 minutos de visionado de vídeos tanto en TikTok como en YouTube Shorts para que los algoritmos empezaran a recomendar contenido "tóxico" y 26 minutos para recomendar contenido 'manfluencer' ('influencer' masculino) en las diferentes cuentas.
Los vídeos recomendados a veces podían llegar tan pronto como después de dos minutos de visualización en YouTube Shorts y 10 minutos en TikTok para las cuentas que mostraban cierto interés en aprender más sobre 'manfluencers'. Se trata de vídeos que son ampliamente considerados como promotores de ideas antifeministas y propias de una concepción tóxica de la masculinidad.
"Las conclusiones de este informe apuntan a cuestiones urgentes y preocupantes para padres, profesores, responsables políticos y la sociedad en su conjunto", se lee en el informe.
Monetización de la inseguridad masculina y falta de transparencia sobre los algoritmos
29 horas de vídeo en las 10 cuentasSegún los investigadores, la gran mayoría de los contenidos que se sugerían después de dos o tres horas, o 400 visionados de vídeo, eran problemáticos o tóxicos. Una vez que un vídeo de un 'manfluencer' era recomendado y visto por la cuenta de un joven, se volvía mucho más probable que fuera recomendado.
El informe identificó tres temas principales de estos vídeos de 'manfluencers': narrativas de crisis, como que la masculinidad y la "familia nuclear" están amenazadas; vídeos motivacionales que convencen a los hombres de que sentir emociones o depresión puede ser castrante; o vídeos de supuesta ciencia sobre género que muestran conceptos de la psicología evolutiva de que los hombres y las mujeres están "programados" para diferentes roles.
El estudio sugiere que también existe un vínculo entre los vídeos de 'manfluencer' y los contenidos conspirativos de derechas: El 13% de todo el contenido recomendado en TikTok y el 5% en YouTube para estas cuentas incluía estos conceptos.
"Esta monetización de la inseguridad masculina no solo sirve para generalizar la ideología antifeminista y anti-LGBTQ, sino que también puede funcionar como puerta de entrada a la extrema derecha marginal y otras visiones extremas del mundo", se lee en el informe.
Una de las limitaciones del estudio es la falta de transparencia de las empresas de redes sociales sobre el funcionamiento de sus algoritmos. Esto significa que no se dispone de información esencial sobre cómo las plataformas elaboran sugerencias de contenidos personalizados basándose en el historial de visitas.
TikTok replica que el estudio no "refleja" la experiencia de los usuarios
YouTube ShortsTikTok dijo en un comunicado enviado por correo electrónico que el informe de la Dublin City University no refleja cómo su base de usuarios experimentaría los vídeos en su plataforma. El comunicado también señala que el tamaño de la muestra en el estudio es extremadamente limitado, tanto en el número de cuentas utilizadas como en la cantidad de vídeos vistos. TikTok también dice que no permiten el discurso de odio o el discurso de odio, como la misoginia y la transfobia en su plataforma y eliminan el contenido que viola sus directrices de la comunidad.
"Si tenemos conocimiento de que algún actor de este tipo puede estar en nuestra plataforma, llevaremos a cabo una revisión exhaustiva (incluido el comportamiento fuera de la plataforma) que puede dar lugar a la prohibición de la cuenta", se lee en la página web de las directrices de la comunidad de TikTok.
La empresa dice que hace lo mismo con sus vídeos recomendados en la sección "Para ti", donde el sistema de recomendaciones sustituye contenidos menos similares en la sección de una persona si considera que dos vídeos son demasiado parecidos.
Los usuarios también pueden controlar lo que ven señalando que un tipo de vídeo no les interesa, refrescando sus feeds o filtrando determinadas palabras clave.
TikTok está siendo objeto de dos investigaciones en virtud de la Ley de Servicios Digitales de la UE sobre "protección de menores" y "diseño adictivo" por el nuevo TikTok Lite de la plataforma, lanzado recientemente en Francia y España.
El pasado noviembre, la Comisión Europea pidió a YouTube que informara sobre cómo protege a los menores online con arreglo a la nueva Ley de Servicios Digitales.
Moderación de contenidos basada en cuentas
recomendacionesSugiere que las empresas de redes sociales no solo moderen los contenidos en función de los vídeos, sino que también regulen qué cuentas pueden publicar.
Irlanda cuenta con un nuevo regulador de los medios de comunicación, el 'Coimisiún na Meán', con el que el informe sugiere que colaboren las empresas de redes sociales para "poner de relieve los contenidos ilegales, nocivos y fronterizos".
Para las escuelas, el informe sugiere que se dé prioridad a la promoción de modelos masculinos positivos en las aulas como forma de "promover una respuesta educativa en lugar de punitiva a los comportamientos de los chicos". También sugiere que las escuelas se centren en fomentar las competencias digitales críticas.
Los padres también podrían entablar conversaciones con sus hijos adolescentes para entender por qué idealizan a determinadas personas influyentes y animarles a "comprometerse con recursos afines". TikTok afirma en su comunicado que dispone de recursos para ayudar a los padres en estas conversaciones.