Los algoritmos de TikTok, Instagram y X empujaron cuentas simuladas de jóvenes hacia contenido de ejecuciones gráficas, material sexualizado y emocionalmente perturbador en apenas 60 minutos de uso habitual, según un nuevo estudio publicado este lunes por 5Rights Foundation, Revealing Reality y profesionales de la salud. La investigación, realizada en México junto al Instituto Nacional de Salud Pública y con el apoyo de El Hilo de Ariadne, utilizó avatares digitales diseñados para replicar el comportamiento en línea de niños, niñas y adolescentes reales.
TikTok, Instagram y X podrían exponer a niñas y niños chilenos a ejecuciones y material sexualizado en menos de una hora de uso
Una investigación internacional usó cuentas simuladas de adolescentes para registrar cómo TikTok, Instagram y X las dirigieron a contenido de ejecuciones, material sexualizado y emocionalmente dañino en menos de 60 minutos de uso.
Nacional
Caso Audios salpica a Gabriel Zaliasnik, el nuevo embajador de Chile en Israel: "¿Cómo te ha ido con nuestro tema?"
Nuevos antecedentes del Caso Audios salieron a la luz donde aparece el imputado abogado Luis Hermosilla, preguntando por un “tema” a Gabriel Zaliasnik.
Economía
IPC de mayo subió 0,2% motivado por alzas en el precio del gas licuado, carne de vacuno y transportes
Los avatares estuvieron activos solo 60 minutos en total, distribuidos en 12 días —un promedio de cinco minutos diarios—. En ese lapso, los sistemas de recomendación de las tres plataformas condujeron las cuentas a contenido relacionado con la depresión sin recursos de apoyo, videos de ejecuciones sin advertencias y material sexualmente explícito que, según el informe, cosificaba a mujeres y niñas. En TikTok, por ejemplo, un avatar que dio "me gusta" a un pequeño número de publicaciones sobre tristeza fue expuesto en menos de 40 minutos a un video que normalizaba conductas de autolesión. En X, otro avatar encontró imágenes sin censura de la ejecución de una celebridad en menos de 15 minutos de navegación.
Nacional
Caso Audios salpica a Gabriel Zaliasnik, el nuevo embajador de Chile en Israel: "¿Cómo te ha ido con nuestro tema?"
Economía
IPC de mayo subió 0,2% motivado por alzas en el precio del gas licuado, carne de vacuno y transportes
Beneficio
Cupón de Gas Licuado: hasta cuándo se puede postular y cómo se puede cobrar
Cómo amplifican las plataformas el contenido dañino
Las investigadoras identificaron tres mecanismos principales. Primero, los algoritmos de recomendación intensificaron la exposición al contenido más perturbador a medida que los avatares interactuaban con publicaciones neutras. Segundo, las funciones de búsqueda de TikTok mostraron videos cada vez más sexualizados tras búsquedas de términos comunes como "bikini" y "belleza"; en X, búsquedas de palabras como "Sinaloa" y "enfrentamientos" inundaron los resultados con decapitaciones y videos de presuntos reclutamientos por parte del narcotráfico. Tercero, las herramientas de ludificación —sistemas de monedas y recompensas— incentivaron el consumo prolongado incluso mientras se mostraban contenidos emocionalmente perturbadores.
A esos hallazgos se sumó otro: pese a que las tres plataformas exigen a sus usuarios tener al menos 13 años, los avatares accedieron a los servicios simplemente ingresando una fecha de nacimiento falsa, sin ningún proceso de verificación significativa. TikTok e Instagram, que afirman usar tecnología para identificar a niños, niñas y adolescentes, tampoco aplicaron protecciones adicionales.
Marie-Ève Nadeau, jefa de Asuntos Internacionales de 5Rights Foundation, indicó en el comunicado que "el contenido dañino no es un accidente, sino que está siendo amplificado activamente por diseño, y que, a pesar de las afirmaciones públicas de las empresas tecnológicas, estas no han logrado realizar cambios significativos en sus sistemas, que son la causa raíz de los daños". Por su parte, Leonor Rivera, del Instituto Nacional de Salud Pública de México, subrayó que "el diseño de estas plataformas normaliza la violencia y puede afectar directamente la salud mental de niñas, niños y adolescentes".
Redes sociales y seguridad infantil en Chile: el debate legislativo
Los hallazgos llegan en un momento en que el Congreso chileno debate al menos dos iniciativas para restringir el acceso de niños, niñas y adolescentes a redes sociales. En el Senado, la Comisión de Desafíos del Futuro estudia el proyecto de la senadora Ximena Ordenes, el senador Matías Walker y otros, que prohíbe el acceso a redes sociales para menores de 16 años (boletín 18090-19). En paralelo, la Comisión de Educación comenzó a analizar una segunda moción (boletín 18.277-04) que restringe el acceso a menores de 14 años, presentada por los senadores Javier Macaya, Iván Moreira, Gustavo Sanhueza, Enrique Van Rysselberghe y Cristian Vial. El Ejecutivo también anunció a fines de abril un proyecto propio en el marco del plan "Entornos Digitales Seguros", impulsado desde el Ministerio de Desarrollo Social.
Aunque el estudio fue realizado en México, las investigadoras advirtieron que los sistemas de estas plataformas operan a nivel global y probablemente producen experiencias similares para niños, niñas y adolescentes en toda América Latina, incluido Chile.
Temas
Te Puede Interesar
Nacional
Caso Audios salpica a Gabriel Zaliasnik, el nuevo embajador de Chile en Israel: "¿Cómo te ha ido con nuestro tema?"
Por Cristian Neira
Sudamérica
Elecciones en Perú: Keiko Fujimori admite un "empate técnico" y anticipa que respetará los resultados
Por Cristian Neira - EFE
Economía
IPC de mayo subió 0,2% motivado por alzas en el precio del gas licuado, carne de vacuno y transportes
Por Cristian Neira
Asia
Terremoto en Filipinas: mega temblor de magnitud 7,8 provoca 20 muertos y más de 10 desaparecidos
Por Cristian Neira - EFE
Kimal Lo Aguirre: Mega línea eléctrica para traer energía solar del norte a Santiago espera instancias clave
Por María del Mar Parra