TikTok y el impacto de sus algoritmos: un caso judicial revela riesgos críticos

Un documento judicial recientemente filtrado ha puesto el foco sobre las prácticas de moderación de contenido en TikTok. La investigación detalla cómo una prueba de A/B testing, diseñada para evaluar mejoras en el algoritmo de la plataforma, dejó a aproximadamente 15 millones de usuarios estadounidenses, incluyendo a un menor de 16 años llamado Chase Nasca, fuera de las medidas de seguridad que restringían la exposición a contenido dañino.

El funcionamiento del algoritmo y el grupo de control

El despliegue de estas medidas de seguridad comenzó a principios de 2022, con el objetivo de diversificar el feed y reducir los bucles de contenido perjudicial. Sin embargo, un 10% de los usuarios fue asignado a un grupo de control que continuó operando bajo el algoritmo anterior, careciendo de las salvaguardas implementadas. Según los documentos, la cuenta de Nasca fue incluida en este grupo, lo que resultó en que el sistema le recomendara miles de vídeos relacionados con el suicidio y la autolesión tras detectar búsquedas previas sobre estados emocionales complejos.

Análisis de la plataforma y postura oficial

El análisis interno de la compañía admitió que el usuario quedó atrapado en una burbuja de filtros, confirmando que las estrategias para prevenir este fenómeno no tuvieron efecto por diseño en el grupo de control. A pesar de que la empresa realizó esta investigación tras ser contactada por medios de comunicación en 2023, su postura pública ante el Congreso de los Estados Unidos ha mantenido que no consideran que el uso de la plataforma sea un factor causal directo en suicidios de usuarios. Ante las consultas recientes, la compañía ha reiterado su compromiso con la seguridad, destacando la inversión en equipos especializados y sistemas de detección proactiva para retirar contenidos que infrinjan sus normas de comunidad.