Tabla de contenidos
Un informe confidencial sacó a la luz una severa controversia relacionada con las decisiones de diseño algorítmico y pruebas A/B realizadas en plataformas de video corto. De acuerdo con documentos internos revelados por medios internacionales, la red social TikTok retuvo la implementación de un filtro de seguridad contra contenido sensible a cerca de 15 millones de usuarios en Estados Unidos como parte de un experimento para medir métricas de uso e interacción en la aplicación.
El caso pone sobre la mesa el debate ético sobre los experimentos en plataformas digitales, la salud mental de los jóvenes y la responsabilidad de las corporaciones tecnológicas en la moderación de sus contenidos. A continuación, se detallan los aspectos clave de este informe, la postura de la empresa y los riesgos asociados a los bucles de recomendación.
El experimento: Pruebas A/B en filtros de moderación
Según los reportes, a finales de 2021 la compañía desarrolló una actualización en su sistema de recomendaciones diseñada para romper patrones repetitivos y evitar que los usuarios quedaran atrapados en “burbujas de filtro” (filter bubbles) con videos sobre depresión, autolesiones y temáticas sensibles.
Sin embargo, para evaluar la efectividad de la herramienta y medir si la interrupción de estos contenidos afectaba el tiempo de permanencia o los usuarios activos diarios (DAU), se estableció un experimento:
- Grupo de control del 10%: Cerca de 15 millones de personas en EE. UU. fueron excluidas intencionalmente de la actualización de seguridad para comparar su comportamiento frente al 90% que sí contaba con la protección activa.
- Inclusión de menores: El experimento no filtró a los usuarios por edad, asignando aleatoriamente a jóvenes dentro del grupo sin protección.
Te recomendamos leer – Regreso a clases 2026: Power banks imprescindibles para tu mochila
El impacto documentado y la revisión interna
La polémica escaló tras analizarse el caso de Chase Nasca, un joven de 16 años de Nueva York asignado al grupo de control, quien falleció en febrero de 2022. La reconstrucción posterior de su historial de navegación por parte del equipo técnico reveló que el 73% de los más de 7,500 videos recomendados en sus últimas dos semanas abordaban temas de salud mental, soledad y tristeza, con un porcentaje directo de contenidos que violaban las propias políticas internas de la plataforma.
A raíz de este análisis, los reportes internos sugirieron ajustar el tamaño de los grupos de prueba a menos del 1% y limitar la duración de las pruebas A/B a siete días para reducir los riesgos de exposición prolongada en los usuarios.
Postura de la plataforma y litigios legales
Ante la difusión del informe, voceros de la empresa señalaron que las pruebas comparativas son una práctica estándar en la industria de la ingeniería de software para confirmar que las mejoras de seguridad funcionen correctamente antes de su despliegue masivo, asegurando que desde entonces han refinado sus protocolos de prueba.
Actualmente, el hallazgo suma presión en los tribunales estadounidenses, donde avanzan miles de demandas presentadas por familias y estados que cuestionan si el diseño deliberado de los algoritmos de recomendación puede generar responsabilidad legal en casos de daños a la salud mental de los menores.
Para más contenidos como este no olvides seguirnos en nuestras redes sociales: Tiktok, Instagram y Facebook.
