Nueva York acusa a TikTok de simular una herramienta de seguridad infantil

Documentos judiciales en Nueva York señalan que TikTok habría probado una versión falsa de su herramienta de seguridad para medir el uso de la plataforma y su impacto publicitario.

La fiscal general de Nueva York, Letitia James, acusó a TikTok de haber proporcionado a miles de niños y adolescentes una versión falsa de “Algo Refresh”, una función diseñada para reiniciar el algoritmo de recomendaciones y reducir la exposición a contenido no deseado o potencialmente dañino.

Cuerpo de la nota

Una herramienta de seguridad bajo cuestionamiento

Según los documentos judiciales, miles de usuarios activaron la función con la expectativa de modificar las recomendaciones que aparecían en sus cuentas. Sin embargo, quienes recibieron la versión simulada continuaron viendo contenido similar al anterior, a diferencia de quienes tuvieron acceso a la herramienta real.

Los registros, que permanecían sellados y fueron desclasificados por orden de un juez, indican que TikTok realizó pruebas durante 2023 con miles de cuentas. La compañía habría comparado el tiempo que permanecían conectados los usuarios y el impacto de la función en los ingresos publicitarios.

La acusación sostiene que el experimento permitió evaluar el comportamiento de quienes recibieron la herramienta auténtica frente a quienes utilizaron una versión placebo, sin que sus recomendaciones cambiaran de la misma manera.

Un empleado advirtió sobre el experimento

Los documentos también incluyen la objeción de un gerente de producto del área de Bienestar Digital de TikTok, quien cuestionó internamente la prueba antes de su ejecución.

“Esta función trata sobre transparencia y control del algoritmo. Un grupo placebo entra en conflicto total con eso”, escribió el empleado, según el mensaje citado en la demanda.

Pese a la advertencia, la empresa continuó con los ensayos. La fiscalía considera que las pruebas forman parte de un conjunto de prácticas que deben examinarse para determinar si TikTok engañó a los usuarios sobre las medidas de protección disponibles para menores.

En respuesta a Reuters, un portavoz de TikTok afirmó que la empresa prueba habitualmente nuevas funciones para validar la experiencia y conocer su funcionamiento en condiciones reales. También rechazó la interpretación de la demanda sobre “Algo Refresh”.

Nueva York suma el caso a demandas contra TikTok

La investigación se integra en una ofensiva legal de más de veinte estados de Estados Unidos contra la plataforma, a la que acusan de utilizar mecanismos que fomentan el uso excesivo entre menores y de presentar de manera engañosa sus medidas de seguridad.

Letitia James inició la demanda original en 2024. Los señalamientos relacionados con las pruebas placebo se incorporaron a una versión actualizada del expediente, cuya desclasificación fue ordenada por un juez durante la semana en que se difundieron los documentos.

El expediente también menciona otro experimento, reportado previamente por Bloomberg, en el que TikTok habría desactivado aleatoriamente funciones reales de seguridad para 15 millones de usuarios en Estados Unidos.

Entre los casos citados figura el de un adolescente de Nueva York que murió por suicidio después de recibir, según registros internos mencionados en la causa, una gran cantidad de contenido relacionado con las autolesiones y el suicidio. La referencia forma parte de los argumentos legales y no constituye por sí misma una resolución judicial sobre la responsabilidad de la plataforma.

TikTok sostiene públicamente que la seguridad es una prioridad y que su servicio cuenta con medidas para proteger a los adolescentes. El litigio continúa abierto y la fiscalía estatal prevé presentar más documentos conforme avance el proceso.

Meta también enfrenta acusaciones por el diseño de sus plataformas

TikTok no es la única compañía tecnológica cuestionada por el impacto de sus servicios en menores. Meta, propietaria de Instagram y Facebook, enfrenta demandas en Estados Unidos que señalan que determinadas características de sus plataformas están diseñadas para prolongar el uso y aumentar la interacción.

Entre las funciones cuestionadas se encuentran el desplazamiento infinito, conocido como scrolling, y las notificaciones constantes, que, según los demandantes, pueden incentivar el uso prolongado entre jóvenes.

También existen acusaciones sobre el manejo de investigaciones internas relacionadas con la salud mental juvenil y la recopilación de datos de menores de 13 años. Estos señalamientos forman parte de litigios y deberán evaluarse dentro de los procesos correspondientes.

El caso contra TikTok vuelve a poner bajo escrutinio la transparencia de las plataformas digitales y la eficacia de las herramientas que ofrecen para limitar la exposición de niños y adolescentes a contenido potencialmente perjudicial.

Noticias del tema