La Comisión Europea ha constatado de forma preliminar que TikTok infringe el Reglamento de Servicios Digitales por el denominado «efecto espiral» (rabbit hole effect) de su sistema de recomendación. El feed «Para ti» de TikTok muestra a las personas usuarias un flujo continuo de vídeos personalizados, incluso cuando están relacionados con problemas de salud mental e imagen corporal.
Cuanto más interactúa una persona usuaria con un determinado tipo de contenido, más le recomienda el algoritmo del feed «Para ti» contenidos similares. Este diseño puede resultar perjudicial cuando esa exposición interminable y repetida incluye, por ejemplo, contenidos relacionados con la tristeza, el aislamiento o la imagen corporal. Estas espirales de contenido pueden tener un impacto negativo en la salud mental de las personas usuarias, en particular en la de las personas adultas vulnerables y las personas menores.
Por ejemplo, cuando una persona usuaria ve repetidamente o marca con «me gusta» contenido que puede resultar sensible, como contenido sobre la pérdida de peso o la imagen corporal, el sistema interpreta estas interacciones como señales positivas de interés y recomienda más contenido relacionado.
La exposición repetida a este tipo de contenido puede tener efectos negativos graves en el bienestar de las personas usuarias, entre ellos un aumento de los sentimientos de tristeza o ansiedad, insatisfacción con el propio cuerpo, menor autoestima o un agravamiento de trastornos alimentarios y problemas de salud mental ya existentes.
Aunque TikTok ya ha implementado determinadas medidas para reducir el riesgo del efecto de espiral, la Comisión ha llegado a la conclusión preliminar de que estas medidas no son eficaces.
Las medidas destinadas a recomendar contenidos más diversificados no reducen suficientemente la frecuencia con la que se siguen recomendando contenidos similares, incluidos aquellos relacionados con problemas de salud mental e imagen corporal.
Las herramientas de control tampoco permiten a las personas usuarias gestionar de manera eficaz el contenido que se les recomienda. Por ejemplo, utilizar el botón «No me interesa» puede no ser suficiente para modificar el feed de contenidos. El algoritmo da prioridad al tiempo de visualización como criterio para recomendar contenido, por encima de la elección de la persona usuaria de ver menos contenido de un determinado tipo.
En esta fase de la investigación, la Comisión considera que TikTok debe modificar el diseño del feed «Para ti». Por ejemplo, TikTok debería basarse más en las preferencias explícitas de las personas usuarias, dejar de utilizar el tiempo de visualización como indicador para recomendar contenido, mejorar la accesibilidad y la facilidad de uso de los controles a disposición de las personas usuarias y realizar pruebas periódicas de su algoritmo.
