Las conclusiones preliminares señalan fallos del algoritmo de TikTok al evaluar riesgos y evitar contenidos repetitivos. La empresa puede presentar alegaciones.
La Comisión Europea considera, de forma preliminar, que el algoritmo de TikTok puede incumplir el Reglamento de Servicios Digitales por sus espirales de contenido. El análisis, publicado el 6 de noviembre, se centra en la sección Para ti. Bruselas cuestiona cómo se evalúan y reducen los riesgos de recomendar repetidamente vídeos sobre asuntos sensibles. También examina la eficacia de los controles disponibles para el usuario. El procedimiento continúa abierto y la plataforma puede defender su actuación.
El algoritmo de TikTok puede interpretar el tiempo de visualización como una petición de más vídeos similares
La sección Para ti utiliza señales de actividad para decidir qué vídeos aparecen después. Entre ellas están el tiempo dedicado a verlos y las reacciones marcadas por el usuario. Según las conclusiones preliminares, el sistema interpreta determinadas interacciones como muestras de interés y recomienda contenidos parecidos. Ese mecanismo puede reforzar exposiciones sucesivas a mensajes sobre tristeza, aislamiento o imagen corporal. La investigación presta especial atención a los menores y adultos vulnerables. Su alcance comprende tanto el diseño del recomendador como sus posibles efectos sobre el bienestar.
La Comisión explica que una secuencia de vídeos similares puede alimentar esas espirales incluso cuando el usuario intenta modificar lo que recibe. Examina así una cuestión distinta de la protección de datos personales: cómo influye la selección automática en la experiencia dentro de la aplicación. En este expediente, Bruselas observa posibles deficiencias en la evaluación previa de esos riesgos. La exposición repetida a contenidos sensibles preocupa por sus efectos potenciales sobre usuarios vulnerables. No se presenta como un diagnóstico individual de quienes utilizan la plataforma.
El botón No me interesa pierde eficacia si pesan más los segundos de visualización
Uno de los ejemplos más concretos del comunicado europeo afecta al control No me interesa. Según la investigación, utilizarlo puede resultar insuficiente para cambiar los vídeos recomendados. El algoritmo daría más importancia al tiempo de visualización que a la indicación expresa de recibir menos contenido de ese tipo. También se cuestiona la eficacia de las medidas destinadas a diversificar las recomendaciones. Para la Comisión, introducir herramientas de control no basta si estas no reducen razonablemente el riesgo detectado en el funcionamiento real del servicio.
Bruselas plantea cambios en el diseño de Para ti. Entre ellos figuran dar más peso a preferencias expresas y dejar de utilizar el tiempo de visualización como indicador de recomendación. Añade controles más accesibles, más fáciles de utilizar y pruebas periódicas del algoritmo. Son las modificaciones que considera necesarias en esta fase del procedimiento. El debate afecta a la relación entre lo que una persona indica y lo que acaba recibiendo. Resulta especialmente relevante cuando mirar un contenido y querer seguir viéndolo son señales diferentes.
La normativa exige explicar las recomendaciones y ofrecer una opción sin perfiles
El Reglamento de Servicios Digitales ya establece obligaciones sobre los sistemas de recomendación. Su artículo 27 exige explicar los principales criterios utilizados y las opciones disponibles para modificarlos. Cuando existen alternativas de ordenación, el usuario debe poder elegirlas y cambiarlas mediante una función fácilmente accesible. El artículo 38 añade otra exigencia para las plataformas y buscadores de muy gran tamaño. Deben ofrecer al menos una opción de recomendación que no se base en elaborar perfiles. Estas obligaciones preceden a las conclusiones publicadas el viernes.
La protección de usuarios jóvenes también aparece en los controles de cuentas escolares. Ese ámbito tiene reglas propias, distintas de las obligaciones del recomendador de TikTok. En los recomendadores, la ley distingue la transparencia de los parámetros y la reducción de riesgos sistémicos. Los artículos 34 y 35 obligan a evaluar esos riesgos y adoptar medidas razonables, proporcionadas y eficaces. Entre las actuaciones previstas figuran adaptar interfaces y comprobar el funcionamiento de los sistemas algorítmicos.
TikTok podrá responder antes de una decisión que podría incluir una multa
La Comisión basa su posición en informes de riesgos, datos, documentos internos y respuestas de la plataforma a solicitudes de información. También revisó investigación científica y consultó a especialistas en sistemas de recomendación, psicología y psiquiatría. El coordinador irlandés de servicios digitales apoyó el trabajo. El expediente contiene otras líneas de investigación, pero las conclusiones del 6 de noviembre se refieren específicamente a estas espirales. En febrero se habían presentado conclusiones sobre diseño adictivo y en julio sobre protección de menores.
Ahora TikTok puede acceder a los documentos del expediente y responder por escrito. La Comisión consultará además a la Junta Europea de Servicios Digitales. Si las conclusiones se confirman, podría adoptar una decisión de incumplimiento con sanción económica. El máximo previsto alcanza el 6% del volumen de negocios anual mundial del proveedor. La cuantía dependería de factores como gravedad, duración y reiteración. Para los usuarios, la novedad es el cuestionamiento formal del diseño de Para ti y sus controles; la resolución definitiva sigue pendiente.