Volkswacht Bodensee - TikTok s'attaque aux comptes proposant uniquement du contenu généré par IA

"Dans les prochaines semaines, TikTok testera des améliorations des systèmes de détection afin de cibler les comptes dédiés à la publication de spam généré par l'IA sur des sujets susceptibles d'avoir un impact sur la confiance du public ou le bien-être des utilisateurs", a indiqué le groupe dans un communiqué.

Il a précisé que les thématiques liées à la politique et l'actualité, la santé et les conseils financiers étaient concernées, et relevé que ces contenus nuisaient "à la visibilité des créateurs originaux".

Selon des éléments partagés avec l'AFP, la plateforme considère que ces comptes dit "spam" sont notamment ceux qui produisent des contenus IA "de faible qualité et très standardisés", révèlent une "concentration" de sujets à haut risque susceptibles de nuire à la confiance du public, et achètent ou vendent des abonnés.

Elle n'a pas donné davantage de détails sur les mesures techniques mises en place pour améliorer la détection de ces comptes.

TikTok, comme d'autres réseaux sociaux, est touché par une prolifération de contenus générés par IA, parfois utilisés par des comptes comme un moyen de générer une forte audience à faible coût.

Ce phénomène a été baptisé "AI slop", ou "bouillie d'IA", pour décrire des contenus de piètre qualité, parfois absurdes.

Les outils d'IA générative sont aussi utilisés par des comptes avec des objectifs plus politiques ou militants, voire à des fins de désinformation.

L'AFP, parmi plus d'une quinzaine d'organisations de fact-checking, est rémunérée par TikTok dans plusieurs pays pour vérifier des vidéos qui contiennent potentiellement de fausses informations.

En réponse à une avalanche de contenus générés par IA, qui peuvent nuire à l'expérience des utilisateurs et les pousser à délaisser les réseaux, plusieurs plateformes ont pris des mesures pour détecter les contenus concernés.

En 2024, TikTok avait déjà annoncé un signalement automatique des contenus créés par IA.

Le réseau social Pinterest a quant à lui annoncé en octobre 2025 qu'il permettait aux utilisateurs de filtrer une partie des contenus générés par IA et postés sur la plateforme.

A.Zbinden--VB