Cette annonce fait suite à la montée en puissance des technologies de deep learning et de machine learning, qui permettent de créer des images, des vidéos et des sons d'un réalisme impressionnant ou dans des styles artistiques variés. TikTok, annonçant vouloir maintenir des expériences « authentiques et transparentes », a mis en place de nouvelles règles pour la publication de ce type de contenu.
Qu'est-ce que le Contenu Généré par l'IA ?
Le contenu généré par l'IA inclut toute création numérique - images, vidéos ou sons - générée ou modifiée par des algorithmes d'apprentissage automatique. Ce contenu peut représenter des personnes réelles de manière très réaliste ou être stylisé (peintures, dessins animés etc.).
Voici des exemples de contenus générés par l’IA :
- Vidéos montrant une personne réelle avec son image, sa voix ou ses paroles altérées par l'IA.
- Scènes ou événements réels modifiés par l'IA.
- Images ou vidéos de personnes, lieux et événements réels ou fictifs créés entièrement par l'IA.
Inscrivez-vous à la newsletter Livv
et recevez chaque semaine des informations exclusives en droit des affaires. En savoir plus
Les nouvelles conditions pour publier du contenu généré par l'IA sur TikTok
TikTok demande désormais aux créateurs de mentionner explicitement lorsque leur contenu a été généré ou modifié de manière significative par l'IA.
Les créateurs pourront indiquer que le contenu est généré par l'IA en ajoutant du texte, un sticker, ou un hashtag dans la description de la vidéo.
En outre, TikTok indiquera automatiquement « contenu généré par l’IA » lorsque les outils de détection de la plateforme identifieront du contenu créé ou modifié par l’IA. Inversement, publier du contenu non modifié artificiellement, en l’indiquant comme tel constituera une violation des conditions d’utilisation pouvant entraîner la suppression de la vidéo.
TikTok affirme que ces nouvelles exigences sont nécessaires afin d’empêcher la diffusion d'informations trompeuses, et éviter les usurpations d'identité.
Par ailleurs, certains types de contenus générés par l’IA seront désormais interdits, notamment les représentations de personnalités publiques à des fins de soutien politique ou commercial, et de particuliers y compris des mineurs.
D’autres géants du numériques, tels que OpenAI, Adobe, Microsoft, Google ou encore Meta ont également mis en place des marquages automatiques de contenus artificiellement générés.
La nécessité pour les utilisateurs de connaître la provenance du contenu proposé
Ainsi, avec ces nouvelles règles, TikTok affirme son engagement envers un contenu authentique qui ne génère pas de confusion et ne trompe pas les utilisateurs. L’entreprise a également annoncé rejoindre la « Coalition pour la provenance et l’authenticité des contenus » (C2PA) et fait déjà partie de « l’Initiative pour l’authenticité des contenus » (CAI).
Pour l’instant, l’utilisation de la technologie permettant de reconnaitre et étiqueter immédiatement le contenu généré par l’IA (la technologie « Content Credentials ») est appliquée aux vidéos et aux images, et TikTok a annoncé qu’elle sera bientôt étendue aux contenus audios.
