TikTok annonce le déploiement progressif d’un nouveau dispositif destiné à repérer les contenus générés par intelligence artificielle qui reproduisent l’apparence de personnalités publiques. Baptisée « Likeness Detection », cette fonctionnalité doit permettre à des responsables politiques, des membres de gouvernements et des comptes de partis de signaler plus facilement des publications utilisant leur image sans autorisation.
L’initiative intervient alors que les contenus trompeurs fabriqués ou modifiés par IA se multiplient sur les plateformes sociales. Les deepfakes, qui peuvent donner l’apparence d’une déclaration ou d’une intervention fictive, suscitent des inquiétudes particulières lorsqu’ils touchent au débat public. Selon Chokarella, neuf autres pays européens doivent organiser des élections au cours des douze prochains mois, ce qui renforce les préoccupations autour d’une possible influence de ces contenus sur les campagnes et les processus électoraux.
Une inscription nécessaire pour les personnalités concernées
Le fonctionnement annoncé repose d’abord sur une procédure d’identification. Les personnes ou organisations souhaitant utiliser « Likeness Detection » doivent s’enregistrer et confirmer leur identité auprès d’un prestataire tiers agréé. TikTok peut ensuite leur transmettre des notifications lorsqu’un contenu ou un compte est susceptible de reproduire leur image.
Les bénéficiaires du dispositif pourront consulter les publications détectées et les transmettre aux équipes chargées de la sécurité de la plateforme. TikTok indique que ces signalements feront l’objet d’un examen interne. D’éventuelles mesures pourront être prises à l’issue des vérifications menées par l’entreprise, sans que l’annonce ne précise la nature exacte des sanctions appliquées dans chaque situation.
| Dispositif | Public concerné | Fonction annoncée |
|---|---|---|
| Likeness Detection | Personnalités et organisations publiques inscrites | Recevoir des alertes sur des contenus susceptibles d’imiter leur image |
| Identifier les contenus générés par l’IA | Tout public, avec ou sans compte TikTok | Analyser un fichier téléversé |
Un outil de vérification ouvert aux internautes
En parallèle, TikTok met à disposition un service gratuit permettant à n’importe quel internaute de vérifier certaines images et vidéos. L’outil, accessible même sans compte sur la plateforme, fonctionne par téléversement d’un fichier. Il vise à déterminer si celui-ci a été créé ou retouché au moyen des technologies d’intelligence artificielle développées par TikTok ou par d’autres applications de sa maison mère, ByteDance.
- Le service peut être utilisé par des personnes qui ne disposent pas d’un compte TikTok.
- Il concerne les contenus produits ou modifiés avec TikTok et plusieurs applications de ByteDance.
- Les fichiers transmis sont, selon l’entreprise, supprimés après leur analyse.
Les applications citées comprennent notamment CapCut, Dreamina, Hypic et Pippit. La portée du contrôle reste toutefois liée aux technologies prises en charge par l’outil : l’annonce ne permet pas d’affirmer qu’il pourra identifier tous les contenus synthétiques circulant en ligne, quelle que soit leur origine. La détection signalée par TikTok ne constitue donc pas, à elle seule, une certification générale de l’authenticité d’une image ou d’une vidéo.
Une réponse aux risques liés aux contenus politiques artificiels
Avec ces deux fonctionnalités, TikTok distingue la protection des personnes dont l’identité est imitée et la vérification ouverte au public. La première repose sur une surveillance personnalisée et des alertes, tandis que la seconde permet aux internautes de soumettre directement un fichier. Dans les deux cas, la décision finale appartient aux équipes de la plateforme après examen des éléments signalés.
L’annonce intervient dans un contexte où les réseaux sociaux jouent un rôle croissant dans l’accès à l’information et dans la circulation des messages politiques. Elle ne fournit cependant pas de bilan sur le nombre de contenus déjà détectés, ni de calendrier détaillé pour la disponibilité de « Likeness Detection » selon les pays. TikTok présente donc ces outils comme une réponse opérationnelle aux usages trompeurs de l’IA, mais leur efficacité dépendra de leur déploiement, de la précision des détections et du traitement réservé aux signalements.