TikTok a suspendu cette semaine un compte qui a bénéficié d’une grande visibilité à coup d’hypetrucages de politiciens canadiens. L’une de ses récentes fausses vidéos mettant en scène le premier ministre Mark Carney a cumulé des millions de visionnements.

À compter du 1er juin, tous les véhicules fabriqués avant l’an 2000 seront progressivement retirés de la circulation au Canada en raison des normes de sécurité et d’émissions, dit le faux Mark Carney en anglais dans la vidéo en question.

Aucune mesure de ce type n’a pourtant été annoncée. Le gouvernement fédéral s’est toutefois engagé en 2023 à atteindre 100 % de ventes de véhicules zéro émission (nouvelle fenêtre) d'ici 2035.

La vidéo a été vue plus de 3 millions de fois en une journée sur TikTok avant qu’elle ne soit retirée.

Elle a eu plus de 4 millions d’impressions sur X, où elle a fait l’objet d’un rectificatif du système de vérification des faits participatif, Notes de la Communauté. Elle n’a cependant pas été supprimée de la plateforme.

Clairement étiquetée comme étant générée par IA

Le compte qui a mis la vidéo en ligne sur TikTok, SmartFeed, a publié des hypertrucages de politiciens canadiens tout au long de la dernière campagne électorale fédérale.

Ces vidéos, tout comme la dernière qu'il a publiée avant son bannissement, étaient clairement identifiées comme étant générées par IA. Elles portaient toutes l’étiquette le créateur a indiqué que ce contenu était généré par l'IA.

Les vidéos publiées pendant la campagne étaient clairement parodiques ou humoristiques. Par exemple, dans l’une d’entre elles, Mark Carney affirmait qu’il ne représente pas le peuple, mais bien les élites. Une autre d’entre elles montrait les chefs de partis en train de s’échanger des insultes et des propos vulgaires lors du débat.

La vidéo sur les véhicules devenue virale cette semaine aurait toutefois facilement pu être perçue comme une annonce officielle par un utilisateur qui ne voyait pas l’étiquette IA. D’ailleurs, en plus de cette étiquette, un filigrane pour une application de clonage vocal par IA était superposé sur la vidéo.

Il y avait très peu de vidéos hypertruquées qui véhiculaient des messages politiques pendant la campagne. Ce compte était l’un des seuls que nous avons observés qui s’adonnaient à cette pratique, soutient Nader Hedfi, analyste de données à l’Observatoire de l’écosystème médiatique de l’Université McGill et de l’Université de Toronto.

Les règlements

Les règlements de TikTok (nouvelle fenêtre) exigent que les créateurs identifient tout contenu généré par l’IA contenant des images, des enregistrements audio ou des vidéos réalistes.

Bien que ce type de vidéo soit permis, il existe des exceptions. Certains contenus générés par l’IA ou médias modifiés peuvent néanmoins causer du tort, même s’ils sont correctement étiquetés, peut-on lire dans les règlements.

Des hypertrucages mettant en scène une personnalité publique lorsque le contenu est utilisé à des fins de soutien politique ou commercial peuvent par exemple être retirés, comme c’était le cas ici.

Dans son plus récent rapport sur les élections canadiennes (nouvelle fenêtre), TikTok dit avoir retiré plus de 1400 contenus pour avoir enfreint ses règles en matière d'intégrité civique et électorale, de désinformation et de contenu généré par l’IA entre le 24 mars et le 6 avril.

TikTok a refusé les demandes d’entrevue des Décrypteurs au sujet de la suspension du compte SmartFeed.