Les chefs d'antenne du Téléjournal Acadie Karine Godin et Janic Godin ont récemment été la cible de vidéos hypertruqués visant à arnaquer financièrement les auditeurs.

Karine Godin revenait de ses vacances lorsqu’elle a reçu une information troublante d’une connaissance.

Ma première réaction c’était : "Oh, OK, c’est vraiment réaliste". Ça avait vraiment l’air de moi et ça imitait les mimiques, la façon dont je parle, ma gestuelle, raconte la journaliste-présentatrice.

Ouvrir en mode plein écran

Le vidéo en question faisait la promotion d’une plateforme d’investissement frauduleuse. La fausse Karine et le faux Janic, générés par l'intelligence artificielle, incitaient les gens à investir de l’argent contre des rendements hors norme.

On a utilisé notre voix et notre visage dans le contexte du Téléjournal Acadie pour nous faire dire n'importe quoi et surtout inciter les gens à se rendre sur un site d'investissement frauduleux, ce qu’on vous demanderait jamais de faire, déplore Janic Godin, qui n'a pas de liens familiaux avec sa collègue.

Ce qui choque le plus les deux journalistes, c'est qu'en quelques minutes un individu puisse concocter un produit réaliste à des fins malveillantes.

Je notais des petites différences dans ma voix, dans mon ton, dans la façon dont je fais les choses, mais je trouvais ça quand même fascinant à quel point c’était à s’y méprendre.

8:43

Un défi pour les médias

Selon Julie Racine, directrice, Relations publiques de Radio-Canada, l'intelligence artificielle pose de nouveaux défis au diffuseur public.

Nous invitons nos auditoires à demeurer vigilants et à nous aider dans nos efforts pour contrer la désinformation en portant à notre attention des articles ou des images qui pourraient être truqués par l'intelligence artificielle, déclare Mme Racine.

Des démarches ont été entreprises par les journalistes concernés et Radio-Canada pour faire retirer ces contenus de Facebook.

Ouvrir en mode plein écran

Il est possible pour les auditeurs de signaler les fraudes (nouvelle fenêtre), qu'il s'agisse de faux articles ou de fausses vidéos, auprès de Radio-Canada.

Karine Godin espère que de tels incidents n'ébranlent pas la confiance du public régional envers Radio-Canada Acadie.

C’est paniquant dans le fond, parce que toute notre carrière de journaliste, ça se bâtit sur la crédibilité, la vérification des faits.

La société est-elle prête?

Muhammad Zubair a publié des travaux sur la détection de l'hypertrucage et la criminalistique multimédia connexe à l'Université du Nouveau-Brunswick (UNB). Il est aussi développeur et chercheur en cybersécurité à l'Institut canadien pour la cybersécurité.

Selon lui, le Nouveau-Brunswick n’est pas prêt pour la venue de l'hypertrucage. J’étais le premier étudiant dans ce domaine à travailler sur les détections, donc personne avant moi n’a touché à ce domaine au Nouveau-Brunswick, remarque-t-il.

Il identifie plusieurs risques possibles, dont la fraude financière, la désinformation, la diffamation et le risque d’attaque, la réputation d’individus. M. Zubair croit qu'un travail colossal reste à faire.

Ouvrir en mode plein écran

Au Canada, je n’ai vu aucune réglementation particulière liée à l'hypertrucage dans la loi pour l’instant. Il est par contre possible de se faire mener en justice en vertu d’une autre loi [comme pour tentative de fraude], avance-t-il.

Lyse Langlois, directrice générale de l'Observatoire international sur les impacts sociaux et éthiques de l’IA et du numérique, croit qu'il y a urgence en la demeure.

Il faut légiférer l'intelligence artificielle parce qu'il y a des dérives. L'hypertrucage est une dérive et constitue un enjeu éthique important, croit-elle, tout en ajoutant que ces vidéos truquées constituent une menace réelle pour la démocratie.

Le professeur en informatique à l’Université de Moncton Moulay Akhloufi, dont les recherches portent sur les domaines de l’intelligence artificielle, ajoute pour sa part qu'il reste énormément de travail à faire en matière de sensibilisation du public.

La meilleure façon d’aborder le problème, c’est de commencer à éduquer les jeunes enfants par rapport à ce type de technologie pour qu’ils soient vigilants, parce que ça va faire partie de leur vie, explique M. Akhloufi.

Des conseils pour rester vigilant

Tous les vidéos hypertruqués ne sont pas de la même qualité et la majorité d'entre eux qui circulent — pour le moment — sur les médias sociaux utilisent des outils moins sophistiqués. Ils sont donc plus reconnaissables à l’œil nu.

Vous verrez un léger flou dans les yeux et dans la région de la bouche de cette personne particulière, mais ce flou ne sera pas vu dans d’autres parties de l’image. Dans certaines vidéos, on peut également constater que les mains sont la partie du corps la moins convaincante, indique Muhammad Zubair.

Mais puisque les outils sont de plus en plus sophistiqués, ces détails sont parfois imperceptibles.

En réalité, la seule chose, c’est de rester vigilant puis de voir si [le message véhiculé] fait du sens ou si ça ne fait pas de sens, propose pour sa part Moulay Akhloufi.