De vraies images de la caravane Soumoud (« résistance », en arabe) circulent massivement sur les réseaux sociaux depuis son départ de la Tunisie, lundi. Mais une des photos les plus spectaculaires de ce convoi terrestre à destination de la bande de Gaza a en fait été générée par intelligence artificielle (IA), selon des experts consultés par les Décrypteurs.

Ce convoi, dont l’objectif consiste à briser le blocus imposé à Gaza en acheminant une aide humanitaire symbolique, mobilise plus d’un millier de personnes qui voyagent en voiture, en fourgonnette et en autocar. Il espérait atteindre Gaza vendredi, mais il a été arrêté vendredi matin à l’entrée de la ville libyenne de Syrte.

L’image générée par IA montre un immense convoi de centaines de véhicules qui traverse le désert et qui rassemble des milliers de personnes qui brandissent des drapeaux de la Tunisie, de l’Algérie, de la Palestine et de la République arabe sahraouie démocratique.

Ouvrir en mode plein écran

Nous n’avons pas été en mesure de trouver la source originelle de cette photo, mais elle semble avoir d’abord fait surface le 10 juin, deuxième journée du convoi.

Elle a accumulé des dizaines de milliers de mentions J’aime sur Facebook et sur Instagram, notamment dans des groupes et sur des pages pro-Palestine. Plusieurs versions de cette image figurent parmi les premiers résultats de recherche sur Instagram pour Soumoud Convoy.

Cette photo a abondamment circulé sur le réseau social X, où elle a été publiée par au moins 2200 comptes, selon les données fournies (nouvelle fenêtre) par l’outil Notes de la communauté. Elle figure également dans de nombreuses vidéos sur TikTok.

Ouvrir en mode plein écran

Des experts se prononcent

Plusieurs outils de détection d’images générées par IA désignent cette photo comme étant artificielle avec un haut intervalle de confiance. Or, ces intervalles ne sont pas infaillibles et peuvent produire de faux positifs ou de faux négatifs.

Deux experts en investigation numérique joints par les Décrypteurs sont persuadés que cette image est artificielle, notamment en raison de plusieurs éléments contextuels.

La plupart des conducteurs à l'intérieur des voitures semblent porter des costumes verts et présentent une apparence similaire, un schéma répétitif qui est un indicateur courant de contenu généré par l’IA, fait observer Siwei Lyu, directeur du laboratoire d'investigation numérique de l’Université d'État de New York à Buffalo.

Le logiciel maison de détection d'IA du laboratoire de M. Lyu conclut également que cette image a été générée par intelligence artificielle avec un intervalle de confiance de 92 %.

Aucun des véhicules n’est un modèle connu de voitures existant, fait pour sa part observer Darren Linvill, codirecteur du Media Forensics Hub de l'Université de Clemson.

Les experts soulèvent plusieurs autres drapeaux rouges : de nombreux visages semblent déformés, flous ou indistincts; l’espace entre les voitures est trop étroit pour permettre la présence de personnes, ce qui rend la position de certaines d’entre elles peu naturelle; de plus, chaque drapeau paraît un peu trop parfait pour qu’il s’agisse d’une véritable image.

Et même si on met ces détails de côté, il existe de nombreuses photos réelles de la caravane Soumoud, et elles ne ressemblent en rien à celle-ci. S’il existait réellement une telle scène, nous verrions plus d’une photo, et les images seraient partout, ajoute Darren Linvill. Cet expert précise qu’il n’existe pas d’autoroute avec autant de voies en Libye.

Ouvrir en mode plein écran

Une vidéo générée par IA également virale

Une vidéo qui représente une scène similaire et qui a été vue au moins 1,2 million de fois sur Instagram a elle aussi été générée par IA. On y voit une caravane composée d’autocars, de voitures et de manifestants qui brandissent des drapeaux palestiniens, tunisiens et algériens en train d'avancer sur une route désertique.

Dans ce cas-ci, la vidéo contient un filigrane pour Veo, le générateur de vidéos de Google, dans le coin inférieur droit.

Cette vidéo a également circulé sur le réseau social X.