Alors que la Coupe du monde de football bat son plein, les contenus générés par intelligence artificielle autour de la compétition se multiplient sur les réseaux sociaux. Ces images, souvent ultra-réalistes, sont de plus en plus difficiles à détecter. Souvent virales, ces fausses informations ciblent aussi bien les joueurs que les supporters présents en tribunes.
Si vous suivez ce Mondial sur les réseaux sociaux, vous avez sûrement vu passer cette photo mensongère diffusée après le match Allemagne-Curaçao, remporté 7 buts à 1 par les Allemands. Elle prétend montrer un partisan moustachu de la Mannschaft, ressemblant étrangement à Adolf Hitler.
L’infox a été vue des dizaines de millions de fois sur X (ex-Twitter). © Capture d’écran X/ Montage RFI
Vue plus de 30 millions de fois sur les réseaux sociaux, cette image a suscité beaucoup de réactions et d’indignation. En réalité, cette image a été manipulée. Pour le vérifier, nous avons révisé l’intégralité du match. Cela nous a permis d’identifier la séquence originale diffusée en direct à la télévision. Filmée juste après la fin de la première mi-temps, on y voit plusieurs fans allemands célébrer le mais de Kai Havertz. Aucun n’est grimé en Adolf Hitler.
Comparaison entre l’image manipulée (à gauche) et la séquence authentique (à droite). © Captures d’écran/ Montage RFI
Quelqu’un a donc simplement demandé à l’intelligence artificielle de modifier le visage d’un homme pour le faire ressembler au dirigeant nazi. Une recette simple, mais diablement efficace.
Une bagarre entre Marocains et Brésiliens ?
Au-delà des supporters, les contenus générés par intelligence artificielle ciblent aussi les joueurs, à l’image des sélections marocaine et brésilienne. Une vidéo affirme qu’une bagarre générale aurait eu lieu à la fin de la rencontre qui s’est soldée par un match nul un mais partout.
Ces deux vidéos ont été générées par IA. L’une d’elle dépasse le million de vues sur X (ex-Twitter). © Captures d’écran X/ Montage RFI
On y voit une vingtaine de joueurs s’écharper juste devant une tribune. Si à première vue, le clip semble assez réaliste, l’IA fait encore des erreurs. Un drapeau rouge et vert agité dans les travées du stade n’existe pas. Tout comme ces chiffres inconnus sur les maillots de certains joueurs. Ce type de vidéo se compte par dizaines ces derniers jours.
Ces défauts visuels trahissent l’utilisation d’un outil d’IA. © Captures d’écran/ Montage RFI
Comment détecter l’IA ?
Le meilleur conseil pour détecter une image artificielle, c’est d’abord de faire attention aux détails visuels, aux inscriptions, aux visages, aux mouvements. Les outils d’IA grand public font encore quelques erreurs à ce niveau-là. Il faut aussi regarder la durée. Ces vidéos durent souvent 20 secondes ou moins, rarement plus. C’est aujourd’hui la durée standard permise par les générateurs les plus utilisés.
Et puis, il faut se pencher sur la fiabilité de la source, de qui partage ce type de contenus souvent spectaculaires.
La cérémonie d’ouverture n’a pas échappé aux vidéos synthétiques. © Captures d’écran/ Montage RFI
Publicité sauvage
Derrière ces vidéos synthétiques, on retrouve souvent des comptes anonymes, prêts à tout pour faire du clic et monétiser leur audience. L’une des nouveautés, c’est que ces fausses informations sont parfois diffusées à des fins publicitaires. Nous avons notamment identifié un site opaque de paris et de jeux de casino en ligne.
Depuis le début du Mondial, il diffuse presque quotidiennement des images générées par IA. À chaque fois, le logo de la plateforme est habilement intégré dans ces contenus mensongers, dont certains dépassent le million de vues. Ce jeu dangereux devrait se poursuivre tout au long de la compétition.
