VÉRIF’ – Vidéos de chiens, d’accidents… Ces pages Facebook qui trompent avec l’IA pour gagner de l’argent

• Des dizaines de pages Facebook cumulent des millions de vues avec des vidéos générées par IA.
• Des vidéos de chiens, d’accidents de la route ou en rapport avec la santé sont particulièrement populaires.
• Leur but : attirer les utilisateurs vers des sites internet pour « lire la suite » de l’histoire.

« Tout le monde pensait que c’était la fin… jusqu’à ce que le chien fasse quelque chose d’incroyable. » Ce message est affiché dans une publication Facebook vue plus de 5,4 millions de fois (nouvelle fenêtre) en une semaine. Avec la légende, une vidéo dans laquelle un berger allemand s’agite à côté d’un lit d’hôpital où est allongé un homme, devant le regard médusé de trois infirmiers. « Ce qui s’est passé ensuite a laissé les infirmières sans voix », ajoute le texte, incitant les utilisateurs à cliquer sur la suite de l’article pour découvrir ce qu’il s’est passé.

Ce type de contenus pullule sur le réseau social, mettant bien souvent en scène des animaux : un chien qui aboie « sans arrêt sur une femme enceinte de sept mois (nouvelle fenêtre)«  car il aurait flairé quelque chose de louche, un autre qui bloque le passage à une mariée (nouvelle fenêtre)pour la prévenir d’un danger imminent. Et les vidéos de chiens ne sont pas le seul thème populaire. D’autres séquences montrant des boutons suspects apparus sur la peau (nouvelle fenêtre) ou des accidents domestiques (nouvelle fenêtre) dépassent généralement le million de vues. Des images qui appartiennent à une nouvelle tendance sur Facebook : utiliser des fausses vidéos générées grâce à l’IA pour rediriger vers des sites inventant de toute pièce des histoires.

Jouer sur l’émotion

L’équipe des Vérificateurs a repéré au moins une dizaine de pages utilisant les mêmes techniques. Elles génèrent une vidéo par intelligence artificielle et attirent l’utilisateur vers un contenu visuellement attrayant et plutôt réaliste. La légende invite à regarder le premier commentaire sous la publication pour cliquer sur un article qui promet de détailler la situation.

Prenons l’exemple de l’histoire du chien aboyant devant une femme enceinte (nouvelle fenêtre). La vidéo présente les erreurs typiques des contenus générés par IA, avec un texte incompréhensible dans le dos d’une policière et la main de cette dernière qui disparaît brièvement. Le contenu, vu 2,7 millions de fois, redirige vers un article rempli d’images générées par intelligence artificielle (nouvelle fenêtre) et d’autres illustrations, avec un texte détecté à 100% comme étant généré par IA. Une histoire totalement fictive sans aucun avertissement clair au lecteur pour l’informer qu’il se trouve sur un contenu récréatif et inventé.

Les vidéos « d’accidents horrifiques » montrant des camions complètement pliés en deux ou des motos au sol (nouvelle fenêtre) sont un autre exemple de ces procédés. Les publications, volontairement vagues, ne donnent pas de détail sur le lieu de l’incident, poussant les utilisateurs à cliquer pour en savoir plus. Comme l’a montré 20 Minutes (nouvelle fenêtre), les vidéos sont générées par IA, parfois même à partir de véritables accidents, mais ayant eu lieu en dehors de l’Hexagone. 

Les contenus proposés redirigent même vers des articles n’ayant absolument rien à voir avec la vidéo : c’est le cas pour celle des motos couchées par terre qui renvoie vers un article inventé (nouvelle fenêtre), intitulé « Mon mari est mort dans un accident, et je n’ai jamais vu son corps – Puis, un jour, j’ai entendu sa voix venant de la chambre de notre petite fille ». Des histoires sans consistance, bien souvent non conclusives, alignant les poncifs et autres maximes moralisatrices.

En réalité, peu importe le contenu : ces pages utilisent massivement des contenus de type « slop », ou « bouillie » en français, des vidéos générées par IA de faible qualité, jouant sur des thématiques émotionnellement impactantes.

L’enjeu des revenus publicitaires

Ces sites semblent donc opérer une nouvelle stratégie, payante si l’on en croit les chiffres qu’ils affichent sur leurs réseaux sociaux. L’un d’eux est bien connu de la sphère de désinformation et avait été désigné par Le Monde en 2018 (nouvelle fenêtre) comme « emblématique de la mal-information sur la santé ». L’équipe des Vérificateurs a pu constater que la plupart de ces pages Facebook ne sont d’ailleurs pas gérées depuis la France. Elles peuvent être administrées au Maroc, au Canada, voire en Arabie Saoudite et se copient entre elles en capitalisant sur les sujets qui fonctionnent le mieux. Mi-juillet, Facebook avait pourtant indiqué avoir supprimé 10 millions de comptes jugés comme « spam » (nouvelle fenêtre) et créant du contenu « de faible qualité » en masse, généré par IA.

L’objectif de ces publications est clair, rediriger au maximum les lecteurs vers leur site Internet en leur donnant envie de « lire la suite ». Car c’est sur les sites qu’on retrouve des dizaines de publicités, leur permettant de monétiser ces contenus, souvent de façon très agressive. Difficile d’évaluer les revenus générés et le trafic exact, mais selon le calculateur de revenu de Google (nouvelle fenêtre), un site faisant une moyenne d’un million de pages vues par mois peut espérer des revenus annuels de l’ordre de 33.000 euros. Une récente enquête du média Next.ink (nouvelle fenêtre), dont nous nous faisions le relais (nouvelle fenêtre), estimait même que les sites les plus efficaces pouvaient obtenir des milliers d’euros de revenus par jour. 

Vous souhaitez nous poser des questions ou nous soumettre une information qui ne vous paraît pas fiable ? N’hésitez pas à nous écrire à l’adresse [email protected]. Retrouvez-nous également sur X : notre équipe y est présente derrière le compte @verif_TF1LCI.