VÉRIF’ – Anti-immigration, sexistes, clivantes… Comment ces vidéos générées par IA deviennent une machine à cash

• Les vidéos véhiculant un discours d’extrême droite générées par IA déferlent en ligne.
• Mais elles ne relèvent pas toujours d’une stratégie politique, selon un rapport publié ce mercredi.
• Focus sur le business lucratif des discours clivants.

Nous avions observé les symptômes. On en connaît désormais la cause. Depuis plusieurs mois, des contenus d’un tout nouveau genre sont apparus sur les réseaux sociaux. Un reportage annonce de faux droits accordés aux sans-papiers (nouvelle fenêtre), une vidéo transforme un quartier de Londres en zone menaçante et des clips sexistes se moquent des femmes en politique. Des contenus qui ont un seul point commun. Mobiliser les thèmes les plus inflammables sur les réseaux sociaux. S’ils diffusent souvent une idéologie nationaliste, ils n’ont pas toujours un objectif politique. L’enjeu est beaucoup plus cynique : monétiser des thématiques clivantes.

C’est ce que révèle le rapport (nouvelle fenêtre)« Monetized Slopaganda ». Publié ce mercredi 9 septembre par ResetTech, il lève le voile sur les rouages de cette économie de la désinformation. Après avoir analysé des milliers de contenus sur YouTube, TikTok et Facebook, le groupe de réflexion démontre comment les productions politiques générées par IA, racoleuses et souvent trompeuses, sont devenues pour certains acteurs une activité structurée, industrialisée et lucrative. 

L’engagement avant tout

Ces derniers mois, nous avons repéré plusieurs vidéos de ce type. Elles apparaissent de manière quasi cyclique. En octobre par exemple, un clip sur TikTok annonce « cinq droits majeurs pour les sans-papiers » et dépasse le million de vues. Idem en mai, lorsqu’une vidéo frôle les deux millions de visionnages en révélant « cinq nouveaux droits des sans-papiers ». Un discours repris un mois plus tard, lorsqu’un troisième contenu affirme qu’une « très bonne nouvelle vient de tomber pour tous les sans-papiers ». Le contenu joue alors sur une ambiguïté. Il attire à la fois les personnes directement concernées et les internautes hostiles à l’immigration, susceptibles de commenter et dénoncer cette rumeur.

Une stratégie similaire à celle des faux reportages, sur lesquels nous vous alertions ici (nouvelle fenêtre). Ils prétendent interroger des femmes voilées, des militants de la cause LGBT ou des jeunes issus de milieux défavorisés et copient les codes journalistiques. Mais les discours sont loin du reportage. Ils viennent uniquement colporter des préjugés haineux (nouvelle fenêtre) pour provoquer l’adhésion ou la contestation. Dans les deux cas, c’est l’engagement qui est valorisé.

Parfois, nous avons pu documenter l’intention manipulatoire. L’été dernier, nous avions ainsi découvert un faux reportage annonçant une aide de 1.800 euros pour tous les migrants africains qui viendraient en France. Un deepfake d’Emmanuel Macron relayé dans une sphère pro-Kremlin. Ici, notre enquête (nouvelle fenêtre)avait permis d’associer cette vidéo modifiée par intelligence artificielle à l’opération d’influence russe Storm-1516. Dans ce cas, le récit anti-immigration s’insère dans une logique de déstabilisation du débat français. Autre exemple, au Royaume-Uni, lorsqu’un clip sur YouTube est modifié par IA pour renforcer l’hostilité d’un quartier londonien (nouvelle fenêtre) et porter un discours anti-immigration.

Les discours réactionnaires à visée lucrative

À travers des milliers de comptes analysés par Reset Tech, c’est avant tout un modèle économique qui se dessine. Dans le rapport « monetized slopaganda », qui désigne une « propagande industrielle de contenus de faible qualité », pensée pour être « monétisée », l’organisation étudie plus de 6.600 comptes à travers YouTube, Facebook et TikTok. En huit mois, ces canaux ont mis en ligne plus de 960.000 créations. 

Cette hyperactivité s’explique par le mécanisme même de ces réseaux. Le rapport décrit comment les auteurs inondent les plateformes grâce à l’intelligence artificielle, qui réduit le temps et le coût (nouvelle fenêtre) de fabrication. Ils observent ensuite leurs performances et répliquent les productions qui obtiennent le plus de vues, d’interactions ou d’abonnements. Avec des résultats à la clé. Ces contenus politiques ont permis de cumuler plus de quatre milliards de vues et 500 millions d’interactions.

Une audience qui peut être monétisée. Grâce au fonctionnement des plateformes, elle est convertie en revenus par les programmes créateurs, les abonnements payants ou encore la vente de formations en ligne. Le rapport observe ainsi que 13% des pages Facebook étudiées présentaient un historique de monétisation (nouvelle fenêtre). Sur YouTube, 5% des chaînes prises en compte étaient inscrites de manière vérifiable au « Programme Partenaire » de YouTube et 40% des créations étaient éligibles à la monétisation des vues. Sur TikTok, sept comptes toujours actifs avaient activé le bouton « abonnement » qui donne l’occasion au créateur de recevoir un soutien financier direct. 

Le choix des récits n’est donc pas porté par une vision idéologique, mais par un cynisme économique. À l’instar de ces 2.700 pages Facebook apparues en ligne présentant une vision patriotique de la France, la Pologne ou l’Italie. Des canaux qui diffusent des récits nationalistes et anti-immigration. Ou cette page « French Mood », qui propose des clips en faveur du Rassemblement national. Ils sont administrés par un seul et même réseau localisé par ResetTech au Sri Lanka. 

Un groupe implanté au Pakistan visait quant à lui la population allemande avec des discours anti-Ukraine et anti-musulmans quand un acteur basé au Vietnam créait de l’engagement à grands coups de débats sur la burqa ou de fausses manifestations anti-islam. Pas d’objectif politique. Juste le souhait « d’exploiter les discussions », notamment en France. Elle fait partie des pays européens les plus visés, la présidentielle étant explicitement ciblée, d’après les conclusions du rapport.

Tout cela pour des revenus réels qui restent difficiles à mesurer. Mais estimés à plusieurs centaines d’euros. « Vous pourriez obtenir environ 1.000 à 1.500 dollars par mois, selon votre volume de travail », expliquait par exemple un créateur au média espagnol Maldita (nouvelle fenêtre), quand les formations sont vendues plusieurs centaines d’euros, comme nous le révélions ici (nouvelle fenêtre).

Les réseaux sociaux sont donc résolument le théâtre d’une nouvelle forme de désinformation. Une « influence étrangère mue par des motivations commerciales », comme l’a résumé (nouvelle fenêtre)Rys Farthing, directrice de la recherche de Reset Tech. Les discours réactionnaires ne sont pas nécessairement le point de départ de ces acteurs économiques. Ils sont avant tout une matière première particulièrement efficace pour capter l’attention. La hausse des discours extrémistes n’apparaît alors pas comme un objectif politique en soi. Mais comme une conséquence d’un nouveau secteur lucratif.

Vous souhaitez nous poser des questions ou nous soumettre une information qui ne vous paraît pas fiable ? N’hésitez pas à nous écrire à l’adresse [email protected]. Retrouvez-nous également sur X : notre équipe y est présente derrière le compte @verif_TF1LCI (nouvelle fenêtre).