« Est-il vrai que le Venezuela est un pays si pauvre ? », interroge un présentateur blond en lançant un reportage. Ce n’est pas un journaliste… ni même un humain, mais un avatar généré par intelligence artificielle, de plus en plus utilisée pour désinformer.
Présentés comme appartenant à une sorte de journal télévisé, ces faux ‘‘reportages’’ favorables au pouvoir vénézuélien sont apparus comme des publicités sur les réseaux sociaux déclenchant une polémique dans le pays et sur le net. Ce n’est pas un cas isolé. « De plus en plus de régions parlent de ‘‘deep fakes’’ et ‘‘d’audiovisuels’’ générés par l’IA comme d’une menace », explique à l’AFP Shirin Anlen, spécialiste des technologies des médias à l’ONG Witness.
En février, une vidéo trafiquée du président américain Joe Biden mettant en garde contre une « menace » « extraterrestre » a circulé massivement sur les réseaux sociaux. L’année dernière, un montage du dirigeant ukrainien Volodymyr Zelensky sniffant de la cocaïne ou un rap d’Eminem contre le président du Mexique, Andrés Manuel Lopez Obrador, ont aussi fait un tabac sur le net. C’étaient des faux générés par de l’IA.
Difficile de déterminer l’origine de ces vidéos
Dans le cas du Venezuela, les avatars des vidéos « House of News Español » provenaient du programme de création d’intelligence artificielle Synthesia. La société les a « signalés » à YouTube qui les a retirées. La porte-parole de Synthesia n’a pas voulu révéler qui était ce client mais a indiqué qu’en ayant « violé » les « conditions et politiques » d’utilisation, il avait été « exclu ». « Si vous prétendez être journaliste, si vous prétendez diffuser des infos, vous serez banni », a déclaré à l’AFP Laura Morelli. Les présentateurs de « House of News », Noah, un blond, et Daren, un noir, font partie du catalogue de 93 avatars de Synthesia. Ils ont notamment été utilisés en janvier pour des vidéos de prétendus Américains soutenant un coup d’État au Burkina Faso. « Ce type de programme peut être utilisé par n’importe qui avec un minimum de connaissances », prévient Eduardo Mosqueira, docteur en informatique et professeur à l’université de La Corogne, en Espagne.
Il assure qu’il n’est pas difficile de détecter une fausse vidéo, mais souligne en revanche qu’il est difficile d’en déterminer l’origine : « Si (les auteurs) ont fait preuve d’un minimum de prudence, je suppose que c’est impossible ». La chaîne de télévision publique vénézuélienne VTV a diffusé l’une des vidéos de « House of News » pour évoquer la « réussite » du tournoi de Baseball Série des Caraïbes, organisé pour la première fois au Venezuela depuis neuf ans. « House of News » indiquait que le tournoi avait généré des millions de dollars de bénéfices alors qu’il n’existait aucun chiffre officiel sur le sujet.
Barry Cartaya, un des présentateurs vedettes de la chaîne publique, très favorable au pouvoir, s’était appuyé sur la vidéo pour assurer à l’antenne : « Ce sont des chiffres que ce média rapporte aux États-Unis et dans une grande partie de l’Amérique latine ». La polémique sur la provenance des vidéos a mis en colère le président vénézuélien Nicolas Maduro qui a réfuté tout lien des autorités avec la production : « Ce n’est pas de l’intelligence artificielle, c’est de l’intelligence populaire ». « Je suis un robot », a-t-il ironisé imitant une voix métallique et mimant des mouvements mécaniques.
En février, un autre diffuseur de fausses nouvelles, « Wolf News », a utilisé la même technologie pour diffuser des vidéos de propagande prochinoise. « C’est la première fois que nous voyons une opération d’État utiliser des séquences vidéo générées par l’IA pour créer un contenu politique trompeur », avait déclaré à l’AFP Jack Stubbs, du studio Graphika, auteur de l’enquête qui relie les vidéos à des réseaux favorables au Parti communiste chinois.
« Un mensonge correctement répété 1000 fois devient la vérité »
Meta, la maison-mère de Facebook, a démantelé ces derniers mois des réseaux de faux comptes, dont un à Cuba, qui consistait à créer de fausses identités « pour publier sur Facebook des critiques envers les opposants » au pouvoir cubain, a expliqué Ben Nimmo, responsable mondial du renseignement sur les menaces au sein de l’entreprise, lors d’une vidéoconférence avec l’AFP. « Certains de ces comptes utilisaient des photos de profil probablement générées à l’aide d’intelligence artificielle : des photos de personnes qui n’existent pas. Une tactique de plus en plus utilisée », selon M. Nimmo.
M. Mosqueira estime qu’« avec l’essor des technologies il devient de plus en plus facile de programmer des ‘‘bots’’ qui se font passer pour de vraies personnes sur les réseaux et lancent les messages que l’on veut faire passer ». Et il met en garde contre le fort impact des ‘‘deep fakes’’, même lorsqu’il est ensuite prouvé qu’ils sont faux. « C’est la célèbre phrase attribuée à Joseph Goebbels (haut dirigeant nazi, en charge de la propagande, ndlr) : un mensonge correctement répété 1000 fois devient la vérité ».
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.