Dans une vidéo troublante postée sur X, un homme interroge un manifestant dans les rues de Los Angeles, lui demandant pourquoi il manifeste. « Je ne sais pas, j’ai été payé pour être ici, et je veux juste casser des choses », répond-il, validant ainsi une des accusations de la droite trumpiste concernant les affrontements actuels à Los Angeles, faisant suite aux ratissages d’immigrés dans tout le sud de la Californie.

Le seul problème, c’est que la vidéo a été générée par IA. Pour un œil averti, ne manquent certes pas les indices révélant qu’elle a en effet été générée par IA. Mais pour la plupart des usagers des réseaux, il est facile de se laisser piéger et de croire qu’il s’agit d’images bien réelles, prises sur le vif. La vidéo, provenant d’un compte affilié à la mouvance MAGA, a été visionnée près d’un million de fois en deux jours.

La diffusion d’informations et d’images falsifiées, ou encore d’images « vraies » mais détournées de leur sens par des commentaires ad hoc, n’est pas en soi un phénomène nouveau. Lors des manifestations à l’occasion de la mort de George Floyd en 2020, des vidéos d’explosions et d’arrestations bien réelles mais survenues dans d’autres pays et plusieurs mois auparavant, avaient fait le tour des médias sociaux, attisant les peurs, provoquant confusions et amalgames. L’IA n’est donc pas le seul problème. Mais sa présence ubiquitaire ouvre désormais une nouvelle ère pour la désinformation et l’agit-prop. Les derniers systèmes de générations par IA ont franchi un indéniable saut qualitatif, et il devient de plus en plus difficile de distinguer les images « vraies » des images « fausses ». Toutes les images sont désormais facilement manipulables, dans tous les contextes, tout le temps et partout. Il faudrait développer un instinct général de doute a priori. Mais est-ce soutenable pour une société d’être sans cesse confrontée au doute quant aux informations et aux images dont elle est constamment abreuvée ? Il est révélateur que lors de la diffusion des images de la gifle donnée à Macron, la réaction immédiate de l’Élysée a été de les qualifier d’emblée d’images générées par IA, et de les rejeter comme « truquées », alors qu’elles avaient été filmées en direct par des journalistes professionnels. En l’occurrence, c’est le communiqué même de l’Élysée qui participait à la foire générale au faux et aux trucages.

Jusqu’à récemment, nous n’avions pas vraiment l’occasion de supposer que les vidéos sur les réseaux sociaux ou dans les médias pouvaient être truquées en nombre, et à l’échelle où elles le sont aujourd’hui. Mais si l’Élysée, et d’autres institutions gouvernementales dans bien d’autres pays, contribuent à instiller le doute et la paranoïa, jusqu’où ira-t-on ?

Ce n’est pas seulement la quantité de la désinformation dans les fils d’actualité des médias sociaux qui pose problème. C’est la capacité à manipuler visuellement et qualitativement des scènes prétendument réelles, pour les adapter à des récits politiques antagonistes, qui fait qu’il devient beaucoup plus difficile d’en analyser les divers degrés d’authenticité. Prenons l’exemple de quelques vidéos générées par IA et postées ces derniers jours : l’une d’elles montre un manifestant prêchant la « paix » avant de lancer un cocktail molotov. Ou encore celle d’un homme qui crie avec énergie « Viva Mexico », puis prend une posture piteuse devant un policier qui lui dit qu’il va le déporter au Mexique. On peut supputer en effet que se développeront désormais toutes sortes de niveaux de trucages et de manipulations, les plus subtils et les plus raffinés étant bien entendu les plus difficiles à détecter et à contredire.

L’inquiétude suscitée par les images manipulées par IA est évidemment liée à leur capacité effective à désinformer les foules et à influencer l’opinion publique. Mais, paradoxalement, plusieurs études semblent indiquer que la désinformation par l’IA ne fait pas changer les opinions du public ; en revanche, elle renforce les croyances préexistantes, rendant les gens imperméables aux faits réels. Dans les commentaires de certaines de ces vidéos, on en trouve un grand nombre qui s’en amusent et les approuvent, qu’elles soient jugées authentiques ou non, comme si leur vérité factuelle n’avait pas d’importance, et que l’idée qu’elles véhiculent étant la seule chose importante. « C’est drôle parce que ça n’a même pas besoin d’être de l’IA », peut-on lire dans les commentaires de l’une de ces vidéos.

Ce qui importe le plus, désormais, c’est l’effet cumulatif à l’exposition quotidienne, sur tous les réseaux sociaux, à des vidéos générées par IA ; c’est la répétition incessante des traits les plus stéréotypés, c’est la réduction des adversaires politiques à des caricatures, c’est la disparition de toute espèce de nuance, de toute mise en perspective et de toute recherche d’une compréhension plus élevée, plus systémique, plus critique. Toutes les vidéos trompeuses produites par IA sont des ferments puissants de dissolution de l’esprit critique, ce sont des incitations brûlantes à développer chez tout un chacun la colère et la rage. La colère et la rage génèrent des clics, et les clics font marcher les affaires des milliardaires qui gouvernent le monde. Nous entrons dans une ère néo-tribale, sans aucune vision commune possible, où prolifèrent les mensonges étatiques, les vues étriquées et les cécités systémiques. Et cela à un moment où la planète Terre subit les coups redoublés de l’anthroposphère. Il est urgent de changer de paradigmes ‒ politique, économique, social et civilisationnel ‒ à l’échelle mondiale.