La vérité et la démocratie

Ce chapitre ouvre la famille des problèmes sociaux et politiques. Une démocratie suppose que les citoyens puissent s’informer, distinguer le vrai du faux et débattre sur une base commune. L’IA générative menace cette base de plusieurs façons : en fabriquant des faux plus vrais que nature, en persuadant mieux que les humains, et en transformant les canaux par lesquels nous nous informons. Elle offre aussi, parfois, des moyens de la défendre.

Des faux plus vrais que nature

Le chapitre « Des images, des voix, des vidéos » du Module 4 a présenté les hypertrucages (deepfakes) et les moyens de les fabriquer. Les élections en ont connu plusieurs.

• En Slovaquie, en septembre 2023, deux jours avant les élections législatives, un faux enregistrement audio diffuse une conversation où le chef d’un parti libéral et une journaliste semblent discuter d’une fraude électorale. Il circule pendant la période de silence électoral, et, parce qu’il s’agit d’un son et non d’une vidéo, il échappe aux règles de Meta sur les médias manipulés.
• Au New Hampshire, en janvier 2024, des milliers d’électeurs reçoivent un appel où une voix imitant celle de Joe Biden les invite à ne pas voter à la primaire. Le consultant politique responsable est condamné par l’autorité américaine des communications à une amende de 6 millions de dollars, mais acquitté au pénal en 2025.
• En 2026, un outil de modification d’images intégré au réseau X, Grok, sert à produire en masse des images dénudées de femmes réelles, et même de mineures, sans leur consentement. Le Royaume-Uni, l’Union européenne, la France, la Californie et le Canada ouvrent des enquêtes, et X restreint l’outil.

L’année 2024, où plus de la moitié de la population mondiale était appelée aux urnes, devait être celle des hypertrucages électoraux. Les études publiées ensuite concluent que leur effet mesurable sur les résultats est resté limité. Selon Meta, les contenus générés par l’IA représentaient moins de 1 % des fausses informations électorales repérées par ses vérificateurs. Un rapport de l’Institut Alan Turing observe que les hypertrucages atteignaient surtout des gens déjà convaincus, et renforçaient les divisions plutôt qu’ils ne faisaient changer les votes. En Roumanie, l’élection présidentielle est annulée en décembre 2024, mais en raison d’une campagne d’influence coordonnée sur TikTok, liée à la Russie, plus que de l’IA.

Le dividende du menteur

Le danger le plus profond n’est peut-être pas que l’on croie des faux, mais que l’on cesse de croire le vrai. En 2019, les juristes Robert Chesney et Danielle Citron décrivent le dividende du menteur (liar’s dividend) : plus le public sait que les hypertrucages existent, plus il devient facile, pour quelqu’un pris en faute, de faire passer une vraie vidéo ou un vrai enregistrement pour un faux. La simple possibilité du faux affaiblit la valeur de preuve de toutes les images.

Danielle Citron en 2015. Photo : Fourandsixty, CC BY-SA 4.0, via Wikimedia Commons.

Une persuasion à grande échelle

Les modèles de langage sont aussi de redoutables interlocuteurs.

• Contre les théories du complot. En 2024, une étude publiée dans Science fait converser plus de 2 000 personnes qui croient à une théorie du complot avec GPT-4, chargé de les en dissuader avec des faits. Leur croyance baisse d’environ 20 % en moyenne, et l’effet dure encore deux mois plus tard.
• En politique. En décembre 2025, une autre étude publiée dans Science, menée sur près de 77 000 Britanniques et dix-neuf modèles, montre que le levier le plus efficace de la persuasion est la densité d’information : multiplier les affirmations factuelles. Mais les réglages qui rendent un modèle plus persuasif le rendent aussi moins exact.
• Sans consentement. En 2025, on apprend que des chercheurs de l’Université de Zurich ont fait publier, pendant des mois, plus de 1 700 commentaires générés par l’IA sur un forum de débat du site Reddit, certains en se faisant passer pour une victime de viol ou un conseiller en traumatologie, et en adaptant leurs arguments à l’historique de chaque utilisateur. Reddit dénonce une expérience « profondément contraire à l’éthique », et les chercheurs renoncent à la publier.

La même capacité peut donc servir à corriger des erreurs ou à manipuler, et rien, dans le modèle lui-même, ne distingue les deux usages.

Un écosystème de l’information transformé

L’IA change aussi la façon dont l’information circule.

• Moins de clics. En juillet 2025, une étude du Pew Research Center montre que les utilisateurs de Google cliquent sur un lien dans 8 % des cas quand un résumé généré par l’IA apparaît en haut des résultats, contre 15 % sans résumé. Les médias, qui vivent de ces visites, en perdent une partie, au moment même où les modèles s’entraînent sur leurs articles.
• Des sites fabriqués. L’organisme NewsGuard recense, en mars 2026, plus de 3 000 sites d’information générés presque entièrement par l’IA, contre 49 en mai 2023.
• Des modèles contaminés. En 2025, NewsGuard observe que dix grands assistants reprennent dans un tiers des cas des récits mensongers diffusés par un réseau russe de sites, appelé « Pravda », qui a publié des millions d’articles, peut-être pour être intégrés aux données d’entraînement des modèles.
• Des hallucinations, enfin, qui mêlent le faux au vrai sans intention de tromper.

Se défendre

Les défenses existent, mais aucune ne suffit seule.

• Marquer les contenus. La coalition C2PA, fondée en 2021 par Adobe, Microsoft et la BBC, notamment, propose d’attacher aux fichiers une signature numérique qui atteste de leur origine et de leurs modifications. Google marque d’un filigrane invisible (watermark), appelé SynthID, les images et les textes produits par ses modèles. Ces marques peuvent toutefois être effacées, et elles ne disent rien des contenus qui n’en portent pas.
• Détecter. Les détecteurs d’hypertrucages se trompent dans les deux sens, et la course entre faussaires et détecteurs ressemble à celle des réseaux antagonistes du Module 4.
• Légiférer. L’AI Act européen oblige à signaler les hypertrucages et les échanges avec un assistant, à partir d’août 2026, et à marquer les contenus générés, à partir de décembre 2026. Plusieurs pays et États américains punissent les hypertrucages sexuels non consentis ou électoraux.
• Éduquer. La défense la plus durable reste sans doute l’esprit critique : vérifier les sources, se méfier des contenus qui confirment trop bien ce que l’on pense, et savoir qu’une image, aujourd’hui, ne prouve plus rien à elle seule.