world economic forum

L’intégrité de l’information à l’ère de l’IA : ce que le rapport du WEF change pour la médecine et la science

Points clés

Nous avons déjà commenté le rapport du World Economic Forum (WEF, Genève) de début 2025 montrant que désinformation / mésinformation était le premier risque mondial, devant le climat et les conflits armés. Prudence sur cette conclusion quand même.

En novembre 2026, le WEF a publié un rapport intitulé The Future of Information Integrity: Charting a Global Path in a Fragmented World. Dans un monde où la production du savoir est profondément transformée par l’IA générative et les agents autonomes, ce document aborde l’intégritwefé de l’information comme une condition fondamentale de la confiance sociale, indispensable pour faire face aux grands défis mondiaux comme les David  pandémies. Plus j’utilise l’IA et je rencontre des collègues, plus je comprends les risques et que la méfiance doit être primordiale.

Pour la communauté médicale, où la décision clinique repose sur la preuve et l’impartialité des données, les constats du WEF soulignent un basculement critique : la simple modération des contenus et le fact-checking a posteriori ne suffisent plus. L’intégrité de l’information est désormais un défi systémique qui s’articule autour de quatre couches interdépendantes.

Le rapport a considéré quatre thèmes (voir ci-dessous), traités sous le même plan chacun : Dynamics ; Interventions ; Creation ; Future horizons.

La création de contenu : Illusion d’autorité et vérification des compétences

L’IA générative a fait s’effondrer les coûts de production de l’information, permettant la création massive de textes d’apparence très scientifique, d’images médicales réalistes ou de fausses citations bibliographiques. Selon une unescoenquête de l’UNESCO citée dans le rapport (500 digital content creators in 45 countries), 62 % des créateurs de contenus numériques ne réalisent aucune vérification systématique des faits, et 42 % jugent la crédibilité d’une information au nombre de mentions « j’aime » ou de partages.

Cette baisse des exigences éditoriales accroît les risques de désinformation médicale auprès des patients. Face à cela, le rapport examine des régulations ciblant l’amont de la création, à l’image de la législation chinoise imposant aux créateurs de contenus dans des domaines à haut risque (médecine, droit, finance) de faire vérifier leurs qualifications professionnelles avant de pouvoir publier. Sur le plan technique, l’intégration de marqueurs d’origine (comme le filigranage imperceptible SynthID de Google) et le développement de standards de provenance (C2PA ou Coalition for Content Provenance and Authenticity) permettent de tracer le caractère synthétique d’un contenu, sans pour autant en garantir la véracité médicale.

La consommation d’information : Le piège des résumés IA « Answer-first »

Le déclin de la confiance envers les institutions traditionnelles pousse de nombreux usagers vers des influenceurs ou des canaux informels sans rigueur méthodologique. Parallèlement, l’essor des moteurs de recherche et assistants IA dits « Answer-first » (fournissant directement une réponse synthétique à l’utilisateur) modifie profondément l’accès à la connaissance.

Le risque majeur pour la médecine réside dans le fait que les synthèses uniques fournies par les assistants IA masquent fréquemment le niveau de preuve, les incertitudes méthodologiques, les controverses scientifiques et le contexte d’origine. Une évaluation menée en 2025 par l’EBU et la BBC montre que 45 % des réponses fournies par les assistants IA testés comportaient des erreurs significatives d’exactitude ou de sourçage.

Design et diffusion : RAG, hallucinations et agents de défense

Pour pallier le phénomène d’« hallucination » des grands modèles de langage (LLM) — particulièrement dangereux lorsqu’un modèle invente des effets secondaires ou des études —, les systèmes s’orientent vers la génération augmentée par récupération (RAG – Retrieval-Augmented Generation). Le RAG contraint l’IA à extraire ses réponses d’une base de données fermée et vérifiée (telle qu’une base de littérature biomédicale). Toutefois, le rapport rappelle que la récupération d’un document ne garantit ni la fidélité de la synthèse ni l’absence d’erreurs de raisonnement.

Pour préserver l’intégrité de la diffusion, le rapport envisage le déploiement d’agents de défense autonomes, capables d’auditer en temps réel les flux d’information et de croiser automatiquement les résumés générés par IA avec des bases de données évaluées par des pairs (peer-reviewed) afin de repérer les biais ou les falsifications.

Incitations de l’écosystème : La littérature scientifique sous pression

La diffusion d’informations scientifiques rigoureuses est menacée par la fragilisation économique de l’édition et de la presse. Le passage aux résumés automatisés accentue le phénomène de « zéro clic » : les lecteurs s’arrêtent à la synthèse fournie par l’IA et ne consultent plus les articles originaux, privant les revues et les médias spécialisés des flux nécessaires à leur financement.

De plus, les dépôts de connaissances en accès ouvert et les bibliothèques numériques subissent un « paradoxe d’extraction » : le moissonnage automatisé et massif (scraping) par les entreprises de tech engendre des coûts d’infrastructure exorbitants, incitant certains acteurs à fermer leurs accès ou à ériger des paywalls, ce qui nuit à la démocratisation du savoir médical.

Conclusion : Quelle posture pour la rédaction médicale ?

Le rapport du WEF démontre qu’aucune technologie ou réglementation isolée ne pourra garantir l’intégrité de l’information. Pour les praticiens hospitaliers et les rédacteurs scientifiques, l’enjeu essentiel consiste à défendre l’exigence de la preuve, imposer la transparence des sources dans les outils d’IA et soutenir la pérennité d’une littérature médicale indépendante et vérifiable.

Je remercie la collègue qui m’a transmis ce rapport. Félicitons David Colon, historien français, prof à Sciences Po, Paris et auteur d’un livre que je vais analyser bientôt. David Colon est l’un des 20 contributeurs de ce rapport (page 29). J’ai bien lu ce rapport et ce billet car j’ai été aidé par une IA, notamment pour extraire les idées en relation avec la rédaction médicale.

Partagez cet article sur les réseaux:
Facebook
Twitter
Pinterest
LinkedIn

Un commentaire

  • J’utilise désormais gemini en permanence pour m’indiquer des références pertinentes sur une question assez précise, afin de les consulter immédiatement.
    Je retourne ensuite, à plusieurs reprises, challenger l’IA pour critiquer la valeur de certaines sources, et/ou pour approfondir la recherche sur certains points.
    Je suis très satisfait de l’aide que ça apporte à mes analyses documentaires, notamment par la formidable instantanéité du processus à chaque étape.
    Je crois que la plupart des autres chatbots font aussi très bien (il y a deux ans j’utilisais surtout perplexity), et je suis certain que nous sommes très nombreux à procéder de la sorte.
    Je me demande s’il existe un benchmark pour comparer les différents chatbots sur différents domaines de requêtes, et les avis seraient intéressants à connaître.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Articles populaires

Archives mensuelles
Suivez-nous
Newsletter
Inscrivez-vous à notre newsletter mensuelle

Tags

Vous pourriez aussi aimer