IA dans la publication scientifique : le pire, mais plus cher
C’est un éditorial de H Holden Thorp, rédacteur en chef des revues Science (USA), qui lance un appel désespéré. Cet éditorial du 16 juillet 2026 mérite lecture tranquille car il est bien écrit. Je choisis de traduire un paragraphe :
Ces facteurs compliquent la publication scientifique. Le nombre de soumissions de travaux de recherche à *Science* et à d’autres revues augmente, car la conduite des recherches et la production d’articles s’accélèrent. Mais comme davantage d’articles contiennent des erreurs générées par l’IA, une supervision humaine accrue est nécessaire pour vérifier les résultats. Il existe des outils (dont beaucoup sont basés sur l’IA) qui aident à détecter les erreurs, telles que les fausses citations et les formulations absurdes, mais chaque rapport automatisé nécessite un effort humain supplémentaire pour interpréter les résultats et travailler avec les auteurs afin de les corriger, soit en révisant l’article, soit en décidant de ne pas le publier du tout. Cela vaut également pour les outils d’IA qui vérifient la manipulation d’images, le plagiat et les références. Cependant, les outils d’IA ne détectent pas toutes les erreurs et peuvent également générer des faux positifs, en signalant à tort des recherches humaines authentiques comme étant générées par l’IA.
L’IA est la cerise sur un gâteau en décomposition : qui contrôle la gestion des savoirs
Nous avons largement documenté l’inflation des publications qui a commencé après l’arrivée du modèle économique de l’auteur-payeur remplaçant l’abonnement. Les quotidiens et magazine informent le public sur ce système archaïque d’évaluation basé sur la quantité de la production d’articles. L’arrivée d’éditeurs de piètre qualité, l’activité des paper mills augmentent cette dérive. Je n’évoque pas les revues prédatrices. Les articles sur l’IA du quotidien Les Echos sont très informatifs. Le 17 juillet 2026, l’article commençait ainsi (copie écran ci-dessous) : Une poignée de centaines d’euros, quelques clics et me voilà experte autoproclamée dans le traitement de certains cancers, avec une première publication scientifique dans une revue prestigieuse… L’anecdote pourrait presque faire sourire, si elle n’avait pas un fond de vrai, avec des conséquences potentiellement désastreuses pour les malades, eux, bien réels. Avec quelques outils technologiques, il est simple d’inonder la recherche de fausses publications et d’induire en erreur les vrais chercheurs. Ensuite, il y avait l’article faisant l’hypothèse que 10 % des articles de PubMed sur le cancer étaient peut-être fraudés !!!!
Un mathématicien nous alerte : Magnifique Humanité
Il s’agit de l’encyclique de Léon XIV que j’ai discutée en groupe avec d’autres chercheurs. C’est une démonstration scientifique qui nous propose de réfléchir. Ne lisez que la partie IA à partir du chapitre 3 et c’est un cadre de réflexion plein de sagesse : veut-on une tour de Babel ou reconstruire Jérusalem ? Il y a une alerte sur la perte de souveraineté des États face aux acteurs privés (mention implicite de Palantir et de Peter Thiel). Est-ce que l’IA est un bien commun ou la prise de pouvoir de quelques acteurs privés plus puissants que des états ? Quelle dignité du travail dans la transition numérique ? Vous pouvez l’acheter pour 4,90 euros ou la télécharger gratuitement.
Un commentaire
Certes, la chose n’est certes pas anodine. Comme pour toutes les innovations techniques, l’irruption de l’IA est d’abord un préoccupant multiplicateur des travers humains. Elle complique sérieusement toutes nos activités en posant des problèmes auxquels nous n’étions nullement préparés. Elle engendre notamment des bouleversements dans nos vieux concepts sociaux et économiques, et l’adaptation va prendre beaucoup de temps au fil d’expériences douloureuses. L’IA donne surtout un pouvoir inattendu à tous les tricheurs, parasites et malandrins, dont la proportion élevée dans notre espèce est tristement constante de toute éternité. Nous ne sommes assurément pas sortis de cette auberge où nous sommes entrés imprudemment.
Néanmoins, non, ce n’était pas mieux hier et ce ne sera pas pire demain. La vie continue et le seul vrai problème de l’humanité est de croire en un progrès qui puisse atténuer ses difficultés.