L’intelligence artificielle (IA) générative se développe vite. Nous la testons pour découvrir des outils incroyables sans savoir comment ils vont s’intégrer dans nos pratiques.. mais il y a des dangers. La communauté européenne a proposé des recommandations pour les chercheurs avec trois axes : utilisez l’IA, soyez explicite, et restez responsable de vos écrits ! Parmi tous les articles sur l’IA, certains attirent notre attention sur l’intégrité scientifique. J’en retiens deux :
PNAS : Protecting scientific integrity in an age of generative AI
Cet éditorial du 21 mai 2024 signé par des chercheurs de plusieurs pays propose cinq principes : 1) La transparence de la communication et de l’attribution ; 2) La vérification du contenu généré par l’IA et l’analyse ; 3) La documentation des données générées par l’IA ; 4) L’accent mis sur l’éthique et l’équité ; 5) Suivi, contrôle et engagement public continus. Pour chacun de ces cinq points, il y a une description intéressante. Les auteurs demandent à l’Académie américaine des sciences de créer un ‘Strategic council on the responsible use of artificial intelligence in science‘.
The Lancet : Generative artificial intelligence and scientific publishing: urgent questions, difficult answers
C’est un commentaire du 6 mars 2024 signé par un senior executive Editor, Jessamy Bagenal. La fin du premier paragraphe : All the signs about generative AI in scientific publishing suggest things are not going to be ok. Il y a deux questions urgentes que je ne peux pas résumer, mais je traduis quelques phrases :
En l’espace de quelques mois, les LLM ont pu passer des examens médicaux et sont désormais formés à l’évaluation de conversations médicales textuelles avec des acteurs formés pour jouer le rôle de patients.
- Comment les éditeurs scientifiques et les rédacteurs en chef de revues peuvent-ils s’assurer que les recherches qu’ils voient sont réelles ?……. Les fausses études vont se multiplier de manière exponentielle et personne ne fait assez pour arrêter cette fatalité. En fait tout le système favorise la quantité… donc les publications vont encore augmenter. Il serait très urgent de modifier le système d’évaluation pour promouvoir la qualité…. Une réévaluation transformatrice de ce qui est digne de confiance dans la littérature scientifique devrait signifier que l’on accorde plus de valeur aux revues et aux éditeurs qui accordent la priorité à la fiabilité.
- Dans quelle mesure voulons-nous que les revues scientifiques continuent d’être destinées à des lecteurs humains et dirigées par des rédacteurs humains ?
Pour être à la hauteur de cet idéal et pour survivre, l’intégrité de la recherche, la gestion des risques et la valeur du leadership humain doivent être les nouvelles priorités de chaque revue.
