C’est un préprint d’une équipe de recherche à laquelle je fais confiance, et déposé sur SocArXiv de OSF. Le titre : Open Science at the Generative AI Turn: An Exploratory Analysis of Challenges and Opportunities. Ce sont des réflexions structurées à partir de la taxonomie de l’Unesco. Pour chacun des quatre domaines (et des sous-domaines de Open Science Knowledge) il y a des commentaires avec des références. Il y a les commentaires avec les avantages et les 
commentaires avec les risques. Une image bien faite résume tout le manuscrit….
L’IA générative est un progrès pour la science ouverte… mais attention
Voici la traduction de la seconde partie du résumé : Dans cet article, nous explorons les impacts positifs et négatifs possibles de l’IA générative sur la science ouverte. Nous utilisons la taxonomie de la Recommandation de l’UNESCO sur la science ouverte pour explorer systématiquement l’intersection entre l’IA générative et la science ouverte. Nous concluons que l’utilisation de l’IA générative pourrait faire progresser les objectifs clés de la science ouverte en élargissant davantage l’accès à la connaissance, en permettant une utilisation efficace de l’infrastructure, en améliorant l’engagement des acteurs de la société et en renforçant le dialogue entre les systèmes de connaissance. Cependant, en raison des limites de l’IA générative, elle pourrait également compromettre l’intégrité, l’équité, la reproductibilité et la fiabilité de la recherche, tout en ayant des implications potentielles pour l’économie politique de la recherche et son infrastructure. C’est pourquoi il est essentiel de procéder à des vérifications, validations et critiques sont essentiels lors de l’intégration de l’IA générative dans les flux de travail de la recherche.
Impact positif sur les publications scientifiques : faciliter l’accessibilité du public
Je reprends un aspect : L’IA générative peut simplifier des concepts scientifiques complexes, supprimer le jargon et résumer les résultats, rendant ainsi les publications de recherche plus accessibles aux profanes ou aux chercheurs d’autres disciplines. Ces caractéristiques pourraient être adaptées à de multiples publics non universitaires, notamment pour aider les décideurs politiques à assimiler les résultats de recherche disponibles (qui n’ont peut-être pas les ressources ou l’expertise nécessaires pour lire des articles académiques et ont besoin d’intermédiaires pour faire l’assimilation à leur place), et ainsi réduire considérablement les coûts de l’utilisation de la science dans l’élaboration des politiques. En proposant des synthèses, des réponses à des questions venant d’autres chercheurs, du public ou des politiques, l’IA pourrait faciliter l’accès aux résultats des recherches et aider les décisions en général.
Impact négatif sur les publications scientifiques : des risques pour le public par les hallucinations
Gardons bien à l’esprit qu’il faut tout contrôler et que des erreurs sont encore très fréquentes. J’en vois souvent. Réalisons, avant tout, que les réponses varient selon les systèmes. Nous l’avons vu avec les stratégies pour traiter un retard de croissance et trois stratégies de prescriptions selon l’IA consultée.
Les systèmes mal déployés, sans tests et garanties suffisants, pourraient donc être désastreux si des informations erronées étaient proposées, notamment dans des domaines sensibles ou à haut risque tels que la médecine et la santé.
Une problématique qui arrive est celle de la production de manuscrits par les paper mills, ces usines à articles qui vendent des places d’auteurs sur des manuscrits à soumettre à des journaux scientifiques. Toute la culture du publish or perish va pousser à l’utilisation de l’IA, et déjà des images scandaleuses ont été publiées (par un journal du groupe Frontiers qui fait croire que les articles sont lus avant publication !).
Autres thèmes : tous ceux de l’UNESCO
Ce préprint est complet et aborde tous les points que je ne détaille pas, y compris le peer review : est-ce éthique de faire relire des manuscrits confidentiels sans l’autorisation des auteurs (et même avec l’autorisation des auteurs !) ? Ce sont des paragraphes sur tous les points mentionnés dans l’image ci-dessus de l’UNESCO.
