Utiliser les Intelligences Artificielles génératives (IAg) nécessite une vigilance majeure… Nous aurons des surprises. Nous savons qu’il est fortement déconseillé de déposer des manuscrits pour une aide au peer-review. Ces manuscrits n’ont pas été évalués et ils vont alimenter la mémoire de ces IAg. De plus, une autorisation de l’auteur serait nécessaire. Malgré les recommandations, nous savons que des IAg sont utilisées pour le peer-review.
Des articles rétractés alimentent des IAg
Cette recherche menée par des chercheurs américains et chinois a été publiée le 12 mars 2025 dans Journal of Advanced Research. Accès libre. Le titre copié ci-contre est clair : « Alarm…. » Le nombre d’articles rétractés augmente chaque année, et ces articles sont accessibles dans les bases de données qui alimentent les IA.
C’est un travail qui nécessitera d’autres recherches. Les auteurs ont identifié 21 articles rétractés dans le domaine de l’oncologie. Ils ont questionné ChatGPR4.0 sur les conclusions de ces articles, et ont attendu que ChatGPT4.0 dise qu’il avait utilisé des articles rétractés… déception !!! L’article n’est pas suffisamment détaillé pour la conclusion :
These data suggest that at least there is a 10% of chance that ChatGPT still answers questions based on retracted articles and does not notice the retraction status of the article. It is known that chatbot AI systems confabulate fabricated citations out of thin air. However, when ChatGPT4o answers questions with an article with a real title, it is evasive and potentially easily mislead readers.
Peut-on généraliser en dehors de la cancérologie ?
Restons confiants : avec le temps, ces IAg s’améliorent et nous pouvons espérer que les articles rétractés seront identifiés.
