Rechercher
Fermer ce champ de recherche.
Rechercher
Fermer ce champ de recherche.
chat potté

ChatGPT : performant non sourcé… co-auteur d’articles scientifiques (auteurs cadeaux ou fantômes ?)

Points clés

Depuis novembre 2022, c’est l’excitation autour d’un outil d’intelligence artificielle (IA) qui répond à nos questions et propose des textes cohérents, voire plaisants, etc… Tous les domaines de l’éducation, de la science sont concernés, et ce n’est que le début des festivités. Beaucoup d’article sur ce phénomène, dont un éditorial du JAMA le 30 janvier 2023.

Le Chat GPT a déjà été co-auteur d’articles scientifiques

Avec ChatGPT (pour generative pretrained transformer), il est facile de produire des textes de qualité et les étudiants, quelque soit leur niveau, l’ont vite compris. Gain de temps pour les devoirs faits à la maison, aide pour les examens, pas de plagiat grâce au paraphrasage, etc.. Le plagiat devrait-il diminuer vite en passant par ces outils…. Merveilleux. Mais le chat GPT ne cite pas ses sources ! Il y a des risques que nous ne connaissons pas encore, dont la menace pour les démocraties… et la suppression d’emplois…

De nombreuses questions ont été posées au chat et les antivaxx sont actifs. Je cite l’édito du JAMA : Leurs résultats ont montré que les réponses textuelles de ChatGPT aux questions, bien que généralement bien écrites, sont faits avec des formules verbales (ce qui n’était pas facilement discernable), non actualisées, fausses ou fabriquées, sans références précises ou complètes et, pire encore, avec des preuves inexistantes chat gbtconcoctées pour les affirmations ou les déclarations qu’il fait..

Les alertes et publications dans les revues scientifiques accélèrent…  d’autant plus que le chat GPT peut les écrire. ChatGPT a été co-auteur de preprints et d’articles dont 2 dans Nature. Ces articles sont dans Google Scholar et PubMed….  Regardez le co-auteur de l’image ci-contre ! ChatGPT a déposé un preprint sur HAL.

D’ailleurs, à propos de PubMed, un interne que je remercie, m’a dit que le chat pouvait faire les équations de recherche afin d’interroger les bases documentaires. Ouf, car je me trompe parfois dans mes équations… Des lignes directrices du réseau EQUATOR ont intégré l’IA. Quand aurons-nous une intégration dans Word pour une aide à la rédaction ?

Les instructions aux auteurs des revues : le chat GPT n’est pas un auteur !

L’éditorial du JAMA, écrit par Annette Flanagin, managing editor, et des rédacteurs du JAMA, n’est pas co-signé par le chat ! Son titre : Nonhuman “Authors” and Implications for the Integrity of Scientific Publication and Medical Knowledge. La plupart des références de cet éditorial sont de décembre 2022 et janvier 2023 car ce phénomène est récent. Les éditeurs vont utiliser encore plus des outils basés sur l’IA pour rechercher des plagiats, des images manipulées, etc…

Les instructions aux auteurs de toutes les revues du groupe JAMA vont avoir 3 paragraphes nouveaux :

  • Responsabilités des auteurs : toutes les technologies d’IA, de machine learning ne qualifient pas pour être auteur (en excluant, les correcteurs d’orthographe, les outils pour les références qui peuvent être utilisés)…. Si les auteurs ont utilisé l’IA, ils doivent le préciser, le justifier et en prendre la responsabilité.  Le chat dehors, ça pue !
  • Matériel reproduit ou re-créé avec ces outils doit être évité..  ou justifié en prenant la responsabilité.
  • Intégrité des images : responsabilité des auteurs, etc…

Voici la traduction du premier paragraphe de l’édito, nous rappelant que nous utilisons l’IA depuis longtemps : Les technologies d’intelligence artificielle (IA) destinées à aider les auteurs à améliorer la préparation et la qualité de leurs manuscrits et articles publiés sont de plus en plus nombreuses et sophistiquées. Il s’agit notamment d’outils d’aide à la rédaction, à la grammaire, à la langue, aux références, à l’analyse statistique et aux normes de présentation. Les rédacteurs et les éditeurs utilisent également des outils assistés par l’IA à des fins multiples, notamment pour filtrer les soumissions afin de détecter les problèmes (plagiat, manipulation d’images, problèmes éthiques), trier les soumissions, valider les références, éditer et coder le contenu en vue de sa publication sur différents supports et faciliter la recherche et la découverte après publication.

Partagez cet article sur les réseaux:
Facebook
Twitter
Pinterest
LinkedIn

5 commentaires

  • Les assistants rédactionnels automatiques sont d’une grande utilité. Comme ses désormais nombreux avatars, ChatGPT n’est qu’un outil de cette classe. Il sert à la fois à pêcher quelques informations, à organiser leur présentation et à en proposer une synthèse langagière. Pour notre usage de médecins, je trouve d’ailleurs Perplexity (qui oriente sur quelques références) plus intéressant. Ces automates sont en fait les rédacteurs robotiques d’une sorte de wikipedia – avec quoi je les trouve assez complémentaires.
    Nous aurons bientôt pléthore de moyens d’analyse documentaire exhaustive, qui sont devenus clairement indispensables. Chacun de ces outils aura son domaine de prédilection, sa méthode de sélection des sources, son type d’analyse, et ce sera incontestablement un progrès essentiel comparativement aux algorithmes des moteurs de recherche simplistes que nous utilisons depuis maintenant un quart de siècle.
    On peut aussi espérer que les assistants rédactionnels amélioreront la qualité rédactionnelle des publications, souvent bien pauvre, volontiers verbeuse et souvent absconse
    Il n’en reste pas moins que la gestion documentaire vaut moins par les moyens utilisés que par la pertinence de leur usage, ainsi que par la méthode, le sens critique et tout simplement le travail de l’utilisateur.
    Pierre Rimbaud

    Répondre
  • Bien d’accord avec vos remarques.
    Je ne connaissais par Perplexity mais c’est impressionnant

    Il y a beaucoup de projets. Dans un domaine voisin, mais un peu différent, je ne sais pas quoi penser de https://quillbot.com/

    A suivre

    Répondre

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Articles populaires

Archives mensuelles

Suivez-nous

Newsletter

Inscrivez-vous à notre newsletter mensuelle

Tags

Vous pourriez aussi aimer