Tout va vite et la plupart de nos organisations mettent en place des directives pour leurs personnels pour les aider à intégrer les IA (Intelligences Artificielles) génératives dans leurs activités. C’est une période de foisonnement en attente d’une gouvernance capable d’harmoniser tous ces documents. Ne soyons pas pressés car si c’est le sinistre actuel de l’Enseignement supérieur et de la recherche qui gouverne, nous pourrions avoir des surprises. J’ai choisi deux ‘recommandations’ sans prétendre à une exhaustivité.
Avantages et risques de l’IA : bonne mise au point
L’INRAE (Institut national de recherche pour l’agriculture, l’alimentation et l’environnement) a publié sur HAL une version 1 le 13 septembre 2024. C’est un bon texte sur 8 pages, bien écrit, avec des mises en valeur en gras des points principaux. Je retiens quelques idées, certaines nous paraissent obscures, mais les explications sont simples :
- Fine-tuning : spécialisation d’un LLM à apprentissage succinct.
- Prompt-engineering : contrôle par un texte donné en entrée au niveau du prompt.
- Utilisation en p
ratique : obtenir des réponses à des questions ou rechercher des informations ; aider à la rédaction de textes ; générer des codes informatiques. - Avantages et nouvelles opportunités : augmentation de la productivité ; faciliter et libérer du temps pour la production de nouvelles idées ; plus grande précision par la prise en compte d’une quantité d’information plus importante ; outil d’aide à l’apprentissage ; nouvelle interactivité avec les systèmes informatiques et automatiques ; les LLM peuvent dialoguer entre eux….. Certaines expériences montreraient que certaines IA génératives ont des capacités émergentes, c’est à dire non prévues à la conception de celles-ci.
- Limites et risques liés à l’exploitation (besoin de données en quantités considérables, impact environnemental, impacts sociétaux et éthique, souveraineté, augmentation massive des productions non évaluables par un peer-review engorgé) et à l’usage (hallucinations, information parfois obsolète, risques juridiques, déontologiques et pour l’intégrité).
- Il y a ensuite 6 recommandations : à découvrir !
- Ensuite 8 références.
Des recommandations dans la culture de l’intégrité scientifique
Le CIRAD (Centre de coopération internationale en recherche agronomique pour le développement) a publié un document de 20 pages sur les IA génératives (IAg), version 2 du 5 octobre 2024, qui cite les recommandations de l’INRAE. Dans l’objet de la note : « Nous fournissons aux utilisateurs des repères et des pistes de réflexion leur permettant d’employer les IAg de manière responsable et éclairée, ou de choisir de ne pas le faire en connaissance de cause. »
Le coeur du document est dans les pages 5 à 15, avec ce plan :
IAg : problèmes connus et implications dans le contexte de la recherche
II.1 Production ou propagation de données erronées ou tronquées
II.2 Production 
de réponses variables et non reproductibles
II.3 Biais de représentation
II.4 Problèmes associés à l’utilisation des sources
II.5 Problèmes associés à la réutilisation des données fournies par l’utilisateur
II.6 Manque de transparence pour l’utilisateur
II.7 Manque d’ouverture et de traçabilité du fonctionnement et des produits
II.8 Facilitation des manquements volontaires ou involontaires à l’intégrité scientifique
Impacts des IAg au-delà de la recherche scientifique
Bonnes pratiques d’utilisation des IAg en recherche
Un point de vigilance : Dans le cadre d’un usage scientifique, l’usage de la plupart des IAg est problématique du fait de leur incapacité à citer leurs sources ou de leur tendance à les citer de manière inexacte et non pertinente.
Il y a trois annexes avec beaucoup de bonnes ressources :
- Une traduction française partielle des recommandations de la Commission Européenne sur l’utilisation des IAg.
- Des renvois aux recommandations émises par le Cirad ou par ses partenaires.
- Une liste des ressources que nous avons exploitées: celles-ci traitent des IA en général ou des IAg en particulier et sont de portée générale ou de nature thématique.
Quelques redondances entre les deux documents, mais surtout des complémentarités intéressantes. Ces recommandations sont peut-être déjà en partie obsolètes ! Allez en découvrir d’autres.
