Un rapport sur les systèmes d’IA générative en santé vient d’être mis en ligne après avoir été largement accepté par l’Académie. Il y a trois auteurs dont un chirurgien (Nordlinger) en premier auteur. Le rapport ne dit pas grand chose sur IA et publications. C’est un très large panorama sur l’arrivée de l’IA et c’est factuel et intéressant. C’est engagé, car le message est important : l’IA est là et il faut l’utiliser, mais faire très attention ! Il est urgent de former dans les universités, et de mettre au placard certains enseignants soporifiques. C’est un rapport qui n’a pas d’illustrations, pas de tableaux, pas d’images créées par l’IA ! La séance de l’Académie est sur YouTube.
Six domaines d’application sont décrits
Le corps du rapport décrit factuellement des exemples, mais beaucoup n’ont pas attendu ChatGPT :
- Aide au diagnostic et au choix du traitement
- Apports à l’imagerie médicale
- Médicaments
- Organisation des établissements hospitaliers et relations avec les professionnels de santé
- Recherche en biologie et en santé
- Enseignement
Il y a 10 recommandations
- Tous les professionnels de santé doivent être formés à l’usage des Systèmes d’Intelligence Artificielle Générative (SIAGen).
- L’usage des Systèmes d’Intelligence Artificielle Générative par les professionnels de santé doit se généraliser ; il serait contraire à l’éthique de se passer de l’aide de ces outils.
- Il faut absolument éviter de communiquer les données personnelles des patients et des professionnels de santé à des SIAgen dont la maîtrise en France ou en Europe n’est pas clairement établie : il n’y a pas de « petites » données.
- Toute utilisation des SIAGen doit faire l’objet d’une supervision humaine et le temps consacré au colloque singulier patient/soignant doit être préservé voire renforcé quels que soient les systèmes numériques utilisés.
- La responsabilité des différents acteurs, concepteurs, utilisateurs, doit être clairement déterminée par une réglementation prenant rapidement en compte le règlement européen sur l’IA pour les systèmes numériques en santé.
- La cyber sécurité des établissements de santé et des plateformes de données de santé doit être traitée comme une priorité première et absolue
- La propriété intellectuelle des données servant à l’apprentissage des modèles doit être garantie et notamment celle des publications scientifiques.
- Les recherches sur les applications en santé des SIAGen doivent être fortement soutenues au niveau national et européen afin de réduire la dépendance aux entreprises étrangères et de progresser vers une souveraineté numérique européenne.
- L’utilisation des SIAgen doit se faire dans le respect des principes éthiques, notamment développés dans les avis 3 et 7 du Comité National Pilote d’Ethique du Numérique.
- Les impacts environnementaux et énergétique de la conception, la mise en œuvre et l’utilisation des SIAgen en santé doivent être précisément mesurés et pris en compte dans l’évaluation de l’impact environnemental du système de santé.
Un commentaire
Bonjour,
Merci pour ce partage intéressant. Etant enseignant en faculté, en effet il faut s’intéresser à l’IA et à la santé digitale et numérique.
J’ai apprécié le 10 ème et dernier item : Les impacts environnementaux et énergétique de la conception, la mise en œuvre et l’utilisation des SIAgen en santé doivent être précisément mesurés et pris en compte dans l’évaluation de l’impact environnemental du système de santé.
Les outils ne donnent pas leur impact environnemental en CO2, matériaux et eau…
Cet item a un lien étroit avec le 2ème. Il me paraît complexe d’utiliser les termes de généraliser, d’éthique et d’impact environnemental en même temps. Et selon moi, il manque les notions de besoins, d’utilité et de transparence. Nous rentrons dans un monde ou le bénéfice/risque de ces outils doit avoir une vision globale et donc de santé planétaire.