Un rapport sur les systèmes d’IA générative en santé vient d’être mis en ligne après avoir été largement accepté par l’Académie. Il y a trois auteurs dont un chirurgien (Nordlinger) en premier auteur. Le rapport ne dit pas grand chose sur IA et publications. C’est un très large panorama sur l’arrivée de l’IA et c’est factuel et intéressant. C’est engagé, car le message est important : l’IA est là et il faut l’utiliser, mais faire très attention ! Il est urgent de former dans les universités, et de mettre au placard certains enseignants soporifiques. C’est un rapport qui n’a pas d’illustrations, pas de tableaux, pas d’images créées par l’IA ! La séance de l’Académie est sur YouTube.
Six domaines d’application sont décrits
Le corps du rapport décrit factuellement des exemples, mais beaucoup n’ont pas attendu ChatGPT :
- Aide au diagnostic et au choix du traitement
- Apports à l’imagerie médicale
- Médicaments
- Organisation des établissements hospitaliers et relations avec les professionnels de santé
- Recherche en biologie et en santé
- Enseignement
Il y a 10 recommandations
- Tous les professionnels de santé doivent être formés à l’usage des Systèmes d’Intelligence Artificielle Générative (SIAGen).
- L’usage des Systèmes d’Intelligence Artificielle Générative par les professionnels de santé doit se généraliser ; il serait contraire à l’éthique de se passer de l’aide de ces outils.
- Il faut absolument éviter de communiquer les données personnelles des patients et des professionnels de santé à des SIAgen dont la maîtrise en France ou en Europe n’est pas clairement établie : il n’y a pas de « petites » données.
- Toute utilisation des SIAGen doit faire l’objet d’une supervision humaine et le temps consacré au colloque singulier patient/soignant doit être préservé voire renforcé quels que soient les systèmes numériques utilisés.
- La responsabilité des différents acteurs, concepteurs, utilisateurs, doit être clairement déterminée par une réglementation prenant rapidement en compte le règlement européen sur l’IA pour les systèmes numériques en santé.
- La cyber sécurité des établissements de santé et des plateformes de données de santé doit être traitée comme une priorité première et absolue
- La propriété intellectuelle des données servant à l’apprentissage des modèles doit être garantie et notamment celle des publications scientifiques.
- Les recherches sur les applications en santé des SIAGen doivent être fortement soutenues au niveau national et européen afin de réduire la dépendance aux entreprises étrangères et de progresser vers une souveraineté numérique européenne.
- L’utilisation des SIAgen doit se faire dans le respect des principes éthiques, notamment développés dans les avis 3 et 7 du Comité National Pilote d’Ethique du Numérique.
- Les impacts environnementaux et énergétique de la conception, la mise en œuvre et l’utilisation des SIAgen en santé doivent être précisément mesurés et pris en compte dans l’évaluation de l’impact environnemental du système de santé.
