Connectez-vous S'inscrire

Le magazine de l'innovation hospitalière
SIS

L'Académie Nationale de médecine publie un rapport sur les systèmes d’IA générative en santé


Rédigé par Rédaction le Mercredi 13 Mars 2024 à 12:24 | Lu 821 fois


La santé est un des domaines majeurs d’application des technologies dites d’Intelligence Artificielle. Tous les domaines de la santé et toutes les spécialités sont concernés. Les systèmes d’intelligence artificielle générative (SIAgen) impressionnent par leur capacité à produire en quelques secondes des textes souvent pertinents, mais aussi parfois erronés. Leurs champs d’applications dans le domaine de la santé sont vastes et peuvent aller de l’aide à la rédaction de notes d’information à la rédaction de thèses ou de projets de programme de recherche. Pour les utiliser à bon escient il est important d’en connaitre les principes de fonctionnement.



Les SIAgen fonctionnent à partir d’auto-apprentissage basé sur un nombre extrêmement élevé d’exemples, ce qui est très différent de l’approche humaine, qui s’appuie sur l’expérience, le contexte et un système de valeurs. Ils génèrent des textes avec une grande rapidité mais ne sont pas entrainés à rechercher ou à dire la vérité. Une validation humaine est donc toujours nécessaire. Par ce rapport, l’Académie nationale de médecine explicite plusieurs de ces avancées pour la santé, décrit les enjeux d’éthique associés et recommande des points d’actions à mettre en œuvre sans délai.

Recommandations

Dans le contexte qui vient d’être présenté et dans une dynamique d’évolution internationale extrêmement rapide, l’Académie nationale de médecine recommande à tous les acteurs du système de santé, publics ou privés, aux citoyens et aux pouvoirs publics, la prise en compte des recommandations suivantes.
 
  1. Tous les professionnels de santé doivent être formés à l’usage des Systèmes d’Intelligence Artificielle Générative (SIAGen).
     
  2. L’usage des Systèmes d’Intelligence Artificielle Générative par les professionnels de santé doit se généraliser ; il serait contraire à l’éthique de se passer de l’aide de ces outils.
     
  3. Il faut absolument éviter de communiquer les données personnelles des patients et des professionnels de santé à des SIAgen dont la maîtrise en France ou en Europe n’est pas clairement établie : il n’y a pas de « petites » données.
     
  4. Toute utilisation des SIAGen doit faire l'objet d'une supervision humaine et le temps consacré au colloque singulier patient/soignant doit être préservé voire renforcé quels que soient les systèmes numériques utilisés.
     
  5. La responsabilité des différents acteurs, concepteurs, utilisateurs, doit être clairement déterminée par une réglementation prenant rapidement en compte le règlement européen sur l’IA pour les systèmes numériques en santé.
     
  6. La cyber sécurité des établissements de santé et des plateformes de données de santé doit être traitée comme une priorité première et absolue.
     
  7. La propriété intellectuelle des données servant à l’apprentissage des modèles doit être garantie et notamment celle des publications scientifiques.
     
  8. Les recherches sur les applications en santé des SIAGen doivent être fortement soutenues au niveau national et européen afin de réduire la dépendance aux entreprises étrangères et de progresser vers une souveraineté numérique européenne.
     
  9. L’utilisation des SIAgen doit se faire dans le respect des principes éthiques, notamment développés dans les avis 3 et 7 du Comité National Pilote d’Ethique du Numérique.
     
  10. Les impacts environnementaux et énergétique de la conception, la mise en œuvre et l’utilisation des SIAgen en santé doivent être précisément mesurés et pris en compte dans l’évaluation de l’impact environnemental du système de santé.

Consulter le rapport détaillé







Nouveau commentaire :
Facebook Twitter







CONTACT

HOSPITALIA

Immeuble Newquay B / B35
13 rue Ampère
35800 Dinard 
Tél : 02 99 16 04 79
Email : contact@hospitalia.fr

Abonnement :
abonnement@hospitalia.fr