Pourriez-vous nous présenter le groupe de travail « Mettre l’IA au service de la santé » ?
Thomas Kernem-Om : Ce groupe de travail, animé au sein du Hub France IA, réunit une diversité d’acteurs de l’écosystème santé : soignants, juristes, experts métiers, spécialistes en IA et en cybersécurité, ainsi que des entreprises et start-ups. Ensemble, nous explorons les opportunités offertes par l’IA dans ce domaine tout en identifiant les risques pour promouvoir une approche éthique, responsable et souveraine. Notre feuille de route s’articule autour de plusieurs axes, depuis les usages jusqu’à la règlementation, en passant par la durabilité environnementale, sociale et économique, sans oublier la cybersécurité. Sur ce dernier point, nous collaborons notamment avec le Campus Cyber national, qui fédère les principaux acteurs nationaux et internationaux du secteur, et avons commencé à discuter avec l’APSSIS (Association pour la sécurité des systèmes d’information de santé).
Vous avez lancé une grande enquête nationale sur l’adoption et les cas d’usage de l’IA en santé. De quoi s’agit-il ?
Effectivement, notre action phare cette année vise à mesurer l’adoption réelle de l’IA dans le secteur de la santé, en identifiant les usages actuels et les attentes du terrain. Menée avec le soutien de la Direction générale des entreprises (DGE) et l’aimable participation de la Haute Autorité de santé (HAS), cette enquête s’adresse à tous les professionnels des secteurs sanitaire et médico-social. Concrètement, nous cherchons à dresser un état des lieux objectif et représentatif, pour éclairer les politiques publiques sur les leviers d’adoption, les besoins en formation, en financement ou en accompagnement. Ce travail s’inscrit dans la continuité d’initiatives régionales ou nationale comme l’« Enquête sur les usages et l’offre d’IA en santé dans le Grand Ouest », ou encore le « Baromètre IA en santé », avec pour ambition de nourrir la stratégie nationale sur l’IA et les données de santé.
Comment procédez-vous concrètement ?
Notre objectif est de recueillir des données de terrain issues de l’ensemble du territoire français, y compris des Outre-mer, en mobilisant l’ensemble des professions médicales et paramédicales. Cette approche nous permettra de proposer une stratification fine des résultats par métier, secteur d’activité ou localisation géographique. Il s’agit d’un travail complexe, car le niveau d’adoption de l’IA peut varier considérablement au sein d’une même profession. Par exemple, un infirmier exerçant en EHPAD n’aura pas les mêmes usages ou besoins qu’un infirmier de bloc opératoire. Nous cherchons donc à identifier précisément dans quels segments du système de santé l’IA est la plus – ou la moins – adoptée, et pourquoi. Certains domaines, comme l’imagerie médicale, sont déjà bien avancés. D’autres, beaucoup moins. Comprendre ces écarts, en analyser les causes, est essentiel pour orienter les politiques d’accompagnement.
Et les éditeurs de solutions dans tout cela ?
Ils sont pleinement intégrés dans notre démarche. Nous avons notamment engagé un dialogue avec les CHU, qui deviennent aussi développeurs de leurs propres outils, pour mieux comprendre leurs pratiques et leurs contraintes règlementaires. C’est pourquoi nous proposons deux questionnaires complémentaires, l’un pour les utilisateurs, l’autre pour les fournisseurs, y compris internes. Cette double approche permet une analyse croisée des usages et des offres. De nombreux éditeurs privés ont déjà participé, et nous incitons fortement les CHU et éditeurs publics à se joindre au mouvement. Cela dit, le taux de réponse est satisfaisant, en particulier côté utilisateurs. Nous avons entamé l’analyse des résultats, avec une publication prévue à l’automne 2025. Nous cherchons à présent à recueillir des témoignages concrets pour illustrer les données avec des exemples de terrain, qu’ils soient positifs ou négatifs.
Quels premiers enseignements pouvez-vous déjà partager ?
Sans surprise, l’IA suscite à la fois enthousiasme et inquiétudes. Elle arrive dans un système de santé déjà très sollicité par la transformation numérique et ajoute, à cet égard, un niveau de complexité supplémentaire. Ce que nous observons en premier lieu, ce sont les nombreux freins qui entravent encore son adoption. La question de la cybersécurité et de la protection des données reste centrale ; s’y ajoutent le manque de personnel qualifié, l’absence de formation spécifique, ou encore une connaissance très partielle du cadre règlementaire, notamment avec l’entrée en vigueur de l’AI Act. Par ailleurs, le niveau de maturité est très hétérogène selon les profils : entre un praticien hospitalier et un professionnel en libéral, les usages et perceptions diffèrent nettement. On note aussi un certain décalage générationnel. Enfin, l’IA reste un sujet clivant, parfois chargé de fantasmes autour d’une possible substitution de l’humain par la machine, ce qui peut freiner son adoption.
Quelles suites envisagez-vous ?
Une fois que nous disposerons d’une photographie claire et actuelle de l’usage de l’IA en santé – qui l’utilise, comment et pourquoi –, nous pourrons, à partir de cette base, réfléchir collectivement à des leviers d’acculturation ou d’accompagnement à l’usage, en formant plus efficacement les professionnels en poste malgré un turnover élevé, en intégrant ces technologies dans les formations des futurs soignants, ou en mettant en place des dispositifs de financements spécifiques. Mais notre ambition, à travers ce travail, est surtout d’apporter des éclairages concrets, issus du terrain. Ce sera ensuite à la puissance publique de s’en saisir pour orienter, adapter ou ajuster ses priorités d’action.
Un mot, pour finir, sur la sécurisation de l’IA ?
C’est un axe stratégique. Comme je l’évoquais, nous travaillons activement avec le Campus Cyber national et commençons à engager des discussions avec l’APSSIS pour anticiper les risques spécifiques à l’IA. L’enjeu est considérable, car nous voyons déjà apparaître des usages malveillants comme le « prompt injection », qui peut altérer la restitution d’une image. La prolifération de systèmes de « shadow IA », c’est-à-dire des outils non référencés et non sécurisés, est un autre point de vigilance majeur. Ces menaces sont nouvelles, et la défense doit s’adapter, d’autant que les risques vont mécaniquement se multiplier à mesure que l’IA s’intègre dans les systèmes de santé. Dans ce contexte, le Hub France IA, en collaboration avec le Campus Cyber national a déjà publié un livre blanc sur « l’analyse des attaques sur les systèmes de l’IA » – actuellement dans sa deuxième version, sachant qu’une V3 est prévue en septembre – détaillant les principales menaces identifiées et les stratégies de remédiation. Ces ressources peuvent servir de socle aux établissements de santé. Mais il reste encore un travail important d’acculturation à mener sur ce sujet, auprès des décideurs comme des utilisateurs. Ce sera sans aucun doute l’un des grands défis des années à venir.
> Article paru dans Hospitalia #70, édition de septembre 2025, à lire ici
Thomas Kernem-Om : Ce groupe de travail, animé au sein du Hub France IA, réunit une diversité d’acteurs de l’écosystème santé : soignants, juristes, experts métiers, spécialistes en IA et en cybersécurité, ainsi que des entreprises et start-ups. Ensemble, nous explorons les opportunités offertes par l’IA dans ce domaine tout en identifiant les risques pour promouvoir une approche éthique, responsable et souveraine. Notre feuille de route s’articule autour de plusieurs axes, depuis les usages jusqu’à la règlementation, en passant par la durabilité environnementale, sociale et économique, sans oublier la cybersécurité. Sur ce dernier point, nous collaborons notamment avec le Campus Cyber national, qui fédère les principaux acteurs nationaux et internationaux du secteur, et avons commencé à discuter avec l’APSSIS (Association pour la sécurité des systèmes d’information de santé).
Vous avez lancé une grande enquête nationale sur l’adoption et les cas d’usage de l’IA en santé. De quoi s’agit-il ?
Effectivement, notre action phare cette année vise à mesurer l’adoption réelle de l’IA dans le secteur de la santé, en identifiant les usages actuels et les attentes du terrain. Menée avec le soutien de la Direction générale des entreprises (DGE) et l’aimable participation de la Haute Autorité de santé (HAS), cette enquête s’adresse à tous les professionnels des secteurs sanitaire et médico-social. Concrètement, nous cherchons à dresser un état des lieux objectif et représentatif, pour éclairer les politiques publiques sur les leviers d’adoption, les besoins en formation, en financement ou en accompagnement. Ce travail s’inscrit dans la continuité d’initiatives régionales ou nationale comme l’« Enquête sur les usages et l’offre d’IA en santé dans le Grand Ouest », ou encore le « Baromètre IA en santé », avec pour ambition de nourrir la stratégie nationale sur l’IA et les données de santé.
Comment procédez-vous concrètement ?
Notre objectif est de recueillir des données de terrain issues de l’ensemble du territoire français, y compris des Outre-mer, en mobilisant l’ensemble des professions médicales et paramédicales. Cette approche nous permettra de proposer une stratification fine des résultats par métier, secteur d’activité ou localisation géographique. Il s’agit d’un travail complexe, car le niveau d’adoption de l’IA peut varier considérablement au sein d’une même profession. Par exemple, un infirmier exerçant en EHPAD n’aura pas les mêmes usages ou besoins qu’un infirmier de bloc opératoire. Nous cherchons donc à identifier précisément dans quels segments du système de santé l’IA est la plus – ou la moins – adoptée, et pourquoi. Certains domaines, comme l’imagerie médicale, sont déjà bien avancés. D’autres, beaucoup moins. Comprendre ces écarts, en analyser les causes, est essentiel pour orienter les politiques d’accompagnement.
Et les éditeurs de solutions dans tout cela ?
Ils sont pleinement intégrés dans notre démarche. Nous avons notamment engagé un dialogue avec les CHU, qui deviennent aussi développeurs de leurs propres outils, pour mieux comprendre leurs pratiques et leurs contraintes règlementaires. C’est pourquoi nous proposons deux questionnaires complémentaires, l’un pour les utilisateurs, l’autre pour les fournisseurs, y compris internes. Cette double approche permet une analyse croisée des usages et des offres. De nombreux éditeurs privés ont déjà participé, et nous incitons fortement les CHU et éditeurs publics à se joindre au mouvement. Cela dit, le taux de réponse est satisfaisant, en particulier côté utilisateurs. Nous avons entamé l’analyse des résultats, avec une publication prévue à l’automne 2025. Nous cherchons à présent à recueillir des témoignages concrets pour illustrer les données avec des exemples de terrain, qu’ils soient positifs ou négatifs.
Quels premiers enseignements pouvez-vous déjà partager ?
Sans surprise, l’IA suscite à la fois enthousiasme et inquiétudes. Elle arrive dans un système de santé déjà très sollicité par la transformation numérique et ajoute, à cet égard, un niveau de complexité supplémentaire. Ce que nous observons en premier lieu, ce sont les nombreux freins qui entravent encore son adoption. La question de la cybersécurité et de la protection des données reste centrale ; s’y ajoutent le manque de personnel qualifié, l’absence de formation spécifique, ou encore une connaissance très partielle du cadre règlementaire, notamment avec l’entrée en vigueur de l’AI Act. Par ailleurs, le niveau de maturité est très hétérogène selon les profils : entre un praticien hospitalier et un professionnel en libéral, les usages et perceptions diffèrent nettement. On note aussi un certain décalage générationnel. Enfin, l’IA reste un sujet clivant, parfois chargé de fantasmes autour d’une possible substitution de l’humain par la machine, ce qui peut freiner son adoption.
Quelles suites envisagez-vous ?
Une fois que nous disposerons d’une photographie claire et actuelle de l’usage de l’IA en santé – qui l’utilise, comment et pourquoi –, nous pourrons, à partir de cette base, réfléchir collectivement à des leviers d’acculturation ou d’accompagnement à l’usage, en formant plus efficacement les professionnels en poste malgré un turnover élevé, en intégrant ces technologies dans les formations des futurs soignants, ou en mettant en place des dispositifs de financements spécifiques. Mais notre ambition, à travers ce travail, est surtout d’apporter des éclairages concrets, issus du terrain. Ce sera ensuite à la puissance publique de s’en saisir pour orienter, adapter ou ajuster ses priorités d’action.
Un mot, pour finir, sur la sécurisation de l’IA ?
C’est un axe stratégique. Comme je l’évoquais, nous travaillons activement avec le Campus Cyber national et commençons à engager des discussions avec l’APSSIS pour anticiper les risques spécifiques à l’IA. L’enjeu est considérable, car nous voyons déjà apparaître des usages malveillants comme le « prompt injection », qui peut altérer la restitution d’une image. La prolifération de systèmes de « shadow IA », c’est-à-dire des outils non référencés et non sécurisés, est un autre point de vigilance majeur. Ces menaces sont nouvelles, et la défense doit s’adapter, d’autant que les risques vont mécaniquement se multiplier à mesure que l’IA s’intègre dans les systèmes de santé. Dans ce contexte, le Hub France IA, en collaboration avec le Campus Cyber national a déjà publié un livre blanc sur « l’analyse des attaques sur les systèmes de l’IA » – actuellement dans sa deuxième version, sachant qu’une V3 est prévue en septembre – détaillant les principales menaces identifiées et les stratégies de remédiation. Ces ressources peuvent servir de socle aux établissements de santé. Mais il reste encore un travail important d’acculturation à mener sur ce sujet, auprès des décideurs comme des utilisateurs. Ce sera sans aucun doute l’un des grands défis des années à venir.
> Article paru dans Hospitalia #70, édition de septembre 2025, à lire ici