L’IA est-elle d’ores et déjà une réalité dans les pratiques de l’AP-HP ?
Ayden Tajahmady : Absolument. Fin 2024, nous avons recensé près de 300 initiatives liées à l’IA au sein de l’institution.La majorité de ces projets, bien qu’encore en phase d’expérimentation, concerne les soins. Les disciplines les plus représentées sont l’imagerie médicale et l’anatomopathocytologie, qui reposent sur l’analyse d’images. L’IA y est particulièrement performante, notamment pour le dépistage et le diagnostic, comme la détection automatique de fractures osseuses en radiologie ou d’anomalies en endoscopie. L’IA est également utilisée à des fins pronostiques, par exemple en oncologie pour évaluer la réponse aux traitements d’immunothérapie. Cette aide à la décision trouve aussi des applications en chirurgie, pour améliorer la précision de procédures complexes.
On parle ici d’un médecin « augmenté ». Existe-t-il d’autres grandes catégories d’application de l’IA ?
Oui. Une autre grande famille d’applications concerne la gestion des données. L’IA permet d’interpréter rapidement les masses de données répétitives issues des explorations fonctionnelles. Par exemple, le service de gastro-entérologie de l’hôpital Saint-Antoine utilise des microcapsules vidéo pour explorer l’intestin grêle, ce qui génère près de 15 000 images par procédure. Sans la solution IA mise au point par ses équipes, leur analyse serait extrêmement fastidieuse. La technologie permet donc ici de gagner du temps et d’améliorer la qualité de l’interprétation. L’IA intervient aussi dans le dossier patient informatisé (DPI), en synthétisant automatiquement des données cliniques pour accélérer la prise de décision médicale. Un autre exemple est le projet de « patient similaire », porté par le service de médecine interne de l’hôpital Tenon : partant des données du DPI, l’IA crée le jumeau numérique d’un patient et le compare à des cas précédents, afin d’optimiser le diagnostic et la prise en charge.
Et en dehors des soins ?
L’IA est essentiellement utilisée pour la génération automatisée de comptes-rendus, via des systèmes de captation et de retranscription d’informations. Les principaux tests portent aujourd’hui sur les solutions d’IA ambiante, pour « écouter » les consultations et en produire une synthèse structurée. Toutefois, des défis techniques demeurent, notamment en matière de qualité sonore et de reconnaissance des termes médicaux spécialisés. D’autres applications incluent le codage intelligent du PMSI, la synthèse automatisée de données non cliniques (comptes-rendus de réunion, revues de littérature), ou encore la gestion des plannings médicaux. Cela dit, les tests sur ces derniers n’ont pas été concluants, la technologie ne pouvant seule résoudre des problématiques organisationnelles complexes.
Pourquoi ces projets restent-ils au stade expérimental ?
Aucun de ces usages n’est en effet intégré aux soins courants, et leur mise en œuvre nécessite un cadre institutionnel pérenne. Il est primordial de valider leur intérêt clinique avant de les généraliser, et ces évaluations prennent du temps. La robustesse de ces solutions doit également être éprouvée avant une utilisation en routine, pour garantir leur sécurité et leur intégration fluide au système d’information hospitalier. Et, si l’IA peut potentiellement venir en appui à l’ensemble des processus hospitaliers, ces tests en conditions réelles nous en déjà permis d’identifier deux points de vigilance. D’une part, certaines solutions revendiquent à tort l’usage de l’IA, alors qu’elles reposent sur des règles de décision classiques – ce qui n’est pas sans impact sur leurs modalités d’évaluation. D’autre part, l’IA n’est pas une solution universelle, son utilisation est fonction d’un contexte et de problématiques spécifiques. Son adoption doit donc être évaluée au regard des bénéfices qu’elle apporte, comme le gain de temps, l’amélioration de la qualité des soins, la réduction des coûts de production, ou encore l’automatisation des tâches à faible valeur ajoutée.
Vous évoquez la nécessité de disposer d’un cadre institutionnel pérenne. Où en est cette réflexion à l’AP-HP ?
Nous structurons actuellement une feuille de route pour encadrer la gouvernance de l’IA. Le défi est de taille, car il nous faut équilibrer innovation et structuration pour déployer efficacement les solutions pertinentes. En d’autres termes, la feuille de route doit à la fois nous laisser suffisamment d’agilité et de souplesse pour l’expérimentation, tout en nous offrant le cadre nécessaire à la mise en œuvre de projets institutionnels. Cette démarche est pilotée par la Direction de la stratégie et de la transformation, la Direction des services numériques et la Direction de la recherche clinique et l’innovation, en lien avec les tiers-lieux d’expérimentation partenaires de l’AP-HP, ainsi que notre « Hub Innovation » récemment repositionné sur l’IA. Elle est en outre itérative car, au fur et à mesure que les premiers cas d’usage avancent, nous affinons notre approche pour les suivants.
Comment gérez-vous la prolifération de solutions IA sur le marché ?
C’est justement cette offre riche et en expansion constante, qui rend nécessaire la mise en place d’une gouvernance adaptée. Mais n’oublions pas que l’AP-HP a aussi la capacité de développer ses propres algorithmes et applications médicales. Beaucoup de start-ups innovantes émergent de nos équipes. La question est donc de savoir s’il vaut mieux acquérir des solutions IA ou les produire en interne. Il n’y a pas ici de réponse univoque, tout dépend du cas d’usage. Cela dit, les solutions IA du marché sont souvent coûteuses. Lorsque nous les testons, nous cherchons aussi à évaluer leur soutenabilité économique – d’autant qu’un autre modèle économique est possible lorsque les solutions sont développées en interne. L’enjeu de souveraineté ne doit pas non plus être éludé. Lorsqu’il s’agit de solutions clés pour notre fonctionnement, est-il judicieux de dépendre d’acteurs non soumis au droit européen, surtout dans un contexte international instable ? La continuité de notre activité peut être en jeu…
Les tiers-lieux mentionnés plus haut jouent-ils un rôle clé dans cette dynamique IA ?
Absolument, car ils sont tous amenés à travailler sur l’IA. @Hôtel-Dieu, le tiers-lieu créé en 2021 avec l’université Paris Cité pour accélérer l’innovation au service du soin, est le plus impliqué dans ces projets. D’autres, comme BOpEx (bloc opératoire), SANTINEL (imagerie médicale) et UNIREIN (néphrologie) intègrent également des solutions IA adaptées à leur contexte clinique. Nous évoquions la capacité de l’AP-HP de développer des solutions en interne. L’existence de ces tiers-lieux est donc un élément favorable, mais notre taille est également facilitante, car nous disposons ainsi de suffisamment de données pour « nourrir » les algorithmes, et pouvons investir dans les infrastructures adéquates. Nous bénéficions aussi d’un écosystème extrêmement propice, avec la proximité de l’Université, l’INSERM, l’INRIA, le CNRS, et des partenariats solides noués avec des acteurs de la French Tech.
L’IA suppose aussi de disposer de compétences spécifiques. Comment répondez-vous à cet enjeu ?
L’IA nécessite effectivement une certaine expertise, qui n’est pas historiquement présente au sein des établissements de santé. Nous avons donc beaucoup travaillé pour renforcer nos équipes avec des data analysts, des data scientists et des ingénieurs en données. L’AP-HP attire ces talents grâce à sa mission de service public, et la possibilité de pouvoir travailler sur des cas concrets et innovants, ou d’avoir une activité de recherche. Mais il ne s’agit pas uniquement de recruter. Il nous faut également former et sensibiliser l’ensemble de nos professionnels de santé, pour qu’ils comprennent les bénéfices et les limites de l’IA et puissent ainsi mieux se préparer aux évolutions à venir. L’appropriation de ces outils, la compréhension de leurs usages, leur inscription dans des organisations vertueuses, seront les facteurs clés de leur succès.
Percevez-vous des craintes quant à l’impact de l’IA sur les pratiques professionnelles ?
Comme toute technologie d’application générale, l’intelligence artificielle va avoir des répercussions majeures. Elle conduira à une transformation profonde – et d’une ampleur inédite – du système de santé, des hôpitaux et donc de l’AP-HP. Je ne pense pas que des métiers disparaîtront à court terme, mais les pratiques évolueront significativement dans les 5 à 10 ans, comme nous l’avons déjà observé lors de précédentes innovations numériques. Il est donc crucial d’accompagner les professionnels pour anticiper ces mutations. L’IA peut être source de nombreux fantasmes, et la peur est un facteur de résistance. C’est aussi pour cela que nous structurons actuellement un plan de formation institutionnel.
Quid des interrogations sur le plan de l’éthique ?
De nombreuses questions se sont posées lors des ateliers organisés pour structurer notre feuille de route sur l’intelligence artificielle. Comment réellement valider la pertinence des décisions de l’IA ? Comment garantir la transparence et éviter les « boîtes noires » ? La technologie peut se tromper, et elle se trompera inévitablement. Le principe de garantie humaine doit donc être maintenu, mais les professionnels formés à l’ère de l’IA sauront-ils la challenger ? Quelles compétences maintenir pour justement conserver cette capacité de dire que l’IA se trompe ? Par ailleurs, l’IA ne se substitue pas à la responsabilité médicale. Où positionner le curseur, alors que l’absence de jurisprudence à ce jour rend le cadre légal incertain, et donc porteur de risques ? Et quelle responsabilité pour l’établissement, qui est finalement garant des modalités d’intégration de l’IA aux processus organisationnels ?
Avez-vous identifié d’autres défis ?
Déterminer les critères d’implémentation des solutions IA, gérer l’évolution rapide des technologies, assurer la cybersécurité pour éviter les détournements… sont d’autres enjeux cruciaux qu’il nous faut maîtriser. La question du financement des transformations qu’implique l’utilisation de l’IA, particulièrement lorsqu’elle est développée en interne, sera une question centrale dans les mois et années à venir. Il peut sembler contre-intuitif d’inscrire l’IA dans une stratégie structurée, quand tout change aussi rapidement. Mais notre feuille de route nous permettra, d’abord et surtout, de ne pas subir l’IA, de l’accompagner de manière éclairée et agile et de la questionner lorsque cela est nécessaire.
> Article paru dans Hospitalia #69, édition de mai 2025, à lire ici
Ayden Tajahmady : Absolument. Fin 2024, nous avons recensé près de 300 initiatives liées à l’IA au sein de l’institution.La majorité de ces projets, bien qu’encore en phase d’expérimentation, concerne les soins. Les disciplines les plus représentées sont l’imagerie médicale et l’anatomopathocytologie, qui reposent sur l’analyse d’images. L’IA y est particulièrement performante, notamment pour le dépistage et le diagnostic, comme la détection automatique de fractures osseuses en radiologie ou d’anomalies en endoscopie. L’IA est également utilisée à des fins pronostiques, par exemple en oncologie pour évaluer la réponse aux traitements d’immunothérapie. Cette aide à la décision trouve aussi des applications en chirurgie, pour améliorer la précision de procédures complexes.
On parle ici d’un médecin « augmenté ». Existe-t-il d’autres grandes catégories d’application de l’IA ?
Oui. Une autre grande famille d’applications concerne la gestion des données. L’IA permet d’interpréter rapidement les masses de données répétitives issues des explorations fonctionnelles. Par exemple, le service de gastro-entérologie de l’hôpital Saint-Antoine utilise des microcapsules vidéo pour explorer l’intestin grêle, ce qui génère près de 15 000 images par procédure. Sans la solution IA mise au point par ses équipes, leur analyse serait extrêmement fastidieuse. La technologie permet donc ici de gagner du temps et d’améliorer la qualité de l’interprétation. L’IA intervient aussi dans le dossier patient informatisé (DPI), en synthétisant automatiquement des données cliniques pour accélérer la prise de décision médicale. Un autre exemple est le projet de « patient similaire », porté par le service de médecine interne de l’hôpital Tenon : partant des données du DPI, l’IA crée le jumeau numérique d’un patient et le compare à des cas précédents, afin d’optimiser le diagnostic et la prise en charge.
Et en dehors des soins ?
L’IA est essentiellement utilisée pour la génération automatisée de comptes-rendus, via des systèmes de captation et de retranscription d’informations. Les principaux tests portent aujourd’hui sur les solutions d’IA ambiante, pour « écouter » les consultations et en produire une synthèse structurée. Toutefois, des défis techniques demeurent, notamment en matière de qualité sonore et de reconnaissance des termes médicaux spécialisés. D’autres applications incluent le codage intelligent du PMSI, la synthèse automatisée de données non cliniques (comptes-rendus de réunion, revues de littérature), ou encore la gestion des plannings médicaux. Cela dit, les tests sur ces derniers n’ont pas été concluants, la technologie ne pouvant seule résoudre des problématiques organisationnelles complexes.
Pourquoi ces projets restent-ils au stade expérimental ?
Aucun de ces usages n’est en effet intégré aux soins courants, et leur mise en œuvre nécessite un cadre institutionnel pérenne. Il est primordial de valider leur intérêt clinique avant de les généraliser, et ces évaluations prennent du temps. La robustesse de ces solutions doit également être éprouvée avant une utilisation en routine, pour garantir leur sécurité et leur intégration fluide au système d’information hospitalier. Et, si l’IA peut potentiellement venir en appui à l’ensemble des processus hospitaliers, ces tests en conditions réelles nous en déjà permis d’identifier deux points de vigilance. D’une part, certaines solutions revendiquent à tort l’usage de l’IA, alors qu’elles reposent sur des règles de décision classiques – ce qui n’est pas sans impact sur leurs modalités d’évaluation. D’autre part, l’IA n’est pas une solution universelle, son utilisation est fonction d’un contexte et de problématiques spécifiques. Son adoption doit donc être évaluée au regard des bénéfices qu’elle apporte, comme le gain de temps, l’amélioration de la qualité des soins, la réduction des coûts de production, ou encore l’automatisation des tâches à faible valeur ajoutée.
Vous évoquez la nécessité de disposer d’un cadre institutionnel pérenne. Où en est cette réflexion à l’AP-HP ?
Nous structurons actuellement une feuille de route pour encadrer la gouvernance de l’IA. Le défi est de taille, car il nous faut équilibrer innovation et structuration pour déployer efficacement les solutions pertinentes. En d’autres termes, la feuille de route doit à la fois nous laisser suffisamment d’agilité et de souplesse pour l’expérimentation, tout en nous offrant le cadre nécessaire à la mise en œuvre de projets institutionnels. Cette démarche est pilotée par la Direction de la stratégie et de la transformation, la Direction des services numériques et la Direction de la recherche clinique et l’innovation, en lien avec les tiers-lieux d’expérimentation partenaires de l’AP-HP, ainsi que notre « Hub Innovation » récemment repositionné sur l’IA. Elle est en outre itérative car, au fur et à mesure que les premiers cas d’usage avancent, nous affinons notre approche pour les suivants.
Comment gérez-vous la prolifération de solutions IA sur le marché ?
C’est justement cette offre riche et en expansion constante, qui rend nécessaire la mise en place d’une gouvernance adaptée. Mais n’oublions pas que l’AP-HP a aussi la capacité de développer ses propres algorithmes et applications médicales. Beaucoup de start-ups innovantes émergent de nos équipes. La question est donc de savoir s’il vaut mieux acquérir des solutions IA ou les produire en interne. Il n’y a pas ici de réponse univoque, tout dépend du cas d’usage. Cela dit, les solutions IA du marché sont souvent coûteuses. Lorsque nous les testons, nous cherchons aussi à évaluer leur soutenabilité économique – d’autant qu’un autre modèle économique est possible lorsque les solutions sont développées en interne. L’enjeu de souveraineté ne doit pas non plus être éludé. Lorsqu’il s’agit de solutions clés pour notre fonctionnement, est-il judicieux de dépendre d’acteurs non soumis au droit européen, surtout dans un contexte international instable ? La continuité de notre activité peut être en jeu…
Les tiers-lieux mentionnés plus haut jouent-ils un rôle clé dans cette dynamique IA ?
Absolument, car ils sont tous amenés à travailler sur l’IA. @Hôtel-Dieu, le tiers-lieu créé en 2021 avec l’université Paris Cité pour accélérer l’innovation au service du soin, est le plus impliqué dans ces projets. D’autres, comme BOpEx (bloc opératoire), SANTINEL (imagerie médicale) et UNIREIN (néphrologie) intègrent également des solutions IA adaptées à leur contexte clinique. Nous évoquions la capacité de l’AP-HP de développer des solutions en interne. L’existence de ces tiers-lieux est donc un élément favorable, mais notre taille est également facilitante, car nous disposons ainsi de suffisamment de données pour « nourrir » les algorithmes, et pouvons investir dans les infrastructures adéquates. Nous bénéficions aussi d’un écosystème extrêmement propice, avec la proximité de l’Université, l’INSERM, l’INRIA, le CNRS, et des partenariats solides noués avec des acteurs de la French Tech.
L’IA suppose aussi de disposer de compétences spécifiques. Comment répondez-vous à cet enjeu ?
L’IA nécessite effectivement une certaine expertise, qui n’est pas historiquement présente au sein des établissements de santé. Nous avons donc beaucoup travaillé pour renforcer nos équipes avec des data analysts, des data scientists et des ingénieurs en données. L’AP-HP attire ces talents grâce à sa mission de service public, et la possibilité de pouvoir travailler sur des cas concrets et innovants, ou d’avoir une activité de recherche. Mais il ne s’agit pas uniquement de recruter. Il nous faut également former et sensibiliser l’ensemble de nos professionnels de santé, pour qu’ils comprennent les bénéfices et les limites de l’IA et puissent ainsi mieux se préparer aux évolutions à venir. L’appropriation de ces outils, la compréhension de leurs usages, leur inscription dans des organisations vertueuses, seront les facteurs clés de leur succès.
Percevez-vous des craintes quant à l’impact de l’IA sur les pratiques professionnelles ?
Comme toute technologie d’application générale, l’intelligence artificielle va avoir des répercussions majeures. Elle conduira à une transformation profonde – et d’une ampleur inédite – du système de santé, des hôpitaux et donc de l’AP-HP. Je ne pense pas que des métiers disparaîtront à court terme, mais les pratiques évolueront significativement dans les 5 à 10 ans, comme nous l’avons déjà observé lors de précédentes innovations numériques. Il est donc crucial d’accompagner les professionnels pour anticiper ces mutations. L’IA peut être source de nombreux fantasmes, et la peur est un facteur de résistance. C’est aussi pour cela que nous structurons actuellement un plan de formation institutionnel.
Quid des interrogations sur le plan de l’éthique ?
De nombreuses questions se sont posées lors des ateliers organisés pour structurer notre feuille de route sur l’intelligence artificielle. Comment réellement valider la pertinence des décisions de l’IA ? Comment garantir la transparence et éviter les « boîtes noires » ? La technologie peut se tromper, et elle se trompera inévitablement. Le principe de garantie humaine doit donc être maintenu, mais les professionnels formés à l’ère de l’IA sauront-ils la challenger ? Quelles compétences maintenir pour justement conserver cette capacité de dire que l’IA se trompe ? Par ailleurs, l’IA ne se substitue pas à la responsabilité médicale. Où positionner le curseur, alors que l’absence de jurisprudence à ce jour rend le cadre légal incertain, et donc porteur de risques ? Et quelle responsabilité pour l’établissement, qui est finalement garant des modalités d’intégration de l’IA aux processus organisationnels ?
Avez-vous identifié d’autres défis ?
Déterminer les critères d’implémentation des solutions IA, gérer l’évolution rapide des technologies, assurer la cybersécurité pour éviter les détournements… sont d’autres enjeux cruciaux qu’il nous faut maîtriser. La question du financement des transformations qu’implique l’utilisation de l’IA, particulièrement lorsqu’elle est développée en interne, sera une question centrale dans les mois et années à venir. Il peut sembler contre-intuitif d’inscrire l’IA dans une stratégie structurée, quand tout change aussi rapidement. Mais notre feuille de route nous permettra, d’abord et surtout, de ne pas subir l’IA, de l’accompagner de manière éclairée et agile et de la questionner lorsque cela est nécessaire.
> Article paru dans Hospitalia #69, édition de mai 2025, à lire ici
Envoyer à un ami
Version imprimable
Partager