Dans quel contexte le concept de numéricovigilance a-t-il vu le jour ?
Dr David Labrosse : Il s’agit finalement de bon sens. Les technologies numériques, et notamment les applications faisant appel à l’intelligence artificielle (IA), occupent une place croissante dans le monde de la santé, ce qui, en soi, est positif : nous avons besoin d’innovations pour répondre aux besoins sanitaires de la population. Pour autant, il nous faut être certains que les outils que nous utilisons, respectent les principes de précaution et de non-malfaisance, incarnés par le primum non nocere. Il ne s’agit aucunement de freiner l’innovation, mais bien de l’inscrire dans un cadre permettant de sécuriser son utilisation, ou du moins de prévenir les risques, potentiels ou avérés, résultant de cette utilisation, sur le modèle de ce qui est déjà en place pour la pharmacovigilance.
Votre réflexion sur la numéricovigilance concerne en premier lieu les innovations numériques en santé mentale.
Nous avons en effet formalisé ce concept dans le cadre du rapport « IA et santé mentale : définir les frontières entre innovation, science et éthique », publié par le collectif MentalTech en octobre 2024. Mais la numéricovigilance peut finalement s’appliquer à toutes les applications numériques touchant à la santé humaine. Nous avons, plus concrètement, identifié quatre grands défis : l’utilisation éthique des technologies numériques, pour éviter les biais algorithmiques et assurer la transparence des décisions et des processus d’IA ; la sécurisation des données personnelles de santé ; l’encadrement de l’innovation que j’évoquais plus haut ; et la responsabilisation des acteurs, à travers notamment des processus de gouvernance robustes permettant d’ajuster les pratiques et de détecter les dérives.
Sur ce dernier point, quels leviers pourraient être activés ?
Il serait notamment utile de créer une plateforme déclarative des effets indésirables observés lors de l’utilisation d’un dispositif numérique en vie réelle. À cet égard, la formation et l’information des professionnels de santé sont fondamentales, car ce n’est qu’une fois cette plateforme véritablement connue et utilisée, que nous pourrons disposer de données épidémiologiques pertinentes. Il faudrait également élaborer des notices d’information à destination des utilisateurs, où seraient décrits les potentiels effets secondaires d’un dispositif numérique donné. La mise en place d’une procédure d’évaluation, voire de certification, de ces dispositifs par les autorités compétentes avant leur mise sur le marché, me semble aussi essentielle. Ces propositions ont été soumises à la Délégation au numérique en santé et rencontrent un véritable intérêt au sein de l’écosystème. Il nous faut avancer car la technologie évolue rapidement !
Comment, alors, accélérer la dynamique et faire de la numéricovigilance une réalité ?
Nous militons pour la création rapide d’un Observatoire du numérique en santé, à travers trois prismes : les usages, les bénéfices, et les effets secondaires – sachant toutefois que les usages numériques sont complexes à caractériser, plus que les usages d’un médicament par exemple. La création de cet Observatoire permettrait cependant d’améliorer notre compréhension des pratiques numériques, en disposant de données qualitatives et quantitatives pour pouvoir, ensuite, créer un cadre de numéricovigilance inscrit dans la continuité de la démarche d’encadrement de l’IA mise en œuvre à l’échelle européenne.
> Pour en savoir plus : https://mentaltech.fr
> Article paru dans Hospitalia #69, édition de mai 2025, à lire ici
Dr David Labrosse : Il s’agit finalement de bon sens. Les technologies numériques, et notamment les applications faisant appel à l’intelligence artificielle (IA), occupent une place croissante dans le monde de la santé, ce qui, en soi, est positif : nous avons besoin d’innovations pour répondre aux besoins sanitaires de la population. Pour autant, il nous faut être certains que les outils que nous utilisons, respectent les principes de précaution et de non-malfaisance, incarnés par le primum non nocere. Il ne s’agit aucunement de freiner l’innovation, mais bien de l’inscrire dans un cadre permettant de sécuriser son utilisation, ou du moins de prévenir les risques, potentiels ou avérés, résultant de cette utilisation, sur le modèle de ce qui est déjà en place pour la pharmacovigilance.
Votre réflexion sur la numéricovigilance concerne en premier lieu les innovations numériques en santé mentale.
Nous avons en effet formalisé ce concept dans le cadre du rapport « IA et santé mentale : définir les frontières entre innovation, science et éthique », publié par le collectif MentalTech en octobre 2024. Mais la numéricovigilance peut finalement s’appliquer à toutes les applications numériques touchant à la santé humaine. Nous avons, plus concrètement, identifié quatre grands défis : l’utilisation éthique des technologies numériques, pour éviter les biais algorithmiques et assurer la transparence des décisions et des processus d’IA ; la sécurisation des données personnelles de santé ; l’encadrement de l’innovation que j’évoquais plus haut ; et la responsabilisation des acteurs, à travers notamment des processus de gouvernance robustes permettant d’ajuster les pratiques et de détecter les dérives.
Sur ce dernier point, quels leviers pourraient être activés ?
Il serait notamment utile de créer une plateforme déclarative des effets indésirables observés lors de l’utilisation d’un dispositif numérique en vie réelle. À cet égard, la formation et l’information des professionnels de santé sont fondamentales, car ce n’est qu’une fois cette plateforme véritablement connue et utilisée, que nous pourrons disposer de données épidémiologiques pertinentes. Il faudrait également élaborer des notices d’information à destination des utilisateurs, où seraient décrits les potentiels effets secondaires d’un dispositif numérique donné. La mise en place d’une procédure d’évaluation, voire de certification, de ces dispositifs par les autorités compétentes avant leur mise sur le marché, me semble aussi essentielle. Ces propositions ont été soumises à la Délégation au numérique en santé et rencontrent un véritable intérêt au sein de l’écosystème. Il nous faut avancer car la technologie évolue rapidement !
Comment, alors, accélérer la dynamique et faire de la numéricovigilance une réalité ?
Nous militons pour la création rapide d’un Observatoire du numérique en santé, à travers trois prismes : les usages, les bénéfices, et les effets secondaires – sachant toutefois que les usages numériques sont complexes à caractériser, plus que les usages d’un médicament par exemple. La création de cet Observatoire permettrait cependant d’améliorer notre compréhension des pratiques numériques, en disposant de données qualitatives et quantitatives pour pouvoir, ensuite, créer un cadre de numéricovigilance inscrit dans la continuité de la démarche d’encadrement de l’IA mise en œuvre à l’échelle européenne.
> Pour en savoir plus : https://mentaltech.fr
> Article paru dans Hospitalia #69, édition de mai 2025, à lire ici
Envoyer à un ami
Version imprimable
Partager