Pourriez-vous nous présenter le projet EQUIHid en quelques mots ?
Nesrine Kaaniche : L’apprentissage fédéré, que nous explorons dans le cadre d’EQUIHid, est une méthodologie d’intelligence artificielle qui limite la centralisation des données. Concrètement, les données restent stockées localement, là où elles sont produites. Cette approche permet à chaque entité de collaborer à l’entraînement d’algorithmes, tout en préservant au mieux la confidentialité des données individuelles. C’est une technologie particulièrement prometteuse dans le domaine de la santé, où l’échange de données sensibles est un enjeu majeur. Cependant, elle soulève aussi des défis importants, notamment en matière d’équité et de respect de la vie privée. Issues de contextes variés, les données ne peuvent pas être pré-traitées et sont souvent hétérogènes, ce qui peut engendrer des modèles biaisés. Nous avons, par exemple, observé un algorithme de détection de tumeurs dermatologiques nettement plus performant sur des peaux claires, ce qui pose un problème éthique majeur dans l’accès aux soins. De plus, des attaquants malveillants pourraient exploiter les failles du système pour cibler des groupes minoritaires et tenter d’inférer leurs données personnelles à partir du modèle.
Comment répondre à ces problématiques ? Faut-il envisager un autre modèle ?
L’apprentissage fédéré présente de nombreux avantages, dont il serait dommage de se priver. Plutôt que de changer de paradigme, notre approche consiste à renforcer cette technologie avec des outils de sécurité. C’est précisément la vocation du projet EQUIHid : nous étudions différentes options pour rendre l’apprentissage fédéré plus sûr et plus équitable. Par exemple, nous travaillons à réduire l’hétérogénéité des données à travers un système de pondération, qui permet d’équilibrer la contribution des différents participants. En parallèle, nous explorons des techniques cryptographiques avancées, telles que le chiffrement homomorphe ou la confidentialité différentielle, afin de garantir une meilleure protection des données.
Les outils développés par le projet sont-ils déjà en application ?
Nous en sommes, pour l’instant, à l’étape de la preuve de concept. Même si nous n’avons pas encore abouti à un produit final, les expérimentations menées montrent clairement la faisabilité de notre approche. L’apprentissage fédéré est d’ailleurs déjà utilisé par plusieurs institutions, et les techniques de chiffrement homomorphe gagnent en maturité et se répandent. À terme, nous aimerions étendre le projet, mais cela nécessitera des ressources supplémentaires en temps et en financements.
Vos travaux peuvent-ils s’appliquer à d’autres domaines que la santé ?
Oui, tout à fait. Nos recherches portent sur les enjeux de biais et d’hétérogénéité des données, qui concernent de nombreux secteurs. Toutefois, le secteur de la santé est particulièrement propice à ces travaux, en raison des modalités de collecte des données, de leur caractère sensible et de leur faible représentativité globale. S’y ajoutent des considérations éthiques fortes, ainsi qu’un impératif d’équité dans l’accès aux soins, qui rendent ce domaine particulièrement intéressant pour nos expérimentations.
Quelles sont les prochaines étapes du projet EQUIHid ?
Lancé en octobre 2022, le projet se poursuivra jusqu’au début de l’année 2026. Nous avons donc déjà franchi plusieurs étapes clés. Nous devons maintenant lancer de nouveaux tests incluant un plus grand volume de données. Cela nous permettra d’accroître le niveau de maturité technologique, ou TRL [Technology Readiness Level] de nos propositions. Nous concentrons également nos efforts sur la sécurisation des opérations d’agrégation, en protégeant notamment les métadonnées. Nous nous intéresserons également à l’étude de nouvelles menaces, comme les attaques byzantines, où certains participants malveillants injectent des données falsifiées pour compromettre le modèle.
Avez-vous collaboré avec d’autres acteurs du monde de la santé dans le cadre de vos travaux ?
Nous n’avons pas encore mené de collaboration directe avec des établissements de santé, mais nous échangeons avec des organismes de santé via le comité consultatif du projet. Ces discussions sont toujours enrichissantes, notamment sur les questions de biais et sur la mise en œuvre d’une métrique de pondération destinée à équilibrer les contributions. Ce mécanisme, basé sur la description des jeux de données, offre une meilleure transparence dans la constitution des modèles d’IA et s’inscrit dans l’esprit des recommandations formulées par l’AI Act européen.
Beaucoup s’interrogent sur le devenir de leurs données dans les systèmes d’IA. Quelle est votre position à ce sujet ?
C’est une question difficile. En règle générale, je pense qu’il faut adopter une posture de « Zéro confiance » : rester vigilant, car aucun système n’est totalement exempt de risques. Cela ne signifie pas, pour autant, qu’il faille renoncer aux technologies. L’IA apporte des résultats probants qui peuvent améliorer le quotidien, notamment dans le secteur de la santé, en personnalisant les soins ou en automatisant certaines tâches. Notre rôle, en tant que chercheurs, est précisément d’identifier les vulnérabilités et de proposer des solutions concrètes, efficaces et adaptées aux enjeux réels. Les opportunités offertes par ces technologies sont nombreuses ; il serait dommage de les ignorer. Alors certes, le risque existe, mais je reste confiante et – prudemment – optimiste.
> Article paru dans Hospitalia #69, édition de mai 2025, à lire ici
Nesrine Kaaniche : L’apprentissage fédéré, que nous explorons dans le cadre d’EQUIHid, est une méthodologie d’intelligence artificielle qui limite la centralisation des données. Concrètement, les données restent stockées localement, là où elles sont produites. Cette approche permet à chaque entité de collaborer à l’entraînement d’algorithmes, tout en préservant au mieux la confidentialité des données individuelles. C’est une technologie particulièrement prometteuse dans le domaine de la santé, où l’échange de données sensibles est un enjeu majeur. Cependant, elle soulève aussi des défis importants, notamment en matière d’équité et de respect de la vie privée. Issues de contextes variés, les données ne peuvent pas être pré-traitées et sont souvent hétérogènes, ce qui peut engendrer des modèles biaisés. Nous avons, par exemple, observé un algorithme de détection de tumeurs dermatologiques nettement plus performant sur des peaux claires, ce qui pose un problème éthique majeur dans l’accès aux soins. De plus, des attaquants malveillants pourraient exploiter les failles du système pour cibler des groupes minoritaires et tenter d’inférer leurs données personnelles à partir du modèle.
Comment répondre à ces problématiques ? Faut-il envisager un autre modèle ?
L’apprentissage fédéré présente de nombreux avantages, dont il serait dommage de se priver. Plutôt que de changer de paradigme, notre approche consiste à renforcer cette technologie avec des outils de sécurité. C’est précisément la vocation du projet EQUIHid : nous étudions différentes options pour rendre l’apprentissage fédéré plus sûr et plus équitable. Par exemple, nous travaillons à réduire l’hétérogénéité des données à travers un système de pondération, qui permet d’équilibrer la contribution des différents participants. En parallèle, nous explorons des techniques cryptographiques avancées, telles que le chiffrement homomorphe ou la confidentialité différentielle, afin de garantir une meilleure protection des données.
Les outils développés par le projet sont-ils déjà en application ?
Nous en sommes, pour l’instant, à l’étape de la preuve de concept. Même si nous n’avons pas encore abouti à un produit final, les expérimentations menées montrent clairement la faisabilité de notre approche. L’apprentissage fédéré est d’ailleurs déjà utilisé par plusieurs institutions, et les techniques de chiffrement homomorphe gagnent en maturité et se répandent. À terme, nous aimerions étendre le projet, mais cela nécessitera des ressources supplémentaires en temps et en financements.
Vos travaux peuvent-ils s’appliquer à d’autres domaines que la santé ?
Oui, tout à fait. Nos recherches portent sur les enjeux de biais et d’hétérogénéité des données, qui concernent de nombreux secteurs. Toutefois, le secteur de la santé est particulièrement propice à ces travaux, en raison des modalités de collecte des données, de leur caractère sensible et de leur faible représentativité globale. S’y ajoutent des considérations éthiques fortes, ainsi qu’un impératif d’équité dans l’accès aux soins, qui rendent ce domaine particulièrement intéressant pour nos expérimentations.
Quelles sont les prochaines étapes du projet EQUIHid ?
Lancé en octobre 2022, le projet se poursuivra jusqu’au début de l’année 2026. Nous avons donc déjà franchi plusieurs étapes clés. Nous devons maintenant lancer de nouveaux tests incluant un plus grand volume de données. Cela nous permettra d’accroître le niveau de maturité technologique, ou TRL [Technology Readiness Level] de nos propositions. Nous concentrons également nos efforts sur la sécurisation des opérations d’agrégation, en protégeant notamment les métadonnées. Nous nous intéresserons également à l’étude de nouvelles menaces, comme les attaques byzantines, où certains participants malveillants injectent des données falsifiées pour compromettre le modèle.
Avez-vous collaboré avec d’autres acteurs du monde de la santé dans le cadre de vos travaux ?
Nous n’avons pas encore mené de collaboration directe avec des établissements de santé, mais nous échangeons avec des organismes de santé via le comité consultatif du projet. Ces discussions sont toujours enrichissantes, notamment sur les questions de biais et sur la mise en œuvre d’une métrique de pondération destinée à équilibrer les contributions. Ce mécanisme, basé sur la description des jeux de données, offre une meilleure transparence dans la constitution des modèles d’IA et s’inscrit dans l’esprit des recommandations formulées par l’AI Act européen.
Beaucoup s’interrogent sur le devenir de leurs données dans les systèmes d’IA. Quelle est votre position à ce sujet ?
C’est une question difficile. En règle générale, je pense qu’il faut adopter une posture de « Zéro confiance » : rester vigilant, car aucun système n’est totalement exempt de risques. Cela ne signifie pas, pour autant, qu’il faille renoncer aux technologies. L’IA apporte des résultats probants qui peuvent améliorer le quotidien, notamment dans le secteur de la santé, en personnalisant les soins ou en automatisant certaines tâches. Notre rôle, en tant que chercheurs, est précisément d’identifier les vulnérabilités et de proposer des solutions concrètes, efficaces et adaptées aux enjeux réels. Les opportunités offertes par ces technologies sont nombreuses ; il serait dommage de les ignorer. Alors certes, le risque existe, mais je reste confiante et – prudemment – optimiste.
> Article paru dans Hospitalia #69, édition de mai 2025, à lire ici
Envoyer à un ami
Version imprimable
Partager