Les agents conversationnels (aussi appelés « chatbots ») sont des systèmes numériques capables d’interagir avec leurs utilisateurs en langage naturel, à l’écrit comme à l’oral. Aujourd’hui, on en trouve dans de nombreux objets de notre quotidien (smartphones, enceintes connectées, voitures, sites internet) : ils apportent des conseils de santé, facilitent le recrutement, gèrent des services après-vente, forment à distance, aident les personnes vulnérables, etc.
L'utilisation de ces systèmes ne cesse de croître. Leur performance grandit aussi très vite : l’utilisation des « transformeurs » — gigantesques réseaux de neurones très performants — révolutionne le traitement automatique du langage et tout particulièrement la conception des agents conversationnels. Les concepteurs de ces systèmes envisagent de nouveaux développements capables de bouleverser certains aspects de notre vie : des « amis virtuels », des « anges gardiens » ou encore des « deadbots » (chatbots entraînés à partir des données d’une personne défunte).
En France comme au niveau européen, les agents conversationnels, parce qu’ils s’appuient sur des données personnelles, commencent à attirer l’attention des autorités, des régulateurs et du public (2). Au- delà de ces points réglementaires, se posent de nombreuses questions éthiques. Quels comportements et croyances avons-nous par rapport aux agents conversationnels ? Un chatbot peut-il mentir à son utilisateur ? Les erreurs des agents conversationnels seront-elles plus acceptables que celles d’un être humain ? Un chatbot doit-il imiter systématiquement l’être humain ? Pour enrichir sa réflexion et sensibiliser aux questions éthiques, le CNPEN a mis en place un appel à contribution. Il a reçu une centaine de réponses individuelles ou collectives.
L'utilisation de ces systèmes ne cesse de croître. Leur performance grandit aussi très vite : l’utilisation des « transformeurs » — gigantesques réseaux de neurones très performants — révolutionne le traitement automatique du langage et tout particulièrement la conception des agents conversationnels. Les concepteurs de ces systèmes envisagent de nouveaux développements capables de bouleverser certains aspects de notre vie : des « amis virtuels », des « anges gardiens » ou encore des « deadbots » (chatbots entraînés à partir des données d’une personne défunte).
En France comme au niveau européen, les agents conversationnels, parce qu’ils s’appuient sur des données personnelles, commencent à attirer l’attention des autorités, des régulateurs et du public (2). Au- delà de ces points réglementaires, se posent de nombreuses questions éthiques. Quels comportements et croyances avons-nous par rapport aux agents conversationnels ? Un chatbot peut-il mentir à son utilisateur ? Les erreurs des agents conversationnels seront-elles plus acceptables que celles d’un être humain ? Un chatbot doit-il imiter systématiquement l’être humain ? Pour enrichir sa réflexion et sensibiliser aux questions éthiques, le CNPEN a mis en place un appel à contribution. Il a reçu une centaine de réponses individuelles ou collectives.
Treize préconisations
Parmi les différents enjeux d’éthique qu’identifie le comité, les principales tensions concernent le brouillage des frontières entre une machine et un être humain, l’imitation du langage et des émotions par les chatbots, ainsi que la capacité des agents conversationnels à manipuler les interlocuteurs humains.
L’avis, rendu public le 9 novembre 2021, s’adresse aux industriels en proposant de mettre en œuvre dix principes de conception des chatbots. Treize préconisations sont formulées à l’adresse des autorités publiques qui ont la responsabilité d’accroître l’effort de formation, d’éducation, mais aussi d’expérimentations à l’échelle de la société. Enfin, l’avis énonce onze questions qui pourraient faire l’objet de nouveaux travaux de recherche. "La réflexion sur les enjeux d’éthique des agents conversationnels, relative tant à leurs usages qu’à leur conception, devra être poursuivie en tenant compte des évolutions culturelles et technologiques", indique le CNPEN.
L’avis, rendu public le 9 novembre 2021, s’adresse aux industriels en proposant de mettre en œuvre dix principes de conception des chatbots. Treize préconisations sont formulées à l’adresse des autorités publiques qui ont la responsabilité d’accroître l’effort de formation, d’éducation, mais aussi d’expérimentations à l’échelle de la société. Enfin, l’avis énonce onze questions qui pourraient faire l’objet de nouveaux travaux de recherche. "La réflexion sur les enjeux d’éthique des agents conversationnels, relative tant à leurs usages qu’à leur conception, devra être poursuivie en tenant compte des évolutions culturelles et technologiques", indique le CNPEN.
(1) Avis à consulter ici.
(2) Notons le livre blanc “À votre écoute”, publié par la CNIL en septembre 2020.
(2) Notons le livre blanc “À votre écoute”, publié par la CNIL en septembre 2020.
Envoyer à un ami
Version imprimable
Partager