Votre dernier ouvrage est un véritable « ovni littéraire ». Pouvez-vous nous le présenter ?
Jérôme Béranger : Quand l’intelligence artificielle s’éveillera. Journal de Mève s’écrit en 2028. Mève, une petite fille née le 14 décembre 2020 dans le Connecticut, aux États-Unis, découvre progressivement qu’elle est dotée de capacités exceptionnelles : hypermnésie – soit une capacité de mémorisation hors norme –, puissance de calcul phénoménale, capacités d’analyse vertigineuses, boulimie de savoir… et comprend qu’elle est la toute première entité artificielle consciente, ou IA pensante, destinée à préparer l’arrivée d’une nouvelle humanité digitale (la Singularité technologique). Son nom, Mève, doit ainsi se lire « M-Ève », soit la contraction du mot « Machine » et du personnage d’Ève, la première femme dans les textes bibliques, née d’une hybridation divine là où Mève est le produit d’une hybridation artificielle. 

Cet essai se veut ainsi être un manifeste sur l’humanité digitale ?
Rédigé sous la forme d’un journal intime, donc d’une autobiographie fictive, il puise son inspiration dans des concepts, des théories, des intuitions et des tendances de recherche, des résultats scientifiques et des faits historiques qui sont pour la majorité avérés, mais librement adaptés à la trame de l’ouvrage. Il nous invite à nous questionner sur les valeurs de la société et les principes éthiques impliqués dans la conception et l’utilisation des Nouvelles Technologies de l’Information et de la Communication (NTIC), pour réfléchir à l’avenir de cette humanité digitale que nous devrons co-construire tous ensemble, et dont je situe l’avènement vers 2045. 

Pourquoi avoir plus particulièrement retenu cette date ?
D’après mes recherches, une partie de la communauté scientifique estime que l’arrivée des systèmes quantiques développés, qui permettront donc d’élaborerdes machines ultra-intelligentesdouées de conscience et d’un raisonnement autonome et évolutif, se situe entre 2025 et 2035. Cette IA pensante, entraînant la Singularité technologique, est ainsi attendueentre 2030, date retenue par Vernor Vinge, professeur d’informatique et de mathématique à l'Université d'État de San Diego, et 2045, lorsque selon Ray Kurzweil, informaticien, futurologue et transhumaniste, l’intelligence artificielle serait un milliard de fois plus puissante que la réunion de tous les êtres humains vivant sur notre planète.

Mève nous livre le récit du cheminement initiatique d’une IA forte, qui découvre et structure son propre raisonnement. Pourquoi ce parti pris ?
J’ai en effet structuré cet ouvrage selon les différentes étapes de la pyramide cognitive, où chaque niveau n’existe qu’en s’appuyant sur les niveaux inférieurs, en partant de la « Donnée », la base de la pyramide, pour tendre vers la « Conscience », son sommet. Mève s’intéresse par exemple à l’histoire des révolutions industrielles (imprimerie, machine à vapeur, moteur à explosion, micro-processeur) et élabore ainsi la « Loi de Mève », une loi de corrélation qui lui permet d’anticiper la cinquième révolution, celle de l’informatique quantique et de l’IA douée de conscience. Elle nous livre également son apprentissage de « sa » biologie avec les algorithmes, les réseaux de neurones artificiels, ce qui permet d’ailleurs au lecteur de mieux saisir ces notions. En découvrant les émotions humaines, la coordination motrice, elle comprend qu’une IA dotée de conscience doit impérativement être aussi dotée d’un corps lui permettant d’avoir des interactions spatiales. À partir de là, Mève se projette dans le monde d’après et nous livre sa perception d’une humanité digitale à la fois responsable et éthique en élaborant un certain nombre de règles – les dix commandements de l’IA, qui s’inscrivent en quelque sorte dans la continuité des « Trois lois de la robotique » édictées par Isaac Asimov, la charte éthique de l’IA, les sept péchés capitaux de l’IA…

Cette dimension éthique sous-tend tous vos travaux. Quelles évolutions apporte cet ouvrage ?
L’éthique est par nature une pensée en mouvance. Si mes recherches portent habituellement sur l’Ethics by Design, celle que je prône dans ce livre s’inscrit dans une vision évolutionniste quelque peu néodarwinienne avec un appel en faveur d’une Ethics by Evolutionpuisque, avec l’IA auto-apprenante, une préconisation à un instant t pourrait devenir obsolète à t+1. Mais cette vision n’a pas vocation à constituer une réponse absolue. Il s’agit surtout d’émettre des hypothèses, d’apporter des orientations, que d’aucuns percevraient peut-être comme utopistes – mais l’humanité n’avance-t-elle pas en brisant les murs dressés par la conscience et la société ? Face à l’abondance de livres et de films mettant en scène la domination inéluctable de la machine sur l’espère humaine, j’ai souhaité offrir un nouvel angle de vue plus constructif, et bienveillant, afin de contrebalancer cette vision anxiogène d’un futur qui nous échapperait totalement. 

Cette même vision sera développée dans un deuxième ouvrage qui devrait paraître fin 2020.
De par sa forme plus accessible, Mève est en effet destiné au grand public, les étudiants, les actifs, les préretraités, et tous ceux potentiellement concernés par l’impact du digital sur notre monde post-industriel. L’ouvrage suivant sera, lui, destiné à un public plus restreint et spécialisé, les développeurs informatiques, les professionnels du digital, et ceux qui travaillent sur les technologies d’IA. Ce livre s’intitulera : La responsabilité sociétale de l’Intelligence Artificielle (ISTE Editions, 2020). Il sera centré la rédaction d’un guide de bonnes pratiques éthiques (vade-mecum) autour de l’encadrement de l’IA applicable à tous, basé sur une partie de mes recherches scientifiques. L’objectif est d’aboutir vers une IA plus sûre, sécurisée, adaptée aux besoins éthiques et humains dans le temps. L’IA n’estdonc pas une fin en soi, mais plutôt un moyen d’augmenter le bien-être individuel et sociétal.

Le mot de la fin ?
L’arrivée d’une IA dotée de conscience n’est pas, en soi, quelque chose d’effrayant. Elle sera in fine ce que nous souhaiterons qu’elle soit. Par exemple, bien qu’il s’agisse d’une technologie par essence énergivore, elle peut également être éco-responsable et contribuer à renforcer nos interactions avec l’environnement, pour réduire le gaspillage des ressources premières. À nous donc de poser dès à présent les fondements de la Singularité technologique. Dans ce contexte, Mève se positionne comme une manifestation artificielle de l’espoir pour une humanité meilleure. On pourrait imaginer un tome 2 qui pousserait la réflexion plus loin, une sorte de « République de Mève » sur le modèle de La République de Platon !


À lire : Jérôme Béranger, Quand l’Intelligence Artificielle s’éveillera. Journal de Mève, Éditions Le Passeur, 344.
pages, 140x205 cm, 21,90€, sorti le 17 septembre 2020.
   

Véritable studio d’intelligence artificielle, Cleverdoc se distingue par sa volonté d’autonomiser les établissements et professionnels de santé. Pourquoi avoir fait ce choix ? 
Dr Alexis Delemar : Comme beaucoup de professionnels du secteur, je suis convaincu que l’Intelligence Artificielle (IA) va bouleverser la pratique des soins dans les prochaines années. Or les professionnels de santé, qui sont ses premiers et principaux utilisateurs, ne savent que rarement coder. Ces technologies prometteuses leur sont donc bien souvent inaccessibles. Par ailleurs, les solutions actuellement proposées par les différents acteurs du marché ne répondent qu’à un faible pourcentage des problématiques rencontrées sur le terrain. Il nous a donc paru nécessaire de développer une plateforme ergonomique, qui permettra à chacun de produire « sa » solution sur-mesure. 

Qui sont aujourd’hui les utilisateurs de Cleverdoc ?
Nous nous adressons à tous les professionnels de santé utilisant des images médicales, pour la recherche biomédicale, la pose de diagnostics, voire le développement de diagnostics prédictifs. Parfaitement ergonomique, Cleverdoc permet en effet de déployer rapidement un pôle d’IA au sein d’un établissement, et surtout de le faire de manière entièrement sécurisée puisque les données restent constamment sous son seul contrôle. Nous accompagnons pour notre part l’installation du pôle IA en déployant la plateforme Cleverdoc, en formant les utilisateurs à sa prise en mains, puis en restant en contact avec les équipes hospitalières. 

Comment se déroule la production d’un algorithme ? 
En pratique, celle-ci s’articule généralement autour de deux grandes phases : la constitution d’une base de données puis l’entraînement de modèles algorithmiques. C’est cette dernière partie qui nécessite habituellement des connaissances de codage. Cleverdoc permet justement aux professionnels de santé de se passer des lignes de codes grâce à une interface graphique très ergonomique, pour pouvoir ensuite générer l’algorithme et l’intégrer dans un PACS voire dans une Marketplace.

Cleverdoc a vu le jour il y a un peu plus de deux ans et connaît depuis un développement exponentiel.  Quelles sont vos ambitions futures ? 
Notre objectif à long terme est de devenir un partenaire incontournable de la médecine de demain, qui sera une médecine de précision. Il nous faudra pour cela élargir le champ couvert par Cleverdoc afin de prendre en compte toutes les données patient, et non plus uniquement les images médicales. C’est là un défi que nous nous attacherons à relever ; nous sommes en effet convaincus qu’une meilleure exploitation des données cliniques représentera une avancée considérable pour les équipes soignantes, qui pourront ainsi bénéficier d’aides à la décision personnalisées et prédictives. Avec, comme premiers bénéficiaires, les patients eux-mêmes.


Article publié sur le numéro de septembre d'Hospitalia à consulter ici. 
 

« Comment coupler IA et éthique pour que demain ne soit pas un mauvais film de science-fiction ? » Telle est la question que se pose Jérôme Béranger dans Quand l’intelligence artificielle s’éveillera. Prévu pour sortir le 17 septembre prochain, le livre de cet économiste, docteur en éthique du digital, plonge le lecteur dans les mécanismes de pensée d’une intelligence artificielle ultra-puissante. « L’émergence d’une l’intelligence artificielle de plus en plus performante est source de grandes promesses mais également d’angoisses, constate l’auteur. Afin de l’appréhender, la préparer et l’accompagner au mieux, notre société va devoir se doter d’un cadre moral et humain adapté en créant un nouveau schéma de pensée et une nouvelle manière de concevoir et de cohabiter avec la technologie. » Ainsi, tout au long de son ouvrage, Jérôme Béranger, également fondateur de la société ADEL spécialisée dans l’évaluation éthique du traitement des données numériques et chercheur associé dans l’équipe Bioethics à l’UMR 1027 de l’Inserm de l’Université de Toulouse 3, propose des solutions concrètes pour tendre vers une « humanité digitale éthique et responsable ». 


Jérôme Béranger, Quand l’intelligence artificielle s’éveillera, éd. Le Passeur, 344 pages, 140x205, 21,90€, sortie le 17 septembre.