“To use or not to use” ou le défi des IA génératives
Dans sa séance du 5 mars 2024, l’Académie nationale de médecine a officiellement pris position en faveur de l’utilisation des systèmes d’intelligence artificielle générative (SIAgen) dans le domaine de la santé. Ces outils mis à la disposition du grand public au second semestre 2022 sont capables en quelques secondes de générer du texte, des images, des vidéos ou du code informatique sur simple requête. Sur une commande vocale, ils peuvent composer une comptine pour endormir votre enfant, écrire un poème inspiré d’une photo de vacances, programmer un week-end loisir/culture en Italie (avec suggestion d’hôtels, restaurants et playlist de titres à écouter durant le voyage), résumer en 300 mots une vidéo YouTube, synthétiser les axes forts de la pensée de Pascal ou produire l’image fantasmée d’une Joconde moustachue fuyant à cheval une tempête de sable dans Monument Valley. Rien n’est impossible aux SIAgens !
L’unique limite réside dans notre capacité à repousser les frontières de leur possible. Ce potentiel offre des perspectives telles qu’il n’est pas imaginable d’en priver le monde médical et scientifique. Car nous tenons là l’assistant virtuel rêvé, celui qui en quelques secondes produira une note de synthèse, rédigera un projet de recherche, établira le programme du prochain colloque, proposera des solutions logistiques pour une meilleure gestion des lits hospitaliers, caractérisera les cohortes de patients à inclure dans un essai clinique ; et pour fabriquer un nouveau médicament sélectionnera la meilleure structure moléculaire ayant le plus de chance de satisfaire à la validation chimique finale.
Éducation et enseignement ne seront pas en reste car un SIAgen imaginera pour vous des scénarios réalistes de simulation médicale et composera les épreuves d’évaluation et en effectuera la correction. Pour la création de texte, ce processus algorithmique entraîné sur des quantités massives de données procède par corrélations statistiques pour choisir la bonne occurrence dans un océan de mots en fonction du contexte et de la séquence textuelle qui précède. Nulle intelligence au sens humain du terme mais une capacité à manipuler une quantité astronomique de données à une vitesse vertigineuse. Si l’IA est encore à la peine pour proposer un diagnostic médical, car incapable à ce jour de reproduire le raisonnement hypothético-déductif du médecin expert, c’est dans le domaine de l’imagerie médicale qu’elle excelle compte tenu de sa performance en analyse d’images et interprétation de pixels. Des centaines d’aides au diagnostic sont aujourd’hui approuvées pour l’interprétation des images scanner et IRM.
Mais il existe un revers de la médaille qui ne doit pas nous faire prendre pour argent comptant tout ce que produit un SIAgen. Il n’est pas entraîné à nous répondre dans un souci de véracité ni à citer ses sources. Au pire, lorsqu’il n’a pas la solution, il peut même inventer quelque chose de vraisemblable qualifié alors d’hallucination. Connaître les faiblesses du système, c’est apprendre à s’en méfier et à toujours exiger la validation humaine de la réponse à la requête (le prompt).
Sans que nous en soyons vraiment pleinement conscients, notre quotidien est déjà largement sous surveillance, voire sous contrôle des algorithmes d’intelligence artificielle (accès à l’enseignement supérieur, sélection de candidats à l’emploi, attribution de prêt bancaire, personnalisation des flux de contenu [fragmentation algorithmique en vue de profilage marketing], détection de fraudes en ligne…). Dès lors, comment pourrions-nous disqualifier ces SIAgens qui, lorsqu’ils sont bien compris et bien utilisés s’avèrent être des outils de productivité sans égal ?
Pourtant beaucoup de nos congénères affichent encore une réticence aux prétextes d’une possible utilisation non consentie des données personnelles, du flou des responsabilités en cas de conséquences fâcheuses ou d’utilisation malveillante, et autre risque d’usurpation de la propriété intellectuelle… Cependant, le premier risque réel serait d’afficher une technophobie primaire et de ne pas faire l’effort de comprendre pour appréhender et utiliser à son profit ces outils d’une puissance considérable.
Pour les professionnels de santé, il ne serait tout simplement pas éthique de priver nos patients de leurs avantages en termes d’amélioration de notre santé tant individuelle que collective. La vraie question qui se pose est de savoir comment faire pencher du bon côté la balance bénéfice-risque inhérente à chaque saut technologique. Pour garder le contrôle, il faudra nécessairement dispenser une formation solide à l’usage critique des SIAgens dès le début des études de médecine ainsi qu’une sensibilisation spécifique au caractère « sensible » des données de santé qui sont à ce titre précieuses et par conséquent convoitées. Dans cet environnement numérique, il est nécessaire de revisiter la notion de consentement qui ne reflète plus le contrat de confiance basé sur la relation humaine du colloque singulier. Ici le respect de l’autonomie du patient est d’emblée mis à mal puisqu’il contractualise avec un tiers numérique en cédant ses données personnelles à des fins qui lui échappent.
Pour le professionnel de santé, un defi éthique de taille sera de réellement réinvestir dans la relation de soin le temps économisé grâce à l’IA. La garantie humaine (validation) de toute proposition diagnostique ou thérapeutique faite par un SIAgen attestera du respect absolu de la dignité due au patient. Remarquons qu’au sein de chaque discipline médicale, et particulièrement celles à base d’analyse d’image (imagerie, anatomopathologie, ophtalmologie…) il est dès aujourd’hui nécessaire de conduire une réflexion sur l’émergence de nouveau métier frontière (« AI-designer en santé ») sous peine de voir s’étioler la prééminence humaine. Enfin, dans un esprit « global health », ne sous-estimons pas le coût environnemental et énergétique de la mise en œuvre de ces SIAgens dont les bénéfices n’iront probablement qu’aux plus riches.
Nous sommes assurément à un point de bascule technologique, pour nous même et pour nos patients, il est de notre responsabilité de ne pas louper le coche.
Pr Gilles Bernardin
