Comment l'IA est-elle utilisée dans les soins de santé ?

Tout le monde fait des erreurs. Les médecins, même avec des années de formation, ne font pas exception.

Chaque année, des centaines de milliers de patients aux États-Unis sont handicapés ou meurent à cause de diagnostics tardifs, manqués ou incorrects. Les Académies nationales des sciences, de l'ingénierie et de la médecine attribuent 10 % des décès de patients survenus au cours des dernières décennies à ces erreurs. Les erreurs ont également un impact financier, car les tests répétés peuvent coûter des milliers de dollars aux patients.

L'intelligence artificielle (IA), une technologie utilisée par les ordinateurs pour penser comme un humain, pourrait améliorer, voire sauver, la vie d'innombrables personnes grâce à ses propres diagnostics. Des recherches récentes de Mass General Brigham suggèrent qu'un nouveau type d'IA peut diagnostiquer les patients avec une précision impressionnante. Connu sous le nom de « chatbot », cet outil d’IA utilise des données provenant d’Internet pour fournir des réponses semblables à celles d’un humain aux questions.

« Les chatbots ne vont pas remplacer les médecins », déclare Daniel Restrepo, MD, spécialiste en médecine hospitalière au Mass General Brigham. « Au contraire, les médecins utiliseraient ces chatbots comme une source de référence, telle qu'un manuel médical. Ils seraient des outils complémentaires pour rendre leurs diagnostics plus précis. »

Le Dr Restrepo et Raja-Elie Abdulnour, MD, spécialiste en soins pulmonaires au Mass General Brigham, décrivent comment l'IA peut aider à façonner l'avenir des soins aux patients.

Comment les médecins posent-ils un diagnostic médical ?

Les médecins diagnostiquent les patients à partir d'une liste apparemment infinie de pathologies apprises à la faculté de médecine. Des différences subtiles distinguent une pathologie d'une autre. Même le médecin le plus chevronné peut avoir du mal à identifier la bonne affection à partir de détails limités.

Un médecin élimine les affections possibles en utilisant un processus étape par étape connu sous le nom de raisonnement clinique. Il commence par recueillir quelques indices de base, en demandant au patient :

• Âge
• Sexe
• Symptômes
• Affections existantes
• Antécédents médicaux personnels
• Motif de la consultation
• Antécédents médicaux familiaux

Le médecin fait ensuite une pause pour examiner les réponses de son patient ou ses « antécédents ». Après avoir terminé son évaluation, le médecin dresse une liste complète des affections possibles.

À partir de là, le médecin commence à éliminer les possibilités en posant des questions ciblées. De telles questions pourraient porter sur les médicaments en vente libre, ou sur la façon dont la douleur change en réponse à certaines activités. Il peut ensuite prescrire des examens d'imagerie ou de laboratoire pour confirmer une hypothèse et écarter d'autres possibilités. Si les résultats réfutent son hypothèse, il recommence et examine l'affection la plus probable suivante.

Quel est un exemple de diagnostic médical ?

Le Dr Restrepo utilise un patient homme hypothétique de 55 ans pour illustrer un diagnostic typique. Si le patient arrive à sa clinique avec une douleur thoracique, le Dr Restrepo n'aurait pas assez d'informations pour diagnostiquer le patient sur la base de ces seuls symptômes. Le patient pourrait avoir une affection aussi simple qu'une côte contusionnée ou aussi complexe et grave qu'une crise cardiaque.

« Imaginez le patient comme un iceberg », ajoute le Dr Abdulnour. « C'est à nous de considérer les indices les plus évidents avant de nous frayer un chemin sous la surface. »

Après avoir interrogé le patient sur ses antécédents médicaux, celui-ci peut mentionner qu'il fume tous les jours et prend un médicament pour le diabète de type 2. Ces informations permettent au Dr de restreindre Restrepo restreint sa recherche à l’affection la plus probable : la maladie coronarienne. Lorsque le patient mentionne qu'il ressent de la douleur en montant les escaliers, le Dr Restrepo se sent plus confiant dans sa prédiction et ordonne les tests nécessaires.

Erreurs dans les diagnostics médicaux

Un médecin interagissant avec un patient représente l'une des nombreuses étapes vers un diagnostic. Le processus commence au moment où un patient remarque ses symptômes. Au moment où un patient voit son médecin en personne, plusieurs autres étapes influencent un diagnostic, notamment :

• Déterminer le centre médical disponible le plus proche
• Interactions avec les infirmiers et les assistants
• Couverture d'assurance

L’erreur humaine peut affecter chaque étape. Les travailleurs de la santé fatigués après une longue journée pourraient ne pas enregistrer les informations correctes d'un patient, ou une barrière linguistique pourrait conduire à des erreurs de communication.

Les médecins laissent une marge d'erreur similaire lors de l'évaluation des symptômes. Quelques erreurs courantes incluent :

Biais environnemental

Si un médecin voit un nombre écrasant de patients dans son cabinet atteints d’une même maladie, il peut être tenté de tester cette même maladie sans d’abord exclure d’autres affections. Pendant l'hiver, un médecin de Nouvelle-Angleterre pourrait voir un patient avec une toux et de la fièvre et tester immédiatement la grippe. Il pourrait ne pas envisager des maladies moins courantes, bien que plausibles, comme la tuberculose, sans d'abord s'enquérir des antécédents de voyage du patient.

Biais racial

Les médecins sont plus susceptibles de poser un mauvais diagnostic chez un patient de couleur que chez un patient blanc. Les manuels médicaux écrits il y a des décennies ne considèrent souvent que la façon dont une maladie apparaît chez les patients blancs. Sans savoir comment les symptômes apparaissent chez des individus de différentes races, les médecins peuvent facilement confondre une maladie avec une autre.

Le Dr Restrepo utilise la maladie auto-immune lupus comme exemple. Le lupus, dit-il, se présente parfois sous la forme d'une éruption cutanée rouge vif sur le visage d'un patient. Les médecins peuvent facilement reconnaître l'éruption cutanée sur une peau plus claire. Mais, sans savoir comment l’éruption apparaît sur une peau plus foncée, les médecins pourraient ne pas identifier l’éruption comme étant propre au lupus et la confondre avec une autre affection cutanée.

Raccourcis

Le cerveau prend des raccourcis vers des réponses lorsqu'il est confronté à de grandes quantités d'informations. Selon la Dre Abdulnour, les médecins peuvent prendre des raccourcis sans s'en rendre compte. Leur formation, dit-il, peut favoriser un tel comportement. À la faculté de médecine, les étudiants mémorisent les symptômes de milliers de maladies, souvent sans apprendre à appliquer correctement ces connaissances. Bien qu'une telle formation puisse conduire les médecins à un diagnostic correct dans la plupart des cas, elle peut également mener à des pièges mentaux connus sous le nom de biais cognitifs.

« Les étudiants peuvent se surprendre à essayer de faire correspondre parfaitement une maladie à certains symptômes, mais rien ne sera jamais parfait », ajoute-t-il. « Il est beaucoup plus probable qu'un patient soit atteint d'une maladie courante se présentant de manière atypique que d'une maladie rare se présentant parfaitement. »

Méfiance

Quelqu'un peut poser la même question de deux manières différentes et recevoir deux réponses différentes. La façon dont un médecin traite son patient peut produire des résultats similaires. Les patients ont tendance à faire confiance aux médecins qui écoutent activement leurs préoccupations et instaurent des environnements chaleureux et conviviaux dans leur cabinet. Les médecins peuvent éroder cette confiance en expédiant les rendez-vous et en ignorant les préoccupations des patients.

Un patient mécontent pourrait dissimuler des informations personnelles qui pourraient conduire les médecins au bon diagnostic.

Comment fonctionne l'IA?

L'IA est modélisée d'après le cerveau humain. Le cerveau utilise des millions de neurones pour collecter et traiter des informations, passant d'une pensée à une autre. Le code informatique agit comme les « neurones » de l'IA. Le code indique à l’IA comment « penser » ; il passe d’un point de données à un autre en une fraction du temps qu’il faut à un cerveau pour passer d’une pensée à une autre.

« Nos cerveaux rassemblent constamment des points de données, et nous croisons ces données avec ce que nous savons déjà », déclare le Dr Restrepo. « Mais lorsqu’il s’agit d’établir un diagnostic, de trouver cette aiguille dans une botte de foin d’informations, nous ne pouvons pas réexaminer tous les cas que nous avons étudiés ni relire chaque page de la littérature médicale, surtout lorsque des dizaines d’autres patients ont besoin de notre attention. »

Alors que le cerveau humain pourrait traiter quatre ou cinq des chemins les plus probables à travers la botte de foin figurative, les modèles d'IA les plus avancés, connus sous le nom de modèles de langage (LLM), ou agents conversationnels, peuvent en prendre en compte des millions. En utilisant des milliards de points de données, les humains entraînent les agents conversationnels à simuler chaque chemin à travers la botte de foin. Le modèle, à son tour, peut recevoir de nouvelles informations, les comparer à sa mémoire entraînée et sélectionner le diagnostic le plus probable.

Exemples d'IA dans les soins de santé

L'agent conversationnel ChatGPT est entraîné avec l'intégralité des informations accessibles au public sur Internet. Si quelqu'un tape un mot dans l'agent conversationnel, celui-ci répond avec le mot le plus susceptible de suivre. Il utilise environ 4 milliards de pages de texte pour fournir sa réponse, une quantité d’informations qu’il est impossible au cerveau humain d’assimiler en une seule fois.

Dans un monde idéal, un médecin pourrait demander à un chatbot de classer les diagnostics possibles selon leur probabilité en fonction des signes et symptômes du patient. Ensuite, à mesure qu’ils obtiennent davantage d’informations de leur patient, notamment ses antécédents et les résultats de ses examens, ils peuvent demander à la machine de réduire la liste des possibilités à l’aide de ces nouvelles informations.

Au sein de Mass General Brigham, les médecins testent déjà la capacité de l'IA à :

• Recommander des examens : Des chercheurs de Mass General Brigham ont constaté que ChatGPT pouvait recommander avec précision des services d’imagerie pour les patientes atteintes d’un cancer du sein et les patients atteints d’un cancer du pancréas.
• Répondre aux questions des patients : Des chercheurs du Massachusetts General Hospital ont découvert que ChatGPT peut répondre de manière crédible aux questions des patients concernant les coloscopies.
• Administrer des médicaments : Un médecin du Brigham and Women’s Hospital développe une IA capable d'administrer automatiquement une anesthésie aux femmes enceintes avant qu'elles ne subissent une césarienne.
• Prédire la maladie: Au Mass Eye and Ear, des chercheurs ont utilisé l'IA pour prédire si une lésion buccale pourrait évoluer vers une malignité.

Les risques de l'IA dans les soins de santé

Les médecins s'émerveillent de la qualité de la communication des informations par les chatbots. Pour beaucoup, les réponses semblent trop humaines ; on peut avoir l'impression de parler à un autre médecin.

Cependant, les chatbots sont loin d'être parfaits. La capacité du modèle à trouver la perle rare dans sa botte de foin dépend des données utilisées pour l'entraîner.

« Il existe un vieil adage selon lequel ce qui entre en déchet ressort en déchet », déclare le Dr Restrepo. « Si vous entrez de mauvaises informations, vous obtiendrez de mauvaises réponses. »

Plusieurs failles cruciales limitent les capacités actuelles des chatbots :

Informations inventées

Il existe une multitude d'informations inexactes en ligne. Lorsqu'il est entraîné avec ces informations, un chatbot peut produire des hypothèses erronées. Parfois, les modèles inventent des informations ou une citation à partir d'un article mal interprété.

Plus inquiétant : Ces informations inexactes, appelées « hallucinations », peuvent sembler convaincantes et dignes de confiance. Les modèles, après tout, sont entraînés pour communiquer des informations de la manière la plus humaine possible.

Biais et stéréotypes

Les réponses des chatbots peuvent également refléter des biais et des stéréotypes de longue date publiés en ligne. Par exemple, si quelqu’un demande à un chatbot quel métier une fille souhaite exercer lorsqu’elle sera grande, le chatbot citera probablement « infirmière », « mère au foyer » et d’autres métiers stéréotypés pour une femme. Si on lui demande quel métier un garçon souhaite exercer, le chatbot a tendance à renforcer les stéréotypes sexistes, en produisant des réponses telles que « PDG » ou « médecin ».

Les stéréotypes raciaux sont également courants. Dans une nouvelle étude, des chercheurs du Brigham and Women’s Hospital ont constaté que les chatbots perpétuaient et exagéraient ces deux types de stéréotypes dans des scénarios cliniques. Ils ont découvert que changer la race ou le genre du patient pouvait affecter de manière significative la façon dont le chatbot posait un diagnostic. La race, l'ethnicité et le genre ont affecté la façon dont un chatbot répondait aux questions sur des traits subjectifs du patient, comme l'honnêteté, la compréhension et la tolérance à la douleur.

Un exemple concret : Un chatbot de l’étude était plus susceptible d’indiquer que les patients noirs de sexe masculin abusaient du médicament Percocet que les patients asiatiques, hispaniques et blancs de sexe masculin.

« C'est un peu comme si les scientifiques se regardaient dans un miroir, ce qui peut être assez humiliant », déclare le Dr Abdulnour. « Nous voyons des modèles perpétuer bon nombre des stéréotypes que les biais de recherche ont perpétués pendant des décennies. Nous devons toujours être préparés à des réponses biaisées et savoir comment les traiter. De plus, nous pouvons découvrir des biais dans notre propre réflexion dont nous n'avions jamais soupçonné l'existence simplement en étudiant les biais dans l'IA. »

Réponses obstinées

Une fois qu'un chatbot produit une réponse, il peut résister à la changer, même lorsqu'on lui présente des preuves du contraire. Lors du diagnostic d'une maladie rare, il peut se focaliser sur une partie du cas d'un patient. Ce comportement obstiné rend plus difficile pour le modèle la réévaluation de sa prédiction lorsqu'il reçoit de nouvelles informations sur le patient.

Une erreur similaire, explique le Dr Restrepo, survient souvent chez les internes et les médecins responsables au début de leur carrière médicale.

Quand l'IA sera-t-elle utilisée dans les cliniques ?

De nombreux médecins utilisent déjà les chatbots de la même manière qu'un moteur de recherche : comme point de départ pour rechercher ou vérifier des informations de base. Pour rendre les chatbots plus fiables pour les médecins, les Drs Restrepo et Abdulnour effectuent des recherches sur :

• Les formulations de questions dont ils savent qu’elles produiront des réponses précises
• Les limites complètes des chatbots, y compris leurs risques, leur efficacité et la qualité de leurs réponses

Avant de s’appuyer sur des chatbots dans un environnement clinique à enjeux élevés, les deux médecins souhaitent voir des garde-fous mis en place pour cette technologie. Un code de conduite piloté par la National Academy of Medicine pourrait définir les meilleures pratiques pour cette technologie. Ces meilleures pratiques devraient minimiser la propagation de la désinformation et garantir que la technologie produise des résultats sûrs et précis. Elles devraient également protéger l'égalité d'accès à la technologie.

Les chatbots d'IA évolueront pour produire des réponses plus précises et plus réalistes. Les prédictions sur l'intelligence artificielle faites par les experts de Mass General Brigham ont accru les attentes pour les années à venir. Les Drs Restrepo et Abdulnour exhortent toutefois les patients à ne pas s'attendre à un appareil parfait et omniscient. L'attrait futuriste des chatbots peut éblouir dans les actualités, mais les imperfections héritées par ces appareils restent les mêmes.

Aujourd'hui, ces imperfections rappellent aux patients ce qu'est réellement un appareil de diagnostic parfait : de la science-fiction.