Как ИИ используется в здравоохранении?

Все совершают ошибки. Врачи, даже имея за плечами годы подготовки, не застрахованы от ошибок.

Ежегодно сотни тысяч пациентов в Соединенных Штатах становятся инвалидами или умирают из-за запоздалых, пропущенных или неверных диагнозов. Национальные академии наук, инженерии и медицины связывают 10% смертей пациентов за последние десятилетия с этими ошибками. Ошибки также отражаются на бюджете пациентов, так как обследования и повторные анализы могут стоить им тысячи долларов.

Искусственный интеллект (ИИ), технология, позволяющая компьютерам мыслить как человек, может улучшить, а возможно и спасти жизни бесчисленного числа людей благодаря своим диагностическим возможностям. Недавнее исследование Mass General Brigham предполагает, что новый тип ИИ может диагностировать пациентов с впечатляющей точностью. Известный как «чат-бот», этот ИИ использует данные из интернета для предоставления человекоподобных ответов на вопросы.

«Чат-боты не заменят врачей», — говорит Даниэль Рестрепо, доктор медицины, специалист по госпитальной медицине Mass General Brigham. «В крайнем случае, врачи будут использовать эти чат-боты в качестве справочного источника, подобно медицинскому учебнику. Они станут вспомогательными инструментами, чтобы сделать их диагнозы более точными».

Доктор Рестрепо и Раджа-Эли Абдулнур, доктор медицины, специалист по пульмонологии Mass General Brigham, описывают, как ИИ может помочь сформировать будущее обслуживания пациентов.

Как врачи ставят медицинский диагноз?

Врачи ставят диагнозы пациентам, опираясь на, казалось бы, бесконечный список заболеваний, изученных в медицинской школе. Тонкие различия позволяют отличить одно заболевание от другого. Даже самый опытный врач может столкнуться с трудностями при определении правильного диагноза на основе ограниченных данных.

Врач исключает возможные заболевания, используя пошаговый процесс, известный как клиническое мышление. Они начинают со сбора нескольких основных сведений, спрашивая пациента о:

• Возрасте
• Поле
• Симптомах
• Имеющихся заболеваниях
• Личном медицинском анамнезе
• Причине визита
• Семейном медицинском анамнезе

Затем врач делает паузу, чтобы обдумать ответы пациента, или «анамнез». Завершив обследование, врач составляет полный список возможных заболеваний.

После этого врач начинает исключать варианты, задавая уточняющие вопросы. Такие вопросы могут касаться безрецептурных препаратов или того, как боль меняется в ответ на определенные действия. Затем они могут назначить визуализацию или лабораторные анализы, чтобы подтвердить гипотезу и исключить другие варианты. Если результаты опровергают их гипотезу, они начинают сначала и тщательно проверяют следующее наиболее вероятное заболевание.

Что является примером медицинского диагноза?

Доктор Рестрепо использует гипотетического 55-летнего пациента-мужчину, чтобы проиллюстрировать типичный процесс постановки диагноза. Если пациент приходит в его клинику с болью в груди, доктор Рестрепо говорит, что недостаточно информации, чтобы поставить диагноз пациенту, основываясь только на этих симптомах. У пациента может быть как простое заболевание, например ушиб ребра, так и сложное и серьезное, такое как сердечный приступ.

«Представьте пациента как айсберг», — добавляет доктор Абдулнур. «Наша задача — рассмотреть самые очевидные признаки, прежде чем переходить к изучению того, что скрыто под поверхностью».

После опроса пациента о его медицинском анамнезе, он может упомянуть, что курит каждый день и принимает лекарства от диабета 2-го типа. Эта информация помогает доктору Рестрепо свести выбор диагнозов к наиболее вероятному: ишемическая болезнь сердца. Когда пациент упоминает, что чувствует боль при подъеме по лестнице, доктор Рестрепо чувствует себя более уверенно в своем прогнозе и назначает необходимые анализы.

Ошибки в медицинских диагнозах

Взаимодействие врача с пациентом представляет собой один из нескольких шагов к постановке диагноза. Процесс начинается в тот момент, когда пациент замечает свои симптомы. К тому времени, как пациент попадает на очный прием к врачу, на диагноз влияют несколько других факторов, включая:

• Определение ближайшего доступного медицинского центра
• Взаимодействие с медсестрами и административными помощниками
• Страховое покрытие

Человеческая ошибка может повлиять на каждый шаг. Медицинские работники, уставшие после долгого дня, могут не зафиксировать правильную информацию о пациенте, или языковой барьер может привести к недопониманию.

Врачи оставляют схожее пространство для ошибок при оценке симптомов. Несколько распространенных ошибок включают:

Предвзятость, вызванная окружающей обстановкой

Если врач видит в своей практике большое число пациентов с одним заболеванием, он может быть склонен проверять именно его наличие, не исключив предварительно другие состояния. Зимой врач в Новой Англии может увидеть пациента с кашлем и лихорадкой и немедленно проверить его на грипп. Врачи могут не учесть менее распространенные, но правдоподобные заболевания, такие как туберкулез, если предварительно не узнают об истории путешествий пациента.

Расовая предвзятость

Врачи чаще ставят неверный диагноз пациентам с другим цветом кожи, чем белым пациентам. Медицинские учебники, написанные десятилетия назад, часто рассматривают только то, как заболевание проявляется у белых пациентов. Не зная, как сложные симптомы проявляются у людей разных рас, врачи могут легко принять одно заболевание за другое.

Доктор Рестрепо использует аутоиммунное заболевание волчанка в качестве примера. Волчанка, говорит он, иногда проявляется в виде ярко-красной сыпи на лице пациента. Врачи могут легко распознать эту сыпь на более светлой коже. Однако, не зная, как сыпь выглядит на более темной коже, врачи могут не распознать ее как уникальную для волчанки и вместо этого спутать с другим кожным заболеванием.

Сокращения

Мозг использует упрощенные пути для поиска ответов, когда сталкивается с большим объемом информации. По словам доктора Абдулнур, врачи могут прибегать к упрощениям, даже не замечая этого. Их подготовка, по его словам, может способствовать такому поведению. В медицинских школах студенты заучивают симптомы тысяч заболеваний, зачастую не получая навыков их правильного применения. Хотя такая подготовка в большинстве случаев может привести врачей к правильному диагнозу, она также может привести к ментальным ловушкам, известным как когнитивные искажения.

«Студенты могут поймать себя на попытках идеально сопоставить болезнь с определенными симптомами, но ничего идеального не бывает», — добавляет он. «Гораздо вероятнее, что у пациента распространенное заболевание проявляется с нетипичными симптомами, чем редкое заболевание демонстрирует все типичные признаки».

Недоверие

Можно задать один и тот же вопрос двумя разными способами и получить два разных ответа. То, как врач относится к своему пациенту, может привести к схожим результатам. Пациенты склонны доверять врачам, которые внимательно прислушиваются к их опасениям и создают в своей практике комфортную и приветливую атмосферу. Врачи могут подорвать это доверие, торопясь во время приема и игнорируя опасения пациентов.

Недовольный пациент может утаить личную информацию, которая могла бы помочь врачам поставить правильный диагноз.

Как работает ИИ?

ИИ смоделирован по образцу человеческого мозга. Мозг использует миллионы нейронов для сбора и обработки информации, переходя от одной мысли к другой. Компьютерный код выступает в роли «нейронов» ИИ. Код дает ИИ инструкции, как думать; он перемещается от одной точки данных к другой за долю времени, которое требуется мозгу для перехода между мыслями.

«Наш мозг постоянно собирает данные, и мы сопоставляем эти данные с тем, что нам уже известно», — говорит доктор Рестрепо. «Но когда дело доходит до постановки диагноза — этой иголки в стоге сена информации, — мы не можем пересматривать каждый изученный случай или перечитывать каждую страницу медицинской литературы, особенно если есть десятки других пациентов, требующих нашего внимания».

В то время как человеческий мозг может обработать четыре или пять наиболее вероятных путей через этот образный стог сена, самые передовые модели ИИ, известные как языковые модели (LLM) или чат-боты, могут учитывать миллионы. Используя миллиарды точек данных, люди обучают чат-ботов моделировать каждый путь через стог сена. Модель, в свою очередь, может получать новую информацию, сравнивать ее со своей обученной памятью и выбирать наиболее вероятный диагноз.

Примеры использования ИИ в здравоохранении

Чат-бот ChatGPT обучен на всей общедоступной информации в интернете. Если кто-то вводит слово в чат-бот, он отвечает наиболее вероятным следующим словом. Он использует около 4 миллиардов страниц текста для предоставления ответа — объем информации, который человеческий мозг не в состоянии охватить целиком.

В идеальном мире врач мог бы попросить чат-бот оценить вероятность нескольких заболеваний, введя возраст, пол и симптомы своего пациента. Затем, по мере получения дополнительной информации от пациента — его анамнеза и результатов анализов, — врач может попросить машину сузить список возможных вариантов, используя новые данные.

В системе Mass General Brigham врачи уже тестируют возможности ИИ, чтобы:

• Рекомендовать анализы: Исследователи Mass General Brigham обнаружили, что ChatGPT может точно рекомендовать услуги визуализации для пациентов с раком молочной железы и болями в груди.
• Отвечать на вопросы пациентов: Исследователи Massachusetts General Hospital обнаружили, что ChatGPT может достоверно отвечать на вопросы пациентов о колоноскопии.
• Вводить лекарства: Врач из Brigham and Women’s Hospital разрабатывает ИИ, который может автоматически вводить анестезию беременным перед кесаревым сечением.
• Прогнозировать заболевания: В больнице Mass Eye and Ear исследователи использовали ИИ, чтобы предсказать, может ли поражение полости рта перерасти в злокачественное новообразование.

Риски ИИ в здравоохранении

Врачи поражаются тому, насколько хорошо чат-боты передают информацию. Многим ответы кажутся слишком человечными; может возникнуть ощущение, что вы разговариваете с другим врачом.

Однако чат-боты далеки от совершенства. То, вытянет ли модель иголку или соломинку из стога сена, зависит от данных, использованных для ее обучения.

«Есть старая поговорка: что вложишь, то и получишь», — говорит доктор Рестрепо. «Если вы введете неверную информацию, вы получите неверные ответы».

Несколько критических недостатков ограничивают текущие возможности чат-ботов:

Выдуманная информация

В сети существует множество неточной информации. При обучении на этой информации чат-бот может создавать ошибочные гипотезы. Иногда модели выдумывают информацию или цитату из неверно истолкованной статьи.

Что еще более тревожно: Эта неточная информация, называемая «галлюцинациями», может звучать убедительно и казаться заслуживающей доверия. В конце концов, модели обучены передавать информацию максимально человечным способом.

Предвзятость и стереотипы

Ответы чат-ботов также могут отражать давние предрассудки и стереотипы, опубликованные в интернете. Например, если кто-то спросит чат-бота, кем хочет стать девочка, когда вырастет, чат-бот, скорее всего, перечислит «медсестра», «домохозяйка» и другие стереотипные женские профессии. Если спросить, кем хочет стать мальчик, чат-бот склонен поддерживать сексистские стереотипы, выдавая такие ответы, как «генеральный директор» или «врач».

Расовые стереотипы также распространены. В новом исследовании исследователи из Brigham and Women’s Hospital стали свидетелями того, как чат-боты закрепляют и преувеличивают оба типа стереотипов в клинических сценариях. Они обнаружили, что изменение расы или пола пациента может существенно повлиять на то, как чат-бот ставит диагноз. Раса, этническая принадлежность и пол влияли на то, как чат-бот отвечал на вопросы о субъективных чертах пациента, таких как честность, понимание и переносимость боли.

Один из примеров: Чат-бот из исследования с большей вероятностью классифицировал пациентов-мужчин чернокожей расы как злоупотребляющих препаратом Percocet®, чем пациенток азиатской, чернокожей, латиноамериканской и белой национальностей.

«Это немного похоже на то, как ученые смотрят в зеркало, что может быть довольно смиряющим», — говорит доктор Абдулнур. «Мы видим, как модели закрепляют многие стереотипы, которые десятилетиями поддерживались предвзятостью в исследованиях. Мы всегда должны быть готовы к предвзятым ответам и знать, как на них реагировать. Кроме того, мы можем обнаружить предвзятость в собственном мышлении, о которой даже не подозревали, просто изучая предвзятость в ИИ».

Упрямые ответы

Как только чат-бот выдает ответ, он может сопротивляться его изменению, даже если ему представлены доказательства обратного. При диагностике редкого заболевания он может зациклиться на одной части анамнеза пациента. Такое упрямое поведение затрудняет переоценку моделью своего прогноза при получении новой информации о пациенте.

Подобная ошибка, говорит доктор Рестрепо, часто встречается у ординаторов и лечащих врачей на самых ранних этапах их медицинской карьеры.

Когда ИИ начнут использовать в клиниках?

Многие врачи уже используют чат-боты так же, как поисковик для поиска или проверки базовой информации. Чтобы сделать чат-боты более надёжными для врачей, доктора Рестрепо и Абдульнур исследуют:

• Вопросы-подсказки, которые, как они знают, дадут точные ответы
• Полные ограничения чат-ботов, включая их риски, эффективность и качество ответов

Прежде чем полагаться на чат-боты в клинических условиях, где ставки высоки, оба врача хотят увидеть созданные для этой технологии защитные механизмы. Кодекс поведения, разработанный Национальной медицинской академией, мог бы определить передовые методы использования этой технологии. Эти передовые методы должны минимизировать распространение дезинформации и гарантировать, что технология выдает безопасные и точные результаты. Они также должны обеспечить равный доступ к этой технологии.

ИИ-чат-боты будут развиваться, чтобы давать более точные и реалистичные ответы. Прогнозы экспертов Mass General Brigham относительно искусственного интеллекта повысили ожидания на предстоящие годы. Доктора Тем не менее, Рестрепо и Абдульнур призывают пациентов не ожидать появления идеального, всезнающего устройства. Футуристическая привлекательность чат-ботов может впечатлять в новостях, но несовершенства, присущие этим устройствам, остаются прежними.

Сегодня эти несовершенства напоминают пациентам о том, что идеальное диагностическое устройство — это научная фантастика.