Como a AI é usada nos cuidados de saúde?

Todo mundo comete erros. Os médicos, mesmo com anos de treinamento, não são exceção.

Todos os anos, centenas de milhares de pacientes nos United States ficam incapacitados ou morrem devido a diagnósticos atrasados, não realizados ou incorretos. As National Academies of Sciences, Engineering, and Medicine atribuem 10% das mortes de pacientes ao longo de décadas a esses erros. Os erros também afetam o bolso, pois exames e repetições de exames podem custar milhares de dólares aos pacientes.

A inteligência artificial (AI), tecnologia usada por computadores para pensar de maneira semelhante aos seres humanos, poderia melhorar ou até salvar a vida de inúmeras pessoas ao realizar seus próprios diagnósticos. Pesquisas recentes do Mass General Brigham indicam que um novo tipo de AI pode diagnosticar pacientes com uma precisão impressionante. Conhecida como “chatbot”, essa AI usa dados da internet para fornecer respostas semelhantes às de uma pessoa.

“Os chatbots não vão substituir os médicos”, diz Daniel Restrepo, MD, especialista em medicina hospitalar do Mass General Brigham. “Na verdade, os médicos usariam esses chatbots como uma fonte de referência, como um livro de medicina. Eles seriam ferramentas complementares para tornar os diagnósticos mais precisos.”

Dr. Restrepo e Raja-Elie Abdulnour, MD, especialista em cuidados pulmonares do Mass General Brigham, descrevem como a AI pode ajudar a moldar o futuro dos cuidados aos pacientes.

Como os médicos fazem um diagnóstico médico?

Os médicos diagnosticam pacientes a partir de uma lista aparentemente infinita de condições aprendidas na faculdade de medicina. Diferenças sutis distinguem uma condição de outra. Mesmo o médico mais experiente pode ter dificuldade para identificar a condição correta com poucos detalhes.

O médico elimina possíveis condições usando um processo passo a passo conhecido como raciocínio clínico. Ele começa reunindo algumas pistas básicas e pergunta sobre:

• Idade
• Gênero
• Sintomas
• Condições de saúde existentes
• Histórico médico pessoal
• Motivo da consulta
• Histórico de saúde familiar

Em seguida, o médico faz uma pausa para considerar as respostas do paciente, ou seu “histórico”. Depois de concluir a avaliação, o médico cria uma lista completa de possíveis condições.

A partir daí, o médico começa a eliminar possibilidades fazendo perguntas direcionadas. Essas perguntas podem abordar medicamentos vendidos sem receita ou como a dor muda em resposta a determinadas atividades. Depois, ele pode solicitar exames de imagem ou laboratoriais para confirmar uma hipótese e descartar outras possibilidades. Se os resultados refutarem a hipótese, ele recomeça e investiga a próxima condição mais provável.

Qual é um exemplo de diagnóstico médico?

Dr. Restrepo usa um paciente hipotético do sexo masculino de 55 anos para ilustrar um diagnóstico típico. Se o paciente chegar ao consultório com dor no peito, o Dr. Restrepo não terá informações suficientes para diagnosticá-lo apenas com base nesses sintomas. O paciente pode ter desde uma condição simples, como uma costela machucada, até algo complexo e grave, como um ataque cardíaco.

“Imagine o paciente como um iceberg”, acrescenta o Dr. Abdulnour. “Cabe a nós considerar as pistas mais evidentes antes de avançar para o que está abaixo da superfície.”

Depois de perguntar sobre o histórico médico do paciente, ele pode dizer que fuma todos os dias e toma medicamentos para diabetes tipo 2. Essas informações direcionam a investigação do Dr. Restrepo para a condição mais provável: doença arterial coronariana. Quando o paciente diz que sente dor ao subir escadas, o Dr. Restrepo fica mais confiante em sua hipótese e solicita os exames necessários.

Erros em diagnósticos médicos

A interação do médico com o paciente representa uma de várias etapas até chegar a um diagnóstico. O processo começa no momento em que o paciente percebe os sintomas. Quando o paciente finalmente conversa pessoalmente com o médico, várias outras etapas já influenciaram o diagnóstico, incluindo:

• Determinar o centro médico disponível mais próximo
• Interações com profissionais de enfermagem e assistentes administrativos
• Cobertura do plano de saúde

Erros humanos podem afetar cada etapa. Profissionais de saúde cansados depois de um dia longo podem registrar informações incorretas de um paciente, ou uma barreira linguística pode causar falhas de comunicação.

Os médicos também deixam margem para erro ao avaliar sintomas. Alguns erros comuns incluem:

Viés ambiental

Se um médico atender em sua clínica um número muito grande de pacientes com uma determinada doença, pode se sentir tentado a investigar a mesma doença sem antes descartar outras condições. Durante o inverno, um médico de New England pode atender um paciente com tosse e febre e imediatamente solicitar um exame para gripe. Talvez ele não considere doenças menos comuns, embora plausíveis, como tuberculose, sem antes perguntar sobre o histórico de viagens do paciente.

Viés racial

Os médicos têm maior probabilidade de diagnosticar incorretamente um paciente de cor do que um paciente branco. Livros de medicina escritos décadas atrás muitas vezes consideravam apenas como uma doença aparece em pacientes brancos. Sem saber como sintomas complexos aparecem em pessoas de diferentes raças, os médicos podem facilmente confundir uma doença com outra.

Dr. Restrepo usa a doença autoimune lúpus como exemplo. Segundo ele, o lúpus às vezes se manifesta como uma erupção cutânea vermelho-viva no rosto do paciente. Os médicos conseguem reconhecer facilmente essa erupção em pele mais clara. Mas, sem saber como ela aparece em pele mais escura, podem não identificá-la como característica do lúpus e confundi-la com outra condição de pele.

Atalhos

O cérebro recorre a atalhos para chegar a respostas quando recebe grandes quantidades de informações. Segundo o Dr. Abdulnour, os médicos podem recorrer a atalhos sem perceber. Segundo ele, a formação médica pode favorecer esse comportamento. Na faculdade de medicina, os estudantes memorizam os sintomas de milhares de doenças, muitas vezes sem aprender a aplicar corretamente esse conhecimento. Embora essa formação leve os médicos ao diagnóstico correto na maioria dos casos, também pode levar a armadilhas mentais conhecidas como vieses cognitivos.

“Os estudantes podem se perceber tentando fazer uma correspondência perfeita entre uma doença e determinados sintomas, mas nada será perfeito”, acrescenta ele. “É muito mais provável que um paciente tenha uma doença comum com apresentação atípica do que uma doença rara com apresentação perfeita.”

Desconfiança

Uma pessoa pode fazer a mesma pergunta de duas formas diferentes e receber duas respostas diferentes. A maneira como o médico trata o paciente pode produzir resultados semelhantes. Os pacientes tendem a confiar em médicos que ouvem ativamente suas preocupações e criam um ambiente acolhedor e amigável no consultório. Os médicos podem minar essa confiança ao apressar as consultas e desconsiderar as preocupações dos pacientes.

Um paciente insatisfeito pode omitir informações pessoais que ajudariam os médicos a chegar ao diagnóstico correto.

Como a AI funciona?

A AI é modelada com base no cérebro humano. O cérebro usa milhões de neurônios para coletar e processar informações, passando de um pensamento a outro. O código de computador funciona como os “neurônios” da AI. O código instrui a AI sobre como pensar; ela passa de um ponto de dados a outro em uma fração do tempo que o cérebro leva para passar de um pensamento a outro.

“Nosso cérebro está constantemente reunindo pontos de dados, e nós confrontamos esses dados com o que já sabemos”, diz o Dr. Restrepo. “Mas, quando se trata de encontrar um diagnóstico — aquela agulha em um palheiro de informações — não conseguimos revisitar todos os casos aprendidos nem reler todas as páginas da literatura médica, especialmente quando há dezenas de outros pacientes que precisam da nossa atenção.”

Enquanto o cérebro humano pode processar quatro ou cinco dos caminhos mais prováveis pelo palheiro figurado, os modelos de AI mais avançados, conhecidos como modelos de aprendizado de linguagem (LLMs), ou chatbots, conseguem considerar milhões. Usando bilhões de pontos de dados, os seres humanos treinam chatbots para simular cada caminho pelo palheiro. O modelo, por sua vez, pode receber novas informações, compará-las à memória adquirida no treinamento e selecionar o diagnóstico mais provável.

Exemplos de AI nos cuidados de saúde

O chatbot ChatGPT foi treinado com todas as informações da internet disponíveis publicamente. Se alguém digita uma palavra no chatbot, ele responde com a palavra que tem maior probabilidade de vir em seguida. Ele usa cerca de 4 bilhões de páginas de texto para fornecer uma resposta — uma quantidade de informação impossível para o cérebro humano processar de uma só vez.

Em um mundo perfeito, o médico poderia pedir a um chatbot para classificar a probabilidade de várias doenças ao inserir a idade, o gênero e os sintomas do paciente. Depois, à medida que recebe mais informações do paciente — histórico e resultados de exames —, poderia pedir à máquina para reduzir a lista de possibilidades usando as novas informações.

Em todo o Mass General Brigham, médicos já estão testando a capacidade da AI de:

• Recomendar exames: Pesquisadores do Mass General Brigham constataram que o ChatGPT conseguia recomendar com precisão serviços de imagem para pacientes com câncer de mama e dor nas mamas.
• Responder a perguntas de pacientes: Pesquisadores do Massachusetts General Hospital constataram que o ChatGPT consegue responder de forma confiável a perguntas de pacientes sobre colonoscopias.
• Administrar medicamentos: Um médico do Brigham and Women’s Hospital está desenvolvendo uma AI que pode administrar anestesia automaticamente a gestantes antes de uma cesariana.
• Prever doenças: No Mass Eye and Ear, pesquisadores usaram AI para prever se uma lesão oral pode evoluir para malignidade.

Os riscos da AI nos cuidados de saúde

Os médicos se impressionam com a capacidade dos chatbots de comunicar informações. Para muitos, as respostas parecem humanas demais; pode parecer que estão conversando com outro médico.

No entanto, os chatbots estão longe de ser perfeitos. Se o modelo encontra uma agulha ou um pedaço de palha no palheiro depende dos dados usados para treiná-lo.

“Há um velho ditado segundo o qual entra lixo, sai lixo”, diz o Dr. Restrepo. “Se você inserir as informações erradas, receberá as respostas erradas.”

Várias falhas importantes limitam as capacidades atuais dos chatbots:

Informações inventadas

Há muitas informações incorretas on-line. Quando é treinado com essas informações, um chatbot pode produzir hipóteses incorretas. Às vezes, os modelos inventam informações ou uma citação a partir da leitura equivocada de um artigo.

Mais preocupante: essas informações incorretas, chamadas de “alucinações”, podem soar convincentes e confiáveis. Afinal, os modelos são treinados para comunicar informações da forma mais humana possível.

Vieses e estereótipos

As respostas dos chatbots também podem refletir vieses e estereótipos antigos publicados on-line. Por exemplo, se alguém perguntar a um chatbot qual profissão uma menina quer ter quando crescer, o chatbot provavelmente listará “enfermeira”, “dona de casa” e outras profissões estereotipadas para mulheres. Se a pergunta for qual profissão um menino quer ter, o chatbot tende a reforçar ainda mais estereótipos sexistas, produzindo respostas como “CEO” ou “médico”.

Estereótipos raciais também são comuns. Em um novo estudo, pesquisadores do Brigham and Women’s Hospital observaram chatbots perpetuando e exagerando os dois tipos de estereótipos em cenários clínicos. Eles descobriram que mudar a raça ou o gênero do paciente podia afetar significativamente a forma como o chatbot chegava a um diagnóstico. Raça, etnia e gênero afetaram a maneira como um chatbot respondia a perguntas sobre características subjetivas do paciente, como honestidade, compreensão e tolerância à dor.

Um exemplo: um chatbot do estudo tinha maior probabilidade de classificar pacientes negros do sexo masculino como abusando do medicamento Percocet® do que pacientes asiáticas, negras, hispânicas e brancas do sexo feminino.

“É um pouco como cientistas olhando para o espelho, o que pode ser bastante revelador”, diz o Dr. Abdulnour. “Estamos vendo os modelos perpetuarem muitos dos estereótipos que os vieses de pesquisa perpetuam há décadas. Precisamos estar sempre preparados para respostas tendenciosas e saber como lidar com elas. Além disso, podemos descobrir vieses no nosso próprio pensamento que nem sabíamos que tínhamos apenas ao estudar o viés na AI.”

Respostas teimosas

Depois que um chatbot produz uma resposta, pode resistir a mudá-la, mesmo diante de evidências em contrário. Ao diagnosticar uma condição rara, ele pode se fixar em uma parte do caso do paciente. Esse comportamento teimoso dificulta que o modelo reavalie sua previsão quando recebe novas informações sobre o paciente.

Segundo o Dr. Restrepo, um erro semelhante ocorre com frequência entre residentes e médicos assistentes no início da carreira médica.

Quando a AI será usada nas clínicas?

Muitos médicos já usam chatbots da mesma forma que usam um mecanismo de busca: como ponto de partida para pesquisar ou verificar informações básicas. Para tornar os chatbots mais confiáveis para os médicos, os Drs. Restrepo e Abdulnour estão pesquisando:

• Prompts de perguntas que eles sabem que produzirão respostas precisas
• Todos os limites dos chatbots, incluindo riscos, eficiências e qualidade das respostas

Antes de depender de chatbots em um ambiente clínico de alto risco, os dois médicos querem que sejam criadas salvaguardas para a tecnologia. Um código de conduta liderado pela National Academy of Medicine poderia estabelecer melhores práticas para a tecnologia. Essas melhores práticas precisariam minimizar a disseminação de informações falsas e garantir que a tecnologia produza resultados seguros e precisos. Também precisariam proteger o acesso igualitário à tecnologia.

Os chatbots de AI evoluirão para produzir respostas mais precisas e mais realistas. Previsões sobre inteligência artificial feitas por especialistas do Mass General Brigham aumentaram as expectativas para os próximos anos. Os Drs. Restrepo e Abdulnour, no entanto, alertam os pacientes para que não esperem um dispositivo perfeito que saiba tudo. O apelo futurista dos chatbots pode impressionar nas notícias, mas as imperfeições herdadas pelos dispositivos continuam as mesmas.

Hoje, essas imperfeições lembram aos pacientes o que um dispositivo de diagnóstico perfeito realmente é: ficção científica.