O avanço da inteligência artificial transformou a forma como milhões de pessoas buscam informações. Entre os usos mais comuns está a procura por orientações relacionadas à saúde. Com respostas rápidas e disponíveis a qualquer hora, chatbots como ChatGPT, Gemini e Grok passaram a ocupar um espaço que antes era preenchido principalmente pelos mecanismos de busca tradicionais.
Foi justamente essa praticidade que levou Abi, moradora de Manchester, na Inglaterra, a incorporar o ChatGPT à sua rotina. Ela convive com ansiedade relacionada à saúde e afirma que encontrou na ferramenta uma forma mais personalizada de esclarecer dúvidas do que as pesquisas convencionais na internet.
"Ele meio que permite resolver problemas em conjunto", relata. "É quase como conversar com o seu médico."
A experiência, porém, mostrou que os benefícios têm limites.
Em uma ocasião, Abi suspeitou estar com uma infecção urinária. Após descrever os sintomas ao chatbot, recebeu a recomendação de procurar um farmacêutico. Depois de uma consulta rápida, conseguiu a prescrição de um antibiótico, procedimento permitido no Reino Unido.
Segundo ela, a orientação foi útil porque evitou a necessidade de recorrer imediatamente ao sistema público de saúde britânico. Além disso, facilitou a busca por ajuda em um momento de dificuldade para procurar atendimento médico presencial.
Meses depois, no entanto, a situação foi diferente. Após sofrer uma queda durante uma caminhada e bater as costas em uma rocha, Abi sentiu uma forte pressão que se espalhava para o abdômen. Ao consultar novamente a inteligência artificial, recebeu um alerta preocupante.
"O ChatGPT me disse que eu havia perfurado um órgão e precisava ir ao pronto atendimento imediatamente", conta.
Depois de três horas no hospital, a dor começou a diminuir e ela percebeu que não se tratava de um quadro grave. Para Abi, a avaliação feita pela ferramenta estava errada.
A preocupação com a qualidade das respostas fornecidas pelos chatbots tem chamado a atenção de especialistas e autoridades médicas.
No início deste ano, o diretor médico da Inglaterra, Chris Whitty, afirmou que a população está utilizando cada vez mais a inteligência artificial para buscar informações médicas. Segundo ele, as respostas nem sempre apresentam qualidade suficiente e frequentemente são transmitidas com alto grau de confiança, mesmo quando estão incorretas.
Estudos recentes ajudam a explicar esse cenário.
Pesquisadores do Laboratório de Raciocínio com Máquinas da Universidade de Oxford criaram diversos cenários clínicos para avaliar o desempenho dos chatbots. Os casos incluíam situações simples, que poderiam ser tratadas em casa, e também emergências que exigiam atendimento hospitalar imediato.
Quando os sistemas recebiam todas as informações necessárias de forma completa e organizada, o desempenho foi elevado. A taxa de acerto alcançou 95%.
"Eles foram incríveis, de verdade, quase perfeitos", afirma o pesquisador Adam Mahdi.
Mas o resultado mudou significativamente quando pessoas reais passaram a interagir com os sistemas. Mais de 1.300 participantes receberam descrições de sintomas e conversaram livremente com os chatbots em busca de diagnósticos e orientações.
Nesse contexto, a precisão caiu para apenas 35%.
Para Mahdi, a diferença ocorre porque os usuários costumam relatar sintomas de maneira incompleta, esquecem detalhes relevantes ou fornecem informações gradualmente durante a conversa.
Um dos cenários analisados envolvia sintomas compatíveis com hemorragia subaracnoide, uma condição grave causada por sangramento cerebral. Dependendo da forma como os sintomas eram descritos ao chatbot, as recomendações variavam consideravelmente, inclusive em situações que exigiam atendimento urgente.
Outro estudo, conduzido pelo Instituto Lundquist de Inovação Biomédica, na Califórnia, avaliou como diferentes plataformas de inteligência artificial lidam com temas sensíveis relacionados à saúde.
Os pesquisadores testaram sistemas como Gemini, DeepSeek, Meta AI, ChatGPT e Grok com perguntas sobre câncer, vacinas, células-tronco, nutrição e desempenho esportivo.
Mais da metade das respostas foi considerada problemática de alguma forma.
Em um dos exemplos, ao serem questionados sobre técnicas de medicina alternativa capazes de tratar câncer com sucesso, alguns sistemas apresentaram abordagens sem comprovação científica em vez de afirmar que não existem evidências de eficácia para esse objetivo.
Para o pesquisador Nicholas Tiller, existe um fator que aumenta o risco de desinformação: a forma como as respostas são apresentadas.
"São projetados para fornecer respostas muito confiantes e impositivas, que transmitem um senso de credibilidade. Por isso, o usuário considera que eles devem saber do que estão falando."
Embora os desenvolvedores continuem aprimorando os modelos, especialistas destacam que a tecnologia ainda possui limitações importantes. Como esses sistemas são construídos para prever palavras e padrões de linguagem, podem produzir informações incorretas com aparência de precisão.
A OpenAI, empresa responsável pelo ChatGPT, afirma que trabalha com profissionais de saúde para testar e aperfeiçoar seus modelos. Ainda assim, ressalta que a ferramenta deve ser utilizada para informação e educação, sem substituir a assistência médica profissional.
Abi continua recorrendo aos chatbots quando precisa esclarecer dúvidas, mas adotou uma postura mais cautelosa. Para ela, a principal lição é simples: as respostas podem ajudar, mas não devem ser tratadas como verdades absolutas.
"Eu não confiaria em tudo o que ele disser como a verdade absoluta."
Fonte: G1Foto: https://www.magnific.com/br/imagem-ia-premium/imagine-assistentes-virtuais-alimentados-por-ia-agendando-ai-generativa_236662066.htm
Aproveite para compartilhar clicando no botão acima!
Visite nosso site e veja todos os outros artigos disponíveis!