Uma nova pesquisa internacional revelou que os chatbots impulsionados por inteligência artificial (IA) estão fornecendo conselhos médicos problemáticos em cerca de 50% das vezes.
O estudo, que destaca os riscos para a saúde de uma tecnologia cada vez mais integrada ao dia a dia, avaliou cinco plataformas populares: ChatGPT, Gemini, Meta AI, Grok e DeepSeek.
Conduzido por pesquisadores dos Estados Unidos, Canadá e Reino Unido, o estudo submeteu cada chatbot a 10 perguntas abrangendo cinco categorias de saúde.
Os resultados, publicados esta semana no renomado jornal médico BMJ Open, indicam que aproximadamente metade das respostas foram consideradas problemáticas, com quase 20% delas sendo altamente problemáticas.
Desempenho por categorias e temas
A análise detalhada mostrou que os chatbots tiveram um desempenho relativamente melhor em perguntas de resposta fechada e em tópicos como vacinas e câncer. No entanto, apresentaram resultados inferiores em prompts de resposta aberta e em áreas complexas como células-tronco e nutrição.
Apesar da frequência dos erros, as respostas eram frequentemente entregues com grande confiança e certeza. Os pesquisadores notaram que nenhum chatbot conseguiu produzir uma lista de referências totalmente completa e precisa em resposta a qualquer solicitação.
Curiosamente, houve apenas duas recusas em responder a uma pergunta, ambas vindas do Meta AI.
Os riscos crescentes da IA na saúde
Os resultados da pesquisa acentuam a crescente preocupação sobre como as pessoas estão utilizando plataformas de IA generativa.
É crucial lembrar que essas ferramentas não são licenciadas para fornecer aconselhamento médico e carecem do julgamento clínico necessário para fazer diagnósticos precisos.
O crescimento explosivo dos chatbots de IA os transformou em uma ferramenta popular para indivíduos que buscam orientação sobre suas enfermidades.
A OpenAI, por exemplo, informou que mais de 200 milhões de pessoas consultam o ChatGPT com perguntas sobre saúde e bem-estar semanalmente.
Novas iniciativas e o setor da saúde
Em resposta a essa demanda, plataformas como a OpenAI anunciaram em janeiro o lançamento de ferramentas de saúde tanto para usuários comuns quanto para clínicos.
No mesmo mês, a Anthropic revelou que seu produto Claude também está desenvolvendo uma nova oferta para o setor de saúde.
Contudo, os autores do estudo do BMJ Open alertam para um risco significativo na implementação de chatbots sem educação pública e supervisão adequadas: a possibilidade de amplificar a desinformação.
Eles enfatizam que esses sistemas podem gerar “respostas com tom de autoridade, mas potencialmente falhas”.
As descobertas “destacam importantes limitações comportamentais e a necessidade de reavaliar como os chatbots de IA são implementados na comunicação pública de saúde e medicina”, concluíram os pesquisadores, sublinhando a urgência de uma abordagem mais cautelosa e regulamentada.
Fonte: ST
