Os desafios e benefícios dos chatbots de IA na medicina: um estudo da TUM

São PauloModelos de linguagem avançados como o ChatGPT conseguem passar em exames médicos com facilidade. No entanto, sua utilização para diagnosticar pacientes reais em hospitais apresenta riscos. Eles tendem a fazer diagnósticos rápidos e não seguem diretrizes médicas. Pesquisadores da Universidade Técnica de Munique (TUM) examinaram se chatbots de IA poderiam ser aplicados na prática clínica.

Os pesquisadores utilizaram o modelo de linguagem de código aberto Llama 2 para simular o processo desde a sala de emergência até o tratamento. Utilizando dados anônimos de pacientes de uma clínica dos EUA, selecionaram 2400 casos de pacientes com dor abdominal. A IA teve a tarefa de decidir quais exames solicitar e, em seguida, elaborar o diagnóstico e o plano de tratamento.

Descobertas:

• Os modelos de IA nem sempre solicitavam todos os testes necessários.
• A precisão diminuía à medida que dispunham de mais informações.
• A IA frequentemente ignorava as diretrizes de tratamento.
• Os diagnósticos variavam conforme a ordem de recebimento das informações.

Comparação entre IA e Médicos Revela Diferenças Significativas na Precisão

Ao comparar com médicos reais, a inteligência artificial não teve um desempenho tão bom. Os médicos acertaram em 89% das vezes, enquanto o melhor modelo de IA foi preciso apenas 73% das vezes. Em alguns diagnósticos, como a inflamação da vesícula biliar, a IA acertou apenas em 13% dos casos.

Os pesquisadores não testaram modelos de IA comerciais como o ChatGPT ou a IA do Google devido a problemas com a proteção de dados. Além disso, hospitais necessitam de modelos que possam ser controlados e mantidos seguros, algo que os modelos de código aberto oferecem. Avaliar modelos comerciais de forma justa é complicado sem conhecer os dados nos quais eles foram treinados.

Leia também:

Hoje · 07:41

Desafios da transição da OpenAI para uma empresa lucrativa

IA na Medicina: Um Futuro Promissor

A inteligência artificial para diagnósticos médicos está avançando rapidamente. O Prof. Daniel Rückert da TUM acredita que essa tecnologia pode ser útil para os médicos no futuro. Ela pode auxiliar nas discussões de casos, mas não substituirá os profissionais tão cedo. É fundamental que os hospitais utilizem modelos de código aberto para garantir a segurança e o controle dos dados dos pacientes.

Chatbots de IA: O Futuro da Medicina

Os chatbots de inteligência artificial podem ser bastante úteis na medicina, mas ainda não estão preparados. Eles precisam de mais testes e ajustes. Atualmente, eles são capazes de auxiliar em trabalhos acadêmicos e dar suporte aos médicos, mas não podem realizar diagnósticos finais. A tecnologia de IA está avançando rapidamente, e é provável que os chatbots melhorem nos próximos anos.

Médicos precisam de ferramentas confiáveis. Até que a IA comprove ser tão segura quanto os médicos humanos, ela não deve tomar decisões importantes sozinha. Pesquisadores estão criando ambientes para testar esses modelos e aprimorá-los. No entanto, os hospitais devem usar apenas IA que compreendam plenamente e controlem.

Embora chatbots de IA mostrem potencial, ainda não estão prontos para serem usados em hospitais. Eles precisam de mais pesquisa, melhor treinamento de dados e normas mais rigorosas.