Novo estudo: algoritmos de IA confundem exames de joelho com consumo de cerveja

São PauloInteligência artificial está sendo aplicada na área da saúde para analisar imagens médicas e identificar detalhes que podem passar despercebidos aos olhos humanos. No entanto, um estudo publicado na Scientific Reports revelou um grande problema: a IA pode interpretar erroneamente essas imagens, gerando previsões estranhas e pouco confiáveis. Em uma pesquisa com mais de 25.000 radiografias de joelho, os pesquisadores descobriram que os modelos de IA, às vezes, identificam características irrelevantes, como o consumo de cerveja pelos pacientes, ao perceberem padrões sutis sem fundamento médico.

Algoritmos de IA às vezes se concentram em detalhes irrelevantes em vez de informações médicas importantes. Esses modelos podem detectar aspectos não correlacionados nos dados, como variações nos aparelhos de raios X ou etiquetas de diferentes hospitais. Mesmo quando tentamos eliminar esses vieses, a IA encontra outros padrões não detectados para tomar suas decisões. Esse problema ameaça a qualidade da pesquisa científica e o uso da IA na medicina.

Alguns principais problemas foram identificados:

• Modelos de IA explorando padrões indesejados nos dados
• Aprendizado com atalhos gerando conclusões enganosas
• Dependência de variáveis de confusão em vez de características médicas
• Dificuldades na eliminação de vieses

Leia também:

10 de dezembro de 2024 · 10:14

Utilizando IA para transformar a pesquisa genômica e expandir os limites do conhecimento

A tecnologia de inteligência artificial pode ser perigosa na pesquisa médica por causa do risco de erros. É crucial implementar critérios rigorosos para garantir que esses sistemas de IA aprendam corretamente os dados médicos. A IA não processa informações como os humanos; em vez disso, usa padrões, sem levar em consideração a lógica ou o contexto humano. Portanto, embora a IA possa ser uma ferramenta útil, é essencial reconhecer suas limitações e os potenciais equívocos que pode cometer.

Profissionais de saúde e pesquisadores devem ter cautela. Para descobrir novos padrões usando IA, é necessário ter evidências sólidas. Existe o risco de superestimar o que a IA é capaz de fazer. Algumas pessoas podem equivocadamente acreditar que a IA compreende as coisas da mesma forma que os humanos. É essencial testar e analisar rigorosamente essas ferramentas para garantir seu uso correto e seguro em ambientes médicos.

A inteligência artificial na área de imagem médica está em constante evolução, por isso é fundamental compreender suas capacidades, riscos e a maneira correta de investigá-la. Com o aumento do uso de IA na saúde, é essencial que a pesquisa permaneça honesta e confiável.