Aciertos y fracasos de los chatbots de IA en la medicina clínica

MadridLos modelos de lenguaje avanzado como ChatGPT pueden aprobar exámenes médicos sin dificultad. Sin embargo, utilizarlos para diagnosticar a pacientes reales en hospitales representa un riesgo. Suele hacer diagnósticos rápidos y no siempre sigue las directrices médicas. Investigadores de la Universidad Técnica de Múnich (TUM) evaluaron la posibilidad de emplear chatbots de IA en la práctica clínica.

Los investigadores emplearon el modelo de lenguaje de libre acceso Llama 2. Simularon el proceso desde la sala de emergencias hasta el tratamiento. Utilizaron datos anónimos de pacientes de una clínica en EE.UU., seleccionando 2400 casos de pacientes con dolor abdominal. La IA debía decidir qué pruebas pedir y luego elaborar el diagnóstico y el plan de tratamiento.

Resultados:

• Los modelos de IA no siempre solicitaron todas las pruebas necesarias.
• A medida que disponían de más información, su precisión disminuía.
• Frecuentemente, la IA ignoraba las guías de tratamiento.
• Los diagnósticos variaban según el orden en el que recibían la información.

Al compararse con médicos reales, la IA no tuvo el mismo rendimiento. Los doctores acertaron en un 89% de los casos, mientras que el mejor modelo de IA solo fue correcto el 73% de las veces. En algunos diagnósticos, como la inflamación de la vesícula biliar, la IA solo acertó en un 13% de las ocasiones.

Los investigadores no evaluaron modelos de IA comerciales como ChatGPT o la IA de Google debido a problemas de protección de datos. Los hospitales también necesitan modelos que puedan controlar y mantener seguros, lo cual ofrecen los modelos de código abierto. Es complicado evaluar de manera justa los modelos comerciales sin conocer los datos con los que fueron entrenados.

Lea también:

Hoy · 7:41

La desafiante transición de OpenAI a entidad con fines de lucro

El desarrollo de la IA para diagnósticos médicos avanza rápidamente. El Prof. Daniel Rückert de la TUM opina que esta tecnología podría ser útil para los médicos en el futuro. La IA puede ayudar en la discusión de casos, aunque no reemplazará a los médicos pronto. Es esencial que los hospitales utilicen modelos de código abierto para mantener la seguridad y el control de los datos de los pacientes.

Los chatbots de IA podrían ser beneficiosos en el campo de la medicina, aunque todavía no están listos. Requieren más pruebas y ajustes. En la actualidad, pueden asistir en trabajos académicos y apoyar a los médicos, pero no pueden realizar diagnósticos finales. La tecnología de IA avanza rápidamente, por lo que es probable que los chatbots mejoren en los próximos años.

Los médicos requieren herramientas confiables. Hasta que la IA demuestre ser tan segura como los doctores humanos, no debería tomar decisiones importantes de manera independiente. Los investigadores están creando entornos para probar estos modelos y mejorar su rendimiento. Sin embargo, los hospitales solo deben utilizar IA que comprendan y controlen completamente.

Los chatbots de IA muestran potencial, pero aún no son aptos para su uso en hospitales. Necesitan más investigación, mejor entrenamiento de datos y directrices más estrictas.