Les avantages et les inconvénients des chatbots IA dans les soins médicaux

ParisLes modèles de langage avancés comme ChatGPT peuvent facilement réussir des examens médicaux. Cependant, leur utilisation pour diagnostiquer de vrais patients à l'hôpital est risquée. Ces modèles font souvent des diagnostics rapides sans suivre les lignes directrices médicales. Des chercheurs de la Technische Universität München (TUM) ont évalué la possibilité d'intégrer des chatbots IA dans la pratique clinique.

Les chercheurs ont utilisé le modèle linguistique Llama 2, disponible gratuitement. Ils ont simulé le parcours des patients depuis les urgences jusqu'au traitement. En utilisant des données de patients anonymes d'une clinique américaine, ils ont sélectionné 2400 cas de patients souffrant de douleurs abdominales. L'IA devait déterminer quels examens commander, puis établir le diagnostic et le plan de traitement.

Conclusions :

• Les modèles d'IA ne demandaient pas systématiquement tous les tests nécessaires.
• Plus ils disposaient d'informations, moins ils étaient précis.
• Les recommandations de traitement étaient souvent ignorées par l'IA.
• Les diagnostics variaient selon l'ordre de réception des informations.

Comparée aux vrais médecins, l'IA a montré des performances moindres. Les médecins ont posé des diagnostics corrects dans 89% des cas, alors que le meilleur modèle d'IA n'a atteint que 73%. Pour certaines pathologies, comme l'inflammation de la vésicule biliaire, l'IA n'a été exacte que dans 13% des cas.

Les chercheurs n'ont pas testé des modèles d'IA commerciaux comme ChatGPT ou l'IA de Google en raison des préoccupations liées à la protection des données. Les hôpitaux ont également besoin de modèles qu'ils peuvent contrôler et sécuriser, ce que permettent les modèles open-source. Il est difficile d'évaluer équitablement des modèles commerciaux sans connaître les données sur lesquelles ils ont été entraînés.

Lisez aussi:

21 novembre 2024 · 08:55

Les marchés asiatiques reculent malgré le succès de Nvidia.

L’intelligence artificielle pour les diagnostics médicaux progresse rapidement. Le Professeur Daniel Rückert de l’université TUM estime que l’IA pourrait être un outil précieux pour les médecins à l’avenir. Elle peut les assister dans leurs discussions de cas, mais ne les remplacera pas dans l’immédiat. Les hôpitaux ont besoin de modèles open-source pour garantir la sécurité et la maîtrise des données des patients.

Les chatbots IA pourraient être précieux dans le domaine médical, mais ils ne sont pas encore prêts. Ils nécessitent davantage de tests et d'ajustements. Actuellement, ils peuvent contribuer aux travaux académiques et soutenir les médecins, mais ils ne sont pas capables de poser des diagnostics définitifs. Avec l'évolution rapide de la technologie IA, il est probable que ces chatbots s'améliorent considérablement dans les prochaines années.

Les médecins ont besoin d'outils fiables. Tant que l'IA n'aura pas prouvé qu'elle est aussi fiable que les médecins humains, elle ne devrait pas prendre de décisions importantes seule. Les chercheurs créent des environnements pour tester et améliorer ces modèles. Cependant, les hôpitaux doivent uniquement utiliser une IA qu'ils comprennent et contrôlent complètement.

Les chatbots IA montrent du potentiel, mais ne sont pas encore adaptés à une utilisation dans les hôpitaux. Ils nécessitent davantage de recherche, une amélioration de l'entraînement des données et des normes plus strictes.