Les transcriptions d'IA dans les hôpitaux génèrent des textes fictifs.

ParisInquiétudes Croissantes Face à Whisper dans le Secteur Médical

Les préoccupations augmentent concernant Whisper, un outil d'intelligence artificielle utilisé pour transcrire des discours, alors qu'il se répand dans le domaine médical. Les chercheurs ont découvert que ce logiciel invente parfois des propos qui n'ont jamais été prononcés. Ce problème pourrait s'avérer très dangereux dans les contextes médicaux où des transcriptions précises sont essentielles.

Whisper est un outil développé par OpenAI, intégré à diverses plateformes comme les services cloud d'Oracle et de Microsoft. Il est largement utilisé pour transcrire des paroles en texte dans des secteurs tels que les hôpitaux et les centres d'appels. Cependant, il peut parfois faire des erreurs, ce qui pourrait s'avérer dangereux, notamment en fournissant des informations médicales incorrectes dans le domaine de la santé.

Les chercheurs ont découvert que Whisper génère fréquemment des informations inexactes. Une étude menée par l'Université du Michigan a révélé que 80 % des transcriptions examinées contenaient des erreurs. Cela a conduit à des efforts pour améliorer le modèle. De plus, un ingénieur en apprentissage automatique a trouvé des erreurs dans environ la moitié des transcriptions analysées, soulignant l'ampleur du problème.

Les conversations mal interprétées dans le milieu médical peuvent mener à des diagnostics erronés, des traitements inappropriés, ou à de mauvais conseils donnés aux patients. Ces erreurs mettent en péril la sécurité des patients et augmentent la charge de travail du personnel médical, qui a besoin d'informations précises pour prodiguer des soins appropriés.

Lisez aussi:

28 octobre 2024 · 18:31

Un homme condamné en Grande-Bretagne pour des images abusives créées par une IA

Voici les principales préoccupations mises en avant :

Risques et Conséquences de la Transcription Erronée dans le Secteur Médical :

• Fréquence élevée d'erreurs de transcription dans les environnements médicaux.
• Possibilité de conséquences graves telles que des diagnostics erronés.
• Intégration dans des applications critiques comme les systèmes hospitaliers sans mesures de protection adéquates.
• Menaces pour les groupes vulnérables, tels que les personnes sourdes ou malentendantes, qui dépendent d'une transcription précise.

Whisper est apprécié mais soulève des préoccupations inquiétantes. Dans des domaines essentiels, la précision de la reconnaissance vocale est primordiale. Les erreurs de Whisper indiquent qu'il pourrait être nécessaire d'établir plus de règles pour garantir la sécurité et la fiabilité des outils d'IA.

De plus en plus de personnes demandent à OpenAI de résoudre ces problèmes. Les spécialistes estiment que l'adoption de règles plus strictes pour l'IA pourrait contribuer à réduire ces risques. OpenAI travaille à l'amélioration de ses modèles en intégrant les retours d'expérience pour en accroître la précision. Cependant, tant que des avancées majeures ne seront pas réalisées, il est conseillé d'utiliser Whisper et d'autres outils de transcription via IA avec prudence dans les situations critiques.