Ferramenta de transcrição em hospitais inventa falas, alertam pesquisadores

São PauloCrescem as preocupações sobre o Whisper, uma ferramenta de inteligência artificial usada para transcrever fala, devido ao seu uso cada vez mais frequente na área da saúde. Pesquisadores descobriram que o software às vezes inventa declarações que nunca foram ditas. Esse problema pode ser extremamente perigoso em contextos médicos, onde é crucial ter transcrições precisas.

Whisper é uma ferramenta criada pela OpenAI, utilizada em diversas plataformas, incluindo serviços de nuvem da Oracle e Microsoft. Muitos a utilizam para transcrever palavras faladas em texto, em locais como hospitais e call centers. No entanto, às vezes pode cometer erros, o que pode ser arriscado, como fornecer informações médicas incorretas na área da saúde.

Pesquisadores descobriram que Whisper frequentemente gera informações imprecisas. Um estudo da Universidade de Michigan revelou que 80% das transcrições analisadas continham erros. Isso resultou em esforços para aprimorar o modelo. Além disso, um engenheiro de aprendizado de máquina identificou equívocos em cerca de metade das transcrições que ele revisou, ressaltando um problema generalizado.

Conversas mal interpretadas em ambientes médicos podem levar a diagnósticos incorretos, tratamentos inadequados ou orientações erradas para os pacientes. Esses erros ameaçam a segurança do paciente e aumentam a carga de trabalho dos profissionais de saúde, que dependem de informações precisas para prestar um atendimento adequado.

Leia também:

8 de novembro de 2024 · 22:23

Mensagens racistas alarmam e incitam investigações em vários Estados

Aqui estão as principais preocupações destacadas:

Frequência elevada de transcrições errôneas em ambientes médicos pode levar a consequências graves, como diagnósticos incorretos. A integração em sistemas cruciais, como os de hospitais, sem proteções adequadas, representa riscos significativos. Grupos vulneráveis, como pessoas surdas ou com deficiência auditiva, que dependem de transcrições precisas, estão especialmente expostos.

Apesar de ser muito popular, Whisper enfrenta desafios preocupantes. A precisão em reconhecimento de fala é crítica em áreas importantes. Os erros do Whisper indicam que pode ser necessário estabelecer mais diretrizes para garantir que as ferramentas de IA sejam seguras e confiáveis.

Mais pessoas estão solicitando à OpenAI que resolva esses problemas. Especialistas acreditam que a implementação de regras mais rígidas para a inteligência artificial pode ajudar a diminuir esses riscos. A OpenAI está atualizando seus modelos e utilizando feedbacks para torná-los mais precisos. Contudo, até que melhorias significativas sejam realizadas, o uso de Whisper e ferramentas de transcrição de IA similares em situações importantes deve ser feito com cautela.