Badania: AI w szpitalach tworzy nieistniejące wypowiedzi pacjentów

WarsawZmieniające się obawy dotyczące Whisper, narzędzia AI do transkrypcji mowy, są coraz bardziej widoczne w sektorze opieki zdrowotnej. Badacze odkryli, że oprogramowanie może czasem "wymyślać wypowiedzi", które nigdy nie padły. Taki problem może być niebezpieczny w medycynie, gdzie precyzyjne transkrypcje są kluczowe.

Whisper to narzędzie stworzone przez OpenAI, wykorzystywane na różnych platformach, w tym w chmurze Oracle i Microsoft. Jest powszechnie używane do przekształcania mowy w tekst w miejscach takich jak szpitale i centra obsługi klienta. Zdarza się jednak, że popełnia błędy, co może być niebezpieczne, na przykład poprzez przekazanie nieprawidłowych informacji medycznych w służbie zdrowia.

Badania przeprowadzone przez Uniwersytet Michigan wykazały, że Whisper często dostarcza nieścisłe informacje. Z 80% analizowanych transkrypcji wynikały błędy, co zainicjowało próby poprawy modelu. Dodatkowo, inżynier zajmujący się uczeniem maszynowym odkrył nieścisłości w około połowie badanych transkrypcji, co uwydatnia powszechny problem.

Niezrozumienie rozmów w środowisku medycznym może prowadzić do błędnych diagnoz, niewłaściwych terapii lub udzielania pacjentom niesłusznych porad. Takie błędy zagrażają bezpieczeństwu pacjentów oraz zwiększają obciążenie personelu medycznego, który potrzebuje precyzyjnych informacji, aby zapewnić odpowiednią opiekę.

Zobacz również:

28 października 2024 · 18:31

Brytyjczyk skazany za tworzenie obraźliwych treści z AI

Oto kluczowe obawy, na które zwracana jest uwaga:

Częste występowanie błędnych transkrypcji w środowiskach medycznych może prowadzić do poważnych konsekwencji, takich jak błędne diagnozy. Integracja takich systemów w kluczowych aplikacjach, jak szpitalne bazy danych, bez odpowiednich zabezpieczeń, stanowi dodatkowe ryzyko. Szczególnie narażone są grupy wrażliwe, takie jak osoby niesłyszące i niedosłyszące, dla których precyzyjne transkrypcje są niezbędne.

Whisper cieszy się popularnością, ale niesie ze sobą niepokojące problemy. W kluczowych obszarach rozpoznawanie mowy musi być niezwykle precyzyjne. Błędy Whisper sugerują, że konieczne mogą być dodatkowe regulacje, aby zapewnić, że narzędzia AI są bezpieczne i niezawodne.

Coraz więcej osób zwraca się do OpenAI o rozwiązanie tych problemów. Eksperci uważają, że wprowadzenie surowszych regulacji dla AI może pomóc w zmniejszeniu ryzyka. OpenAI aktualizuje swoje modele i korzysta z opinii zwrotnych, aby poprawić ich dokładność. Jednak do czasu wprowadzenia znaczących ulepszeń, stosowanie Whispera i podobnych narzędzi do transkrypcji AI w ważnych sytuacjach powinno być traktowane ostrożnie.