Nytt initiativ: Förslag för att öka insyn och motverka bias i medicinsk AI

StockholmInnovationer inom medicinsk AI öppnar möjligheter för förbättrad diagnostik och behandlingar. Men ny forskning visar på ett allvarligt problem: AI-system kan vara partiska, vilket kan resultera i ojämlika hälsoresultat. Att lösa detta problem är avgörande för att säkerställa att alla drar nytta av dessa teknologier på ett likvärdigt sätt. Nyligen publicerades viktiga rekommendationer i The Lancet Digital Health och NEJM AI. Dessa riktlinjer, skapade av över 350 experter från 58 länder som en del av det internationella initiativet STANDING Together, syftar till att förbättra mångfalden i dataset och identifiera möjliga partiskheter.

Råden fokuserar på viktiga steg för att säkerställa rättvis användning av AI inom hälso- och sjukvården.

• Använda hälsodata som inkluderar alla demografiska grupper, särskilt minoriteter och understödda grupper.
• Uppmana dataleverantörer att redovisa eventuella fördomar och begränsningar i sina data.
• Tillhandahålla verktyg för utvecklare att utvärdera om datasets är lämpliga för AI-utveckling.
• Beskriva metoder för att noggrant testa AI-system för fördomar över olika befolkningssegment.

Att förstå att data kan vara partisk är bara början. AI-teknologier måste testas noggrant för att säkerställa att de fungerar väl för olika grupper av människor. Detta kräver en förändring i hur vi samlar in och granskar dataset. Dr. Xiao Liu, som leder studien, påpekar att det inte räcker med att bara förbättra dataset. Det behövs en grundläggande förändring i vårt sätt att se och använda hälso- och sjukvårdsdata.

Läs också:

19 december 2024 · 22:19

Ny AI-studie varnar för större uppvärmning än väntat – 3 grader möjligt

Initiativet betonar vikten av allmänhetens synpunkter vid skapandet av etisk AI. Patientrepresentanter föreslår att inkludera allmänhetens åsikter kan göra utvecklingsprocessen mer inkluderande. Detta hjälper till att koppla forskare med de människor som påverkas av AI-teknologier, minskar risken för att förbise viktiga frågor eller orsaka oönskade skador.

Stora hälsoorganisationer och reglerande myndigheter från olika länder betonar behovet av att snabbt ta itu med AI-fördomar globalt. Genom att upprätta normer nu hoppas de kunna hantera ojämlikhetsproblem innan AI-verktyg blir vanligare i hälso- och sjukvårdssystemen. STANDING Together-riktlinjerna erbjuder en strategi för att skapa medicinsk AI som är ansvarsfull och rättvis, vilket säkerställer att teknologins fördelar delas lika och bygger förtroende bland olika samhällen.