Nieuwe richtlijnen: transparantie bevorderen en vooroordelen in medische AI aanpakken voor gelijke zorgresultaten

AmsterdamInnovaties in medische AI bieden mogelijkheden om diagnoses en behandelingen te verbeteren. Uit nieuw bewijs blijkt echter een serieus probleem: AI-systemen kunnen bevooroordeeld zijn, wat kan leiden tot ongelijke gezondheidszorgresultaten. Het oplossen van dit probleem is cruciaal om ervoor te zorgen dat iedereen evenveel profiteert van deze technologieën. Onlangs zijn er belangrijke aanbevelingen gepubliceerd in The Lancet Digital Health en NEJM AI. Deze richtlijnen, opgesteld door meer dan 350 experts uit 58 landen als onderdeel van de internationale initiatief STANDING Together, richten zich op het verbeteren van datasetdiversiteit en het opsporen van mogelijke vooroordelen.

Het advies benadrukt cruciale stappen om eerlijkheid te waarborgen bij het gebruik van AI in de gezondheidszorg.

• Het benutten van gezondheidsdatasets die alle demografische groepen vertegenwoordigen, inclusief minderheden en groepen die minder toegang hebben tot zorg.
• Datasetuitgevers aansporen om de vooroordelen en beperkingen in hun gegevens bloot te leggen.
• Het verstrekken van hulpmiddelen voor ontwikkelaars om de geschiktheid van datasets voor AI-ontwikkeling te beoordelen.
• Methoden beschrijven om AI-systemen grondig te testen op vooroordelen binnen verschillende bevolkingsgroepen.

Het besef dat gegevens vooringenomen kunnen zijn, is slechts de eerste stap. AI-technologieën moeten grondig worden getest om ervoor te zorgen dat ze goed werken voor verschillende groepen mensen. Dit vergt een verandering in de manier waarop we datasets verzamelen en evalueren. Dr. Xiao Liu, die het onderzoek leidt, benadrukt dat het simpelweg verbeteren van datasets niet voldoende is. Er moet een fundamentele verandering komen in hoe we gezondheidsgegevens zien en gebruiken.

Lees ook:

19 december 2024 · 22:19

Nieuw onderzoek: AI voorspelt snellere en ernstigere opwarming van de aarde dan gedacht

De campagne legt de nadruk op het belang van publieke betrokkenheid bij het ontwikkelen van ethische AI. Patiëntvertegenwoordigers stellen dat het integreren van publieke meningen het ontwikkelingsproces meer inclusief kan maken. Hierdoor worden wetenschappers beter verbonden met de mensen die door AI-technologieën worden beïnvloed, waardoor de kans op het missen van belangrijke kwesties of het veroorzaken van onbedoelde schade wordt verkleind.

Belangrijke gezondheidsorganisaties en toezichthouders uit diverse landen onderstrepen de dringende noodzaak om wereldwijd AI-vooringenomenheid aan te pakken. Door nu standaarden vast te stellen, willen ze ongelijkheidsproblemen aanpakken voordat AI-hulpmiddelen gebruikelijker worden in de gezondheidszorg. De STANDING Together-richtlijnen bieden een plan om medische AI te ontwikkelen die verantwoordelijk en eerlijk is, zodat de voordelen van technologie gelijkmatig worden verdeeld en het vertrouwen tussen verschillende gemeenschappen wordt bevorderd.