Neue Empfehlungen für Transparenz und Fairness: Bias in medizinischer KI beseitigen

BerlinInnovationen in der medizinischen KI bieten Möglichkeiten zur Verbesserung von Diagnosen und Behandlungen. Neue Erkenntnisse zeigen jedoch ein ernstes Problem auf: KI-Systeme können voreingenommen sein, was zu ungleichen Gesundheitsresultaten führen kann. Die Lösung dieses Problems ist wichtig, um sicherzustellen, dass alle gleichermaßen von diesen Technologien profitieren. Kürzlich wurden bedeutende Empfehlungen in The Lancet Digital Health und NEJM AI veröffentlicht. Diese Richtlinien, die von über 350 Experten aus 58 Ländern im Rahmen der internationalen Initiative STANDING Together erstellt wurden, zielen darauf ab, die Datenvielfalt zu verbessern und mögliche Voreingenommenheiten zu identifizieren.

Der Ratschlag konzentriert sich auf wesentliche Schritte, um die Gerechtigkeit beim Einsatz von KI im Gesundheitswesen sicherzustellen.

• Verwendung von Gesundheitsdaten, die alle Bevölkerungsgruppen, einschließlich Minderheiten und benachteiligter Gruppen, repräsentieren.
• Ermutigung der Herausgeber von Datensätzen, die Verzerrungen und Einschränkungen ihrer Daten offenzulegen.
• Bereitstellung von Werkzeugen für Entwickler zur Bewertung der Eignung von Datensätzen für die KI-Entwicklung.
• Darlegung von Methoden zur gründlichen Überprüfung von KI-Systemen auf Vorurteile in verschiedenen Bevölkerungssegmenten.

Zu verstehen, dass Daten voreingenommen sein können, ist nur der erste Schritt. KI-Technologien müssen gründlich getestet werden, um sicherzustellen, dass sie für verschiedene Bevölkerungsgruppen gut funktionieren. Dies erfordert eine Änderung bei der Erfassung und Überprüfung von Datensätzen. Dr. Xiao Liu, der die Studie leitet, betont, dass es nicht ausreicht, Datensätze einfach zu verbessern. Eine grundlegende Veränderung in der Wahrnehmung und Nutzung von Gesundheitsdaten ist notwendig.

Lesen Sie auch:

Gestern · 19:50

Neuer Durchbruch: Enthüllung des Schutzmantels der Influenza zur Entwicklung breitgefächerter Heilmittel

Die Initiative betont die Bedeutung der öffentlichen Mitbestimmung bei der Schaffung von ethischer KI. Patientenvertreter schlagen vor, dass die Einbeziehung öffentlicher Meinungen den Entwicklungsprozess inkludierender gestalten kann. Dadurch wird die Verbindung zwischen Wissenschaftlern und den Personen, die von KI-Technologien betroffen sind, verbessert und das Risiko verringert, wichtige Probleme zu übersehen oder unbeabsichtigten Schaden zu verursachen.

Wichtige Gesundheitsorganisationen und Regulierungsbehörden weltweit betonen die dringende Notwendigkeit, das Thema KI-Voreingenommenheit global anzugehen. Durch die Festlegung von Standards wollen sie Ungleichheiten in den Griff bekommen, bevor KI-Werkzeuge in Gesundheitssystemen weit verbreitet sind. Die STANDING Together-Richtlinien bieten einen Plan für die Entwicklung verantwortungsvoller und gerechter medizinischer KI, um sicherzustellen, dass die Vorteile der Technologie gleichmäßig verteilt werden und das Vertrauen in verschiedenen Gemeinschaften gestärkt wird.