Neue Studie: KI-Fehlwahrnehmungen reduziert durch verbesserte Anomalieerkennung in kritischen Infrastrukturen.

BerlinWissenschaftler der School of Computer Science in Bristol haben bedeutende Fortschritte bei der Korrektur von KI-Fehlern und der Verbesserung der Erkennung von unerwarteten Problemen in wesentlichen öffentlichen Systemen gemacht. Diese Verbesserungen sind entscheidend, um die Zuverlässigkeit der Systeme, die wichtige öffentliche Dienstleistungen überwachen und steuern, zu erhöhen.

Wichtige Entwicklungen beinhalten:

• Verbesserte Anomalieerkennung: Neue Algorithmen verkürzen die Trainingszeiten erheblich und beschleunigen die Erkennung, ohne die Effizienz zu beeinträchtigen.
• Integration von Erklärbarer KI (XAI): XAI-Modelle sind jetzt Teil des Systems und unterstützen menschliche Bediener dabei, KI-Entscheidungen nachzuvollziehen.
• Menschzentrierte Entscheidungsfindung: Menschliche Aufsicht wird bei KI-gesteuerten Entscheidungen priorisiert, um Verantwortlichkeit zu gewährleisten.
• Entwicklung eines Bewertungssystems: Es wird ein neues Bewertungssystem entwickelt, um die Erklärungen der KI zu beurteilen und den Bedienern die Zuverlässigkeit der KI-Einsichten einzuschätzen.

Neue Fortschritte kommen wichtiger Infrastruktur wie Wasseraufbereitungsanlagen und Stromnetzen zugute. Diese Einrichtungen benötigen eine schnelle und klare Problemidentifikation, um Unterbrechungen zu vermeiden. Traditionelle KI-Modelle erfordern viel Training und sind oft schwer verständlich. Die neuen Algorithmen sind effizienter, da sie schneller arbeiten und leichter zu interpretieren sind.

Wissenschaftler der Singapore University of Technology and Design überprüften ihre Algorithmen mit dem SWaT-Testbett (Sicheres Wasseraufbereitungs-System). Mit diesen echten Wasserbehandlungsdaten konnten sie ihre Modelle validieren. Die Ergebnisse waren vielversprechend und zeigten, dass die neuen KI-Systeme Anomalien schnell und präzise erkennen konnten.

Der Einsatz von XAI-Modellen verändert alles. In vielen Bereichen trifft KI Entscheidungen, ohne sie zu erklären, was zu Misstrauen und Zurückhaltung bei den Nutzern führen kann. Mit XAI können die Nutzer nachvollziehen, warum die KI eine bestimmte Empfehlung abgegeben hat, was Vertrauen schafft und das System transparenter und einfacher überprüfbar macht.

Lesen Sie auch:

Heute · 03:00

Patagonien unter Druck: Gletscherschutz durch Emissionsreduktion, um Schnee statt Regen zu sichern

Maschinen erledigen wiederholende Aufgaben schnell und fehlerarm, erklärte Dr. Sarad Venugopalan, doch auch der Einsatz von Automatisierung bringt Herausforderungen mit sich. Es ist essenziell, dass die Empfehlungen von KI nachvollziehbar sind, damit Menschen fundierte Entscheidungen treffen können. Dies hat besondere Bedeutung in Bereichen, in denen Menschen für die durch KI unterstützten Entscheidungen verantwortlich sind.

Wir planen auch die Entwicklung eines Bewertungssystems, das zeigt, wie genau und zuverlässig die KI in ihren Erklärungen ist. Dies wird den Nutzern helfen zu erkennen, wie vertrauenswürdig die Einblicke der KI sind, bevor sie auf deren Grundlage Entscheidungen treffen.

Dr. Sridhar Adepus Team betont die Notwendigkeit von verständlicher Künstlicher Intelligenz für Menschen. Ihr Ziel ist es, menschliche Bediener in den Entscheidungsprozess einzubeziehen, um die Effizienz und Zuverlässigkeit von Werkzeugen zur Erkennung von Problemen in kritischen Systemen zu verbessern.

Diese Fortschritte konzentrieren sich darauf, KI schneller und effizienter Probleme erkennen zu lassen. Zudem soll sichergestellt werden, dass KI gut mit Menschen zusammenarbeiten kann, um wichtige Systeme sicher und zuverlässig zu halten.