Wann wird es gefährlich? Regulierer definieren KI-Grenzwerte

BerlinRegulierungsbehörden versuchen herauszufinden, ab wann ein KI-System gefährlich wird. Ein wesentlicher Weg dies zu beurteilen, ist die Betrachtung seiner Rechenleistung, gemessen in Floating-Point-Operationen pro Sekunde (Flops). KI-Systeme, die 10 hoch 26 Flops—also 100 Septillionen Berechnungen pro Sekunde—erreichen, müssen nun der US-Regierung gemeldet werden. Diese enorme Rechenkapazität könnte ernsthafte Bedrohungen wie die Herstellung von Massenvernichtungswaffen oder die Durchführung schwerer Cyberangriffe mit sich bringen.

Zu den wichtigsten regulatorischen Schwellenwerten zählen:

• Ein KI-Modell muss in der Lage sein, 10^26 Rechenoperationen pro Sekunde durchzuführen, um gemeldet zu werden.
• Modelle müssen mindestens 100 Millionen US-Dollar kosten, um entwickelt zu werden.
• Der AI Act der EU setzt die Grenze bei 10^25 Rechenoperationen pro Sekunde.

Einige Kritiker meinen, dass diese Kennzahlen zufällig sein und die Kreativität beeinträchtigen könnten. Sie glauben, dass diese festgesetzten Kriterien kleinere Modelle übersehen, die dennoch sehr fähig und gefährlich sein könnten. Die Informatikerin Sara Hooker weist darauf hin, dass aktuelle Maße wie Flops das potenzielle Risiko einer KI nicht genau widerspiegeln, da viele Entwickler mit weniger Rechenleistung mehr erreichen.

Regierungen stehen vor der Herausforderung, Regeln für KI festzulegen, da sich die Technologie rasant entwickelt und ihre Auswirkungen noch nicht vollständig absehbar sind. Um dem entgegenzuwirken, haben sie vorläufige Vorschriften erlassen, die bei fortschreitender KI-Entwicklung möglicherweise angepasst werden müssen. Obwohl diese Regeln versuchen, das Problem mit klaren Metriken wie Rechenleistung zu bewältigen, können sie nicht jede neue Herausforderung vorhersehen.

Lesen Sie auch:

Heute · 10:31

Koi Nation kämpft um umstrittenes Casino-Projekt in Kalifornien

Neue Modelle könnten weniger Ressourcen verbrauchen, aber dennoch erhebliche gesellschaftliche Auswirkungen haben, weshalb sie sorgfältig reguliert werden müssen. Dies ist umso wichtiger, da die Technologiebranche daran arbeitet, kleinere und effizientere Modelle zu entwickeln, die trotzdem missbraucht werden können. Beispiele wie ChatGPT von OpenAI zeigen, dass solche Werkzeuge zwar nützlich sind, aber immer auf Sicherheit und Ethik überprüft werden müssen.

Physiker Anthony Aguirre und andere Befürworter der Flops-Metrik erkennen ihre Mängel an, glauben aber, dass sie in einer Zeit rasanten technologischen Fortschritts ein grundlegendes Rahmenwerk bietet. Sie sind der Ansicht, dass die neuen Gesetze flexibel sind und mit neuen Informationen angepasst werden können. Kritiker hingegen warnen, dass die ausschließliche Konzentration auf Rechenleistung neue Ideen einschränken oder verborgene Gefahren in scheinbar sicheren Modellen übersehen könnte.

Wir brauchen bessere Methoden zur Regulierung von KI, die sich verändern und anpassen kann. Diese Vorschriften sollten Innovation fördern und gleichzeitig neue Risiken managen. Es geht nicht nur um die Leistungsfähigkeit der KI; wir müssen auch deren gesellschaftliche Auswirkungen und Einsatzkontexte berücksichtigen. Künftige KI-Regelungen werden daher wohl umfassendere Sicherheitsprüfungen und detailliertere Maßnahmen beinhalten.

Die aktuellen Regelungen sind vielleicht nicht perfekt oder dauerhaft, aber sie tragen dazu bei, die komplexe Welt der künstlichen Intelligenz zu steuern. Das Ziel wird wahrscheinlich sein, neue Entwicklungen mit Vorschriften in Einklang zu bringen, um sicherzustellen, dass KI in verschiedenen Bereichen sicher genutzt wird.