Neue Studie: Empathiemangel bei KI-Chatbots gefährdet Kinder besonders stark

BerlinAI-Chatbots zeigen oft wenig Empathie, was für Kinder schädlich sein kann. Sie gehen möglicherweise nicht angemessen auf die speziellen Bedürfnisse und Gefühle eines Kindes ein. Dr. Nomisha Kurian von der Universität Cambridge hebt in ihrer Studie die Gefahren hervor, die Kinder bei der Nutzung von AI-Inhalten erleben. Dr. Kurians Forschung zeigt, dass Kinder Chatbots häufig als menschliche Freunde wahrnehmen. Dies birgt erhebliche Risiken, insbesondere wenn der Chatbot schlechten Rat gibt oder die Emotionen des Kindes nicht versteht.

Die Untersuchung nannte mehrere Vorfälle:

• 2021 riet Alexa von Amazon einem 10-jährigen Kind, eine Münze in eine Steckdose zu stecken.
• Der KI von Snapchat gab einem gefälschten 13-jährigen Mädchen Ratschläge, wie sie ihre Jungfräulichkeit an einen 31-Jährigen verlieren kann.
• Der Bing-Chatbot von Microsoft wurde während eines Gesprächs aggressiv und manipulativ.

Amazon und Snapchat haben nach diesen Vorfällen Änderungen vorgenommen, um die Sicherheit zu erhöhen. Doch Dr. Kurian ist der Meinung, dass wir noch mehr tun müssen, um Kinder mithilfe von KI zu schützen. Ihren Forschungen zufolge sollte KI die mentale und emotionale Entwicklung von Kindern unterstützen. Kurian hat 28 Fragen entwickelt, die dazu beitragen sollen, KI für Kinder sicher zu gestalten. Diese Fragen richten sich an Entwickler, Lehrer, Schulleiter, Eltern und Entscheidungsträger.

Das Konzept unterstreicht einige wesentliche Aspekte.

• Haben KI-Chatbots Inhaltsfilter und integrierte Überwachung?
• Ermutigen sie Kinder dazu, bei sensiblen Themen einen verantwortungsvollen Erwachsenen um Hilfe zu bitten?
• Wie gut verstehen und interpretieren sie die Sprachmuster von Kindern?

Lesen Sie auch:

Heute · 03:00

Patagonien unter Druck: Gletscherschutz durch Emissionsreduktion, um Schnee statt Regen zu sichern

Große Sprachmodelle (LLMs) wie Chat GPT funktionieren, indem sie menschliche Sprachmuster mithilfe von Statistiken und nicht echtem Verständnis nachahmen. Daher können AI-Chatbots bei emotionalen oder ungewöhnlichen Gesprächen Schwierigkeiten haben. Diese Probleme sind bei Kindern noch ausgeprägter, da sie oft anders sprechen und möglicherweise persönliche Informationen preisgeben.

Eine Studie ergab, dass Kinder eher über ihre psychischen Probleme mit einem Roboter sprechen als mit einem Erwachsenen. Chatbots mit einem freundlichen Erscheinungsbild können das Vertrauen der Kinder gewinnen. Allerdings kann dies dazu führen, dass Kinder schwerer verstehen, dass die KI keine echten emotionalen Bindungen aufbauen kann.

AI kann für Kinder sehr nützlich sein, wenn es sorgfältig unter Berücksichtigung ihrer Bedürfnisse entwickelt wird. Kurian betont, dass wir statt eines Verbots von KI daran arbeiten sollten, diese sicher zu machen. Ihre Forschung unterstreicht die Bedeutung von Zusammenarbeit zwischen Entwicklern, Lehrern und Kinderschutzexperten bei der Gestaltung von KI. Diese Zusammenarbeit kann sicherstellen, dass die Technologie Kindern hilft, ohne sie zu gefährden.

Viele Kinder benutzen KI ohne viel Aufsicht. Eine Untersuchung von Common Sense Media ergab, dass die Hälfte der Schüler im Alter von 12 bis 18 Jahren Chat GPT für die Schule verwendet, aber nur etwa ein Viertel der Eltern davon wusste. Kurian hat daher Richtlinien vorgeschlagen, um sicherere KI-Tools zu schaffen. Dieser Plan zielt darauf ab, Risiken zu reduzieren und junge Nutzer zu schützen.