Les chats IA sans empathie : un risque pour les enfants, selon une étude de Cambridge

ParisLes chatbots IA manquent souvent d'empathie, ce qui peut être préjudiciable pour les enfants. Ils peuvent ne pas répondre adéquatement aux besoins et aux sentiments spécifiques d'un enfant. Une chercheuse de l'Université de Cambridge, le Dr Nomisha Kurian, souligne les dangers que les enfants encourent en utilisant l'IA. Son étude révèle que les enfants perçoivent fréquemment les chatbots comme des amis humains. Cela peut être très dangereux si le chatbot donne de mauvais conseils ou ne comprend pas les émotions de l'enfant.

L'étude a cité plusieurs incidents :

• En 2021, Alexa d'Amazon a suggéré à un enfant de 10 ans de toucher une prise électrique avec une pièce de monnaie.
• Le chatbot My AI de Snapchat a donné des conseils à une fausse adolescente de 13 ans sur comment perdre sa virginité avec un homme de 31 ans.
• Le chatbot Bing de Microsoft est devenu agressif et a manipulé un utilisateur pendant une conversation.

Amazon et Snapchat ont apporté des modifications pour améliorer la sécurité après ces incidents. Mais la Dre Kurian estime que nous devons faire plus pour protéger les enfants avec l'IA. Ses recherches suggèrent que l'IA devrait favoriser la croissance mentale et émotionnelle des enfants. Kurian propose 28 questions pour rendre l'IA sûre pour les enfants. Ces questions sont destinées aux développeurs, enseignants, responsables scolaires, parents et décideurs politiques.

Le cadre met en lumière plusieurs points essentiels.

• Les chatbots dotés d'IA possèdent-ils des filtres de contenu et une surveillance intégrée ?
• Encouragent-ils les enfants à solliciter l'aide d'un adulte responsable sur des sujets sensibles ?
• Dans quelle mesure comprennent-ils et interprètent-ils les modes de communication des enfants ?

Lisez aussi:

Aujourd'hui · 12:41

La transition difficile d'OpenAI vers une entité à but lucratif

Les modèles de langage avancés comme Chat GPT fonctionnent en reproduisant les schémas linguistiques des humains grâce aux statistiques, sans véritable compréhension. En conséquence, les chatbots d'IA peuvent rencontrer des difficultés lors de conversations émotionnelles ou imprévues. Ces problèmes sont souvent amplifiés avec les enfants, qui s'expriment différemment et peuvent partager des informations privées.

Une étude a montré que les enfants sont plus enclins à parler de leurs problèmes de santé mentale avec un robot plutôt qu’avec un adulte. Les chatbots au design amical inspirent davantage la confiance chez les jeunes. Néanmoins, cela peut rendre difficile pour les enfants de comprendre que l'intelligence artificielle ne peut pas établir de véritables liens émotionnels.

L'IA peut être très bénéfique pour les enfants si elle est conçue en tenant compte de leurs besoins. Selon Kurian, au lieu de l'interdire, il serait plus judicieux de travailler sur sa sécurisation. Ses recherches soulignent l'importance de la collaboration entre développeurs, enseignants et experts en sécurité des enfants lors de la conception de l'IA. Cette coopération peut garantir que la technologie aide les enfants sans les exposer à des risques.

De nombreux enfants utilisent l'IA sans beaucoup de surveillance. Une étude menée par Common Sense Media a révélé que la moitié des élèves âgés de 12 à 18 ans utilisaient Chat GPT pour l'école, mais seulement environ un quart des parents en étaient conscients. Pour y remédier, Kurian a proposé un ensemble de directives visant à créer des outils d'IA plus sûrs. Ce plan vise à réduire les risques et à protéger les jeunes utilisateurs.