Nouvelle étude : les « hallucinations » de l'IA réduites grâce à une meilleure détection d'anomalies essentielles

ParisDes scientifiques de l'école d'informatique de Bristol ont réalisé des avancées significatives pour corriger les erreurs de l'IA et améliorer la détection d'anomalies dans les systèmes publics essentiels. Ces améliorations sont cruciales pour rendre les systèmes de gestion et de contrôle des services publics clés plus fiables.

Évolutions clés à venir :

• Détection d'anomalies améliorée : De nouveaux algorithmes réduisent considérablement les temps d'entraînement et accélèrent la détection sans perdre en efficacité.
• Intégration de l'IA explicable (XAI) : Les modèles XAI font maintenant partie du système, aidant les opérateurs humains à comprendre les décisions de l'IA.
• Décisions centrées sur l'humain : La supervision humaine est priorisée dans les décisions pilotées par l'IA, assurant ainsi la responsabilité.
• Développement d'un système de notation : Un nouveau système de notation pour évaluer les explications de l'IA est en cours de création pour aider les opérateurs à mesurer la fiabilité des aperçus de l'IA.

Les nouvelles avancées profitent grandement aux infrastructures critiques telles que les stations d'épuration et les réseaux électriques. Ces installations nécessitent une détection rapide et claire des problèmes pour éviter les interruptions. Les modèles traditionnels d'intelligence artificielle demandent un long entraînement et leurs résultats sont souvent difficiles à comprendre. Les nouveaux algorithmes sont plus performants car ils fonctionnent plus rapidement et sont plus faciles à interpréter.

Des chercheurs de l’Université de Technologie et de Design de Singapour ont testé leurs algorithmes sur la plateforme SWaT (Secure Water Treatment). Grâce à ces données réelles de traitement de l'eau, ils ont pu valider leurs modèles. Les résultats se sont avérés positifs, démontrant que les nouveaux modèles d'IA pouvaient détecter rapidement les anomalies avec une grande précision.

L'utilisation des modèles XAI transforme tout. Dans de nombreux domaines, l'IA prend des décisions sans en fournir les explications, ce qui peut susciter de la méfiance et des réticences chez les utilisateurs. Grâce à l'XAI, les utilisateurs peuvent comprendre pourquoi l'IA a fait une certaine recommandation, ce qui renforce la confiance et rend le système plus transparent et plus facile à vérifier.

Lisez aussi:

Aujourd'hui · 12:41

La transition difficile d'OpenAI vers une entité à but lucratif

Dr. Sarad Venugopalan a souligné que les machines excellent dans l'exécution rapide de tâches répétitives avec peu d'erreurs, mais que l'utilisation de l'automatisation comporte aussi des défis. Il est crucial que les recommandations de l'IA soient transparentes, afin que les utilisateurs puissent prendre des décisions éclairées. Cela est particulièrement essentiel dans les domaines où les décisions basées sur l'IA engagent la responsabilité humaine.

Nous prévoyons également de mettre au point un système de notation qui évaluera la précision et la confiance de l'IA dans ses explications. Cela permettra aux utilisateurs de juger de la fiabilité des analyses de l'IA avant de prendre des décisions basées sur celles-ci.

L'équipe du Dr Sridhar Adepu souligne l'importance de développer une IA compréhensible par les humains. Ils cherchent à maintenir la participation des opérateurs humains dans la prise de décision afin de renforcer l'efficacité et la fiabilité des outils de détection de problèmes dans des systèmes critiques.

Ces avancées se concentrent sur l'amélioration de l'efficacité et de la rapidité de l'IA dans l'identification des problèmes. Elles visent également à garantir que l'IA puisse interagir harmonieusement avec les humains, en préservant la sûreté et la fiabilité des systèmes critiques.