Nuevos algoritmos reducen errores de IA y mejoran la detección en infraestructuras críticas

MadridCientíficos de la Escuela de Informática de Bristol han logrado avances significativos en la corrección de errores de la inteligencia artificial y en la detección de problemas inesperados en sistemas públicos esenciales. Estas mejoras son cruciales para aumentar la fiabilidad de los sistemas que supervisan y controlan los servicios públicos clave.

Principales avances incluyen:

• Detección de Anomalías Mejorada: Nuevos algoritmos reducen drásticamente los tiempos de entrenamiento y aceleran la detección sin perder eficiencia.
• Integración de IA Explicable: Los modelos de IA explicable ahora forman parte del sistema, ayudando a los operadores a entender las decisiones de la IA.
• Decisiones Centradas en el Humano: Se prioriza la supervisión humana en las decisiones impulsadas por IA, asegurando la responsabilidad.
• Desarrollo de un Sistema de Puntuación: Se está creando un nuevo sistema de puntuación para evaluar las explicaciones de la IA y ayudar a los operadores a medir la fiabilidad de los conocimientos obtenidos.

Nuevos avances benefician enormemente a infraestructuras críticas como plantas de tratamiento de agua y redes eléctricas. Estas instalaciones necesitan una detección rápida y clara de problemas para evitar interrupciones. Los modelos tradicionales de IA requieren mucho entrenamiento y sus resultados suelen ser difíciles de interpretar. Los nuevos algoritmos son mejores porque funcionan más rápido y son más fáciles de entender.

Investigadores de la Universidad de Tecnología y Diseño de Singapur pusieron a prueba sus algoritmos utilizando la plataforma SWaT (Tratamiento Seguro de Agua). Estos datos reales de tratamiento de agua les permitieron verificar sus modelos. Los resultados fueron positivos, demostrando que los nuevos modelos de inteligencia artificial pueden detectar anomalías de manera rápida y precisa.

El uso de modelos XAI lo transforma todo. En muchos sectores, la IA toma decisiones sin dar explicaciones, lo que puede generar desconfianza y dudas en los usuarios. Con XAI, los usuarios pueden entender por qué la IA ha hecho una recomendación específica, lo que aumenta la confianza y hace que el sistema sea más transparente y fácil de verificar.

Lea también:

Hoy · 7:41

La desafiante transición de OpenAI a entidad con fines de lucro

El Dr. Sarad Venugopalan comentó que las máquinas son eficientes para realizar tareas repetitivas rápidamente y con pocos errores, pero la automatización también presenta inconvenientes. Es fundamental que las recomendaciones de la inteligencia artificial sean claras para que las personas puedan tomar decisiones informadas basadas en ellas. Esto es especialmente crucial en áreas donde las personas son responsables de las decisiones basadas en la IA.

También tenemos planes de desarrollar un sistema de puntuación que mostrará qué tan precisas y seguras son las explicaciones de la IA. Esto ayudará a las personas a evaluar la fiabilidad de las percepciones de la IA antes de tomar decisiones basadas en ellas.

El equipo del Dr. Sridhar Adepu subraya la importancia de desarrollar una IA comprensible para las personas. Su meta es mantener a los operadores humanos involucrados en la toma de decisiones para mejorar la eficacia y la fiabilidad de las herramientas que detectan problemas en sistemas críticos.

Estos avances se centran en mejorar la capacidad de la IA para identificar problemas de manera rápida y eficiente. Además, buscan garantizar que la IA pueda colaborar adecuadamente con las personas, manteniendo sistemas importantes seguros y confiables.