새 연구: AI ‘환각’ 억제, 중요한 기반시설에서 이상 탐지 능력 향상

Seoul브리스톨 대학의 컴퓨터 과학부 연구진이 AI 오류를 수정하고 중요한 공공 시스템에서 예기치 않은 문제를 탐지하는 데 있어 중요한 진전을 이루었습니다. 이러한 개선은 주요 공공 서비스를 관리하고 통제하는 시스템의 신뢰성을 높이는 데 필수적입니다.

주요 발전 사항에는 다음이 포함됩니다:

• 향상된 이상 탐지: 새로운 알고리즘은 학습 시간을 크게 줄이고 효율성을 유지하면서 탐지 속도를 가속화합니다.
• 설명 가능한 AI(XAI) 통합: XAI 모델이 시스템에 통합되어 인간 운영자가 AI 결정 과정을 이해할 수 있도록 돕습니다.
• 인간 중심의 의사 결정: AI 기반 결정에서 인간의 감독을 우선시하여 책임성을 보장합니다.
• 평가 시스템 개발: AI 설명의 신뢰성을 평가할 수 있는 새로운 평가 시스템이 개발되고 있어 운영자가 AI 통찰력을 보다 잘 파악할 수 있도록 지원합니다.

최신 기술 발전은 수처리 시설과 전력망과 같은 필수 인프라에 많은 이점을 제공합니다. 이러한 시설들은 중단을 피하기 위해 문제를 신속하고 명확하게 감지해야 합니다. 전통적인 AI 모델은 많은 교육이 필요하고 결과를 이해하기 어려운 경우가 많습니다. 새로운 알고리즘은 더 빠르게 작동하고 해석이 쉬워서 더 나은 성능을 발휘합니다.

싱가포르 기술디자인대학교의 연구팀은 그들의 알고리즘을 SWaT(안전한 수처리) 테스트베드를 이용해 시험했습니다. 이 실제 수처리 데이터를 통해 모델을 검증한 결과, 새로운 AI 모델이 높은 정확도로 빠르게 이상 징후를 감지할 수 있다는 긍정적인 결과를 얻었습니다.

XAI 모델을 사용하면 모든 것이 변하게 됩니다. 많은 분야에서 AI는 이유를 설명하지 않고 결정을 내리기 때문에 사람들이 의심하게 되어 사용을 망설일 수 있습니다. 그러나 XAI를 통해 사용자는 AI가 특정 권고를 내린 이유를 이해할 수 있으며, 이는 신뢰를 쌓고 시스템을 더 명확하고 쉽게 검토할 수 있게 만듭니다.

더 읽기:

오늘 · 오전 7:41

OpenAI의 수익기업 전환에 따른 도전 과제

사라드 베누고팔란 박사는 기계가 동일한 작업을 신속하게 수행하며 실수도 적게 하는 데 탁월하다고 말했습니다. 하지만 자동화에는 문제점도 존재합니다. AI의 추천이 명확해야 사람들이 그에 기반해 올바른 결정을 내릴 수 있습니다. 특히 인공지능을 활용한 결정에 대해 사람들이 책임지는 영역에서는 이것이 매우 중요합니다.

우리는 또한 AI가 제공하는 설명의 정확성과 신뢰도를 나타내는 점수 체계를 개발할 계획입니다. 이는 사람들이 AI의 통찰력을 신뢰하고 행동에 옮길지 판단하는 데 도움을 줄 것입니다.

스리다르 아데푸 박사 팀은 사람들이 이해할 수 있는 인공지능의 필요성을 강조하고 있습니다. 이들은 중요한 시스템의 문제를 감지하는 도구의 효과성과 신뢰성을 높이기 위해 인간 운영자가 의사 결정에 참여하도록 하는 것을 목표로 하고 있습니다.

이러한 발전은 AI가 문제를 빠르고 효율적으로 찾아내는 능력을 향상시키는 데 중점을 두고 있습니다. 또한, AI가 인간과 잘 협력할 수 있도록 하여 중요한 시스템을 안전하고 신뢰할 수 있게 유지하는 것을 목표로 하고 있습니다.