엣지 최적화 신경망으로 스마트 IoT 실현: 저전력 고성능 AI 가능성 탐구
Seoul인공지능(AI)과 사물인터넷(IoT)은 빠르게 발전하고 있으며, 이 둘이 협력하면 기술을 한층 더 발전시킬 수 있습니다. 하지만 IoT 기기에서 AI를 사용하는 것은 도전적입니다. 이는 이러한 기기가 처리 능력과 메모리가 제한적이기 때문입니다. 인공신경망(ANN)은 효과적이지만 많은 자원을 필요로 합니다. 도쿄 과학대학의 Professor 타카유키 카와하라와 Mr. 유야 후지와라는 이러한 문제를 해결하기 위해 성능을 유지하면서도 효율적으로 사용할 수 있는 이진화 신경망(BNN)을 연구하고 있습니다.
BNN은 이진 가중치와 활성화를 사용하여 계산 능력을 줄이도록 설계되었습니다. 카와하라와 후지와라는 새로운 훈련 방법인 삼진화 그래디언트 BNN (TGBNN)을 도입하여 이를 개선했습니다. TGBNN은 훈련 과정에서 3단계 그래디언트를 사용하면서도 가중치와 활성화를 이진으로 유지합니다. 이 기술은 여러 가지 혁신적인 이유로 주목받고 있습니다.
- 향상된 직접 추정 기법(STE)을 활용하여 더 나은 그래디언트 역전파 제어를 제공합니다.
- 자기 터널 접합 기반의 XNOR 논리 게이트를 사용하여 메모리 저장 효율을 높입니다.
- 확률적 파라미터 업데이트 방식을 채택하여 MRAM 셀을 통해 데이터를 더욱 효과적으로 관리합니다.
이러한 기술 발전은 엣지 디바이스를 더 똑똑하게 만들고 학습 및 적응 능력을 향상시킵니다. 그들이 개발한 컴퓨팅 인 메모리(CiM) 시스템은 회로 공간과 에너지를 덜 사용합니다. 전통적인 프로세서를 사용하지 않고 메모리 구성요소 내에서 직접 계산을 수행합니다. 스핀-궤도 토크와 전압 제어 자기 이방성을 활용하는 MRAM 셀은 데이터를 더 작고 효율적으로 저장 및 업데이트할 수 있는 방법을 제공합니다.
이 혁신은 큰 영향을 미칩니다. IoT 기기는 자체적으로 작동하며, 이미지 인식이나 데이터 분석과 같은 복잡한 작업을 클라우드에 의존하지 않고 수행할 수 있습니다. 이는 웨어러블 기기가 사용자에게 즉각적인 피드백을 제공할 수 있는 헬스케어 분야나 스마트 홈이 더욱 직관적이고 반응성을 높일 수 있는 가정 자동화 분야에서 유용할 수 있습니다.
사물인터넷(IoT) 시스템이 발전하며 AI와 엣지 기술의 결합이 중요해지고 있습니다. 가와하라와 후지와라의 연구는 미래의 엣지 장치들이 데이터를 수집하는 것에 그치지 않고, 스마트 네트워크에서 적극적으로 참여할 수 있음을 보여줍니다. 이들의 연구는 효율적이고 지속 가능한 IoT 세계를 구축하기 위한 중요한 진전입니다.
연구는 여기에서 발표되었습니다:
http://dx.doi.org/10.1109/ACCESS.2024.3476417및 그 공식 인용 - 저자 및 저널 포함 - 다음과 같습니다
Yuya Fujiwara, Takayuki Kawahara. TGBNN: Training Algorithm of Binarized Neural Network With Ternary Gradients for MRAM-Based Computing-in-Memory Architecture. IEEE Access, 2024; 12: 150962 DOI: 10.1109/ACCESS.2024.34764172024년 11월 20일 · 오후 12:56
촉감의 혁신: AI와 양자기술로 표면 감지의 새로운 시대 열다
2024년 11월 19일 · 오후 8:02
모바일 친화적 AI: CALDERA로 대형 언어 모델을 가볍게 압축하기
2024년 11월 16일 · 오후 12:49
자율주행차 신뢰 혁신: 광주 팀의 설명 가능한 AI 연구 및 중요 전략 공개
이 기사 공유