새로운 반도체 기술, ECRAM 장치로 AI 훈련 정확도 및 성능 향상
SeoulPOSTECH과 고려대학교의 연구팀이 아날로그 하드웨어를 활용하여 AI 컴퓨팅을 향상시키는 데 성공했습니다. 이들은 전자 화학적 랜덤 액세스 메모리 (ECRAM) 장치가 AI 성능을 크게 향상시킬 수 있음을 보여주었습니다. 이번 발전은 전통적인 디지털 하드웨어, 즉 CPU와 GPU가 AI 응용 프로그램 확장에 어려움을 겪는 한계를 극복하는 것을 목표로 하고 있습니다.
새로운 기술의 주요 특징은 다음과 같습니다:
- 아날로그 하드웨어는 병렬 처리를 위한 교차 포인트 배열 구조를 사용합니다.
- ECRAM 장치는 이온 이동을 통해 전기 전도성을 관리합니다.
- 이 기술은 저전력 작동을 위한 삼단자 구조를 갖추고 있습니다.
- 연구팀은 64×64 ECRAM 배열을 성공적으로 제작했습니다.
Science Advances에 발표된 연구에 따르면, ECRAM 장치를 64×64 배열로 구성함으로써 뛰어난 전기적 성능과 스위칭 능력을 갖추게 되었습니다. 또한, 높은 성공률과 일관성을 보였습니다. 이는 이전의 배열이 10×10에 불과했던 점을 고려할 때 중요한 성과입니다. 티키타카 알고리즘이라는 정교한 학습 방법을 사용하여 AI 신경망의 학습 정확도를 향상시켰습니다.
이 연구에서 중요한 부분 중 하나는 하드웨어가 '가중치'를 유지하는 방식입니다. 즉, 신경망을 과도하게 부담시키지 않으면서 정확한 학습을 지속합니다. 기존의 반도체 메모리와 달리, ECRAM은 데이터를 읽고 쓰는 세 가지 시스템을 갖추고 있어 더 효율적이며 전력 소모가 적습니다. 이는 에너지 절약이 매우 중요한 상업적 용도에서 특히 중요합니다.
이 연구는 AI 계산에 큰 영향을 미칠 수 있습니다. 아날로그 하드웨어는 병렬 처리가 가능하며, 이는 디지털 하드웨어가 효과적으로 수행하기 어려운 부분입니다. 이는 지속적인 데이터 처리가 필요한 작업에 특히 유리합니다. 이러한 방식은 생성 AI뿐만 아니라 더 효율적인 머신 러닝 모델을 포함한 다양한 AI 분야에서 개선을 가져올 수 있습니다.
산업기술 및 반도체 발전을 위한 이 연구의 중요성을 강조하는 것은 산업통상자원부와 다른 기관들의 지원입니다. AI를 위한 아날로그 하드웨어는 AI 계산 작업을 보다 확장 가능하고 효율적으로 처리할 수 있는 방법을 제공함으로써 산업에 변혁을 가져올 수 있습니다.
대규모로 성공적으로 활용된 ECRAM 장치는 상업적 사용에 대한 가능성을 보여주며, 아날로그 하드웨어가 AI 훈련과 작업에 있어 디지털 솔루션보다 다양한 이점을 제공할 수 있음을 시사합니다. 이 발전은 기술을 진보시킬 뿐만 아니라 AI 능력을 효율적으로 향상시킬 수 있는 새로운 방법을 창출합니다.
연구는 여기에서 발표되었습니다:
http://dx.doi.org/10.1126/sciadv.adl3350및 그 공식 인용 - 저자 및 저널 포함 - 다음과 같습니다
Kyungmi Noh, Hyunjeong Kwak, Jeonghoon Son, Seungkun Kim, Minseong Um, Minil Kang, Doyoon Kim, Wonjae Ji, Junyong Lee, HwiJeong Jo, Jiyong Woo, Hyung-Min Lee, Seyoung Kim. Retention-aware zero-shifting technique for Tiki-Taka algorithm-based analog deep learning accelerator. Science Advances, 2024; 10 (24) DOI: 10.1126/sciadv.adl33502024년 11월 20일 · 오후 12:56
촉감의 혁신: AI와 양자기술로 표면 감지의 새로운 시대 열다
2024년 11월 19일 · 오후 8:02
모바일 친화적 AI: CALDERA로 대형 언어 모델을 가볍게 압축하기
2024년 11월 16일 · 오후 12:49
자율주행차 신뢰 혁신: 광주 팀의 설명 가능한 AI 연구 및 중요 전략 공개
이 기사 공유