Innowacyjna technologia półprzewodnikowa ECRAM zwiększa efektywność i dokładność w treningu sztucznej inteligencji.
WarsawZespół badawczy z POSTECH i Uniwersytetu Korei ulepszył obliczenia AI przy użyciu sprzętu analogowego. Udowodnili, że urządzenia Electrochemical Random Access Memory (ECRAM) mogą zwiększyć wydajność sztucznej inteligencji. To osiągnięcie ma na celu pokonanie ograniczeń tradycyjnego sprzętu cyfrowego, takiego jak procesory CPU i GPU, które mają trudności z skalowaniem aplikacji AI.
Oto kluczowe cechy nowej technologii:
- Sprzęt analogowy wykorzystuje strukturę matrycy krzyżowej do przetwarzania równoległego.
- Urządzenia ECRAM regulują przewodnictwo elektryczne za pomocą ruchu jonów.
- Technologia charakteryzuje się trójkońcowym układem, co pozwala na oszczędność energii.
- Zespół badawczy zdołał stworzyć matrycę ECRAM o wymiarach 64×64.
Badania opublikowane w Science Advances wskazują, że urządzenia ECRAM ułożone w siatce 64×64 charakteryzują się doskonałymi właściwościami elektrycznymi i zdolnościami przełączania. Wykazały również wysokie wskaźniki skuteczności oraz spójność działania. Jest to istotne, ponieważ wcześniejsze układy miały jedynie rozmiar 10×10. Dzięki zastosowaniu zaawansowanego algorytmu Tiki-Taka poprawiono dokładność w szkoleniu sieci neuronowych AI.
Jednym z kluczowych aspektów tych badań jest sposób, w jaki sprzęt zachowuje "wagę", co oznacza, że potrafi uczyć się precyzyjnie, nie przeładowując sieci neuronowej. W przeciwieństwie do zwykłej pamięci półprzewodnikowej, trójczęściowy system ECRAM do odczytu i zapisu danych jest bardziej wydajny i zużywa mniej energii. Jest to szczególnie istotne w zastosowaniach komercyjnych, gdzie oszczędność energii ma ogromne znaczenie.
To badanie może znacząco wpłynąć na obliczenia AI. Sprzęt analogowy umożliwia przetwarzanie równoległe, co jest trudniejsze do osiągnięcia za pomocą sprzętu cyfrowego. Jest to szczególnie korzystne w zadaniach wymagających ciągłego przetwarzania danych. Może to prowadzić do udoskonaleń w wielu obszarach AI, w tym generatywnej sztucznej inteligencji i bardziej wydajnych modelach uczenia maszynowego.
Wsparcie ze strony Ministerstwa Handlu, Przemysłu i Energii oraz innych grup wskazuje na znaczenie tych badań dla rozwoju technologii przemysłowej i półprzewodników. Analogowe układy sprzętowe zaprojektowane do AI mogą zrewolucjonizować branżę, oferując bardziej skalowalny i efektywny sposób przetwarzania obliczeń związanych ze sztuczną inteligencją.
Udane zastosowanie urządzeń ECRAM na dużą skalę demonstruje ich potencjał do komercyjnego wykorzystania, sugerując, że sprzęt analogowy może przynosić korzyści w porównaniu do rozwiązań cyfrowych w szkoleniu AI i realizacji zadań. Ten postęp technologiczny nie tylko posuwa naprzód innowacje, ale także wprowadza nowe sposoby na efektywne zwiększenie możliwości sztucznej inteligencji.
Badanie jest publikowane tutaj:
http://dx.doi.org/10.1126/sciadv.adl3350i jego oficjalne cytowanie - w tym autorzy i czasopismo - to
Kyungmi Noh, Hyunjeong Kwak, Jeonghoon Son, Seungkun Kim, Minseong Um, Minil Kang, Doyoon Kim, Wonjae Ji, Junyong Lee, HwiJeong Jo, Jiyong Woo, Hyung-Min Lee, Seyoung Kim. Retention-aware zero-shifting technique for Tiki-Taka algorithm-based analog deep learning accelerator. Science Advances, 2024; 10 (24) DOI: 10.1126/sciadv.adl3350Udostępnij ten artykuł