Inteligentniejszy IoT: optymalizowane sieci neuronowe dla zaawansowanej analizy na urządzeniach brzegowych
WarsawSztuczna inteligencja (SI) i Internet Rzeczy (IoT) rozwijają się dynamicznie, a ich współdziałanie może znacząco udoskonalić nowoczesną technologię. Wykorzystanie SI w urządzeniach IoT jest jednak trudne, ponieważ te urządzenia dysponują ograniczoną mocą obliczeniową i pamięcią. Sztuczne sieci neuronowe (ANN) są skuteczne, lecz wymagają dużych zasobów. Naukowcy, profesor Takayuki Kawahara i pan Yuya Fujiwara z Tokyo University of Science, pracują nad binarizowanymi sieciami neuronowymi (BNN), które umożliwiają efektywne wykorzystanie SI na tych urządzeniach bez pogorszenia ich wydajności.
BNN zostały zaprojektowane tak, aby zużywać mniej mocy obliczeniowej dzięki zastosowaniu binarnych wag i aktywacji. Kawahara i Fujiwara udoskonalili ten koncept poprzez wprowadzenie nowej metody treningowej o nazwie Ternaryzowany Gradient BNN (TGBNN), która wykorzystuje trójpoziomowe gradienty podczas uczenia, jednocześnie utrzymując wagi i aktywacje binarne. Technika ta jest innowacyjna z wielu powodów.
- Wykorzystuje zaawansowane techniki Estymatora Przepływu Bezpośredniego (STE) w celu lepszej kontroli propagacji gradientu wstecznego.
- Używa bramek logicznych XNOR opartych na złączach tunelowych magnetycznych dla bardziej efektywnego przechowywania danych.
- Przyjmuje probabilistyczne podejście do aktualizacji parametrów, korzystając z komórek MRAM do efektywniejszego zarządzania danymi.
Te zaawansowane technologie sprawiają, że urządzenia brzegowe stają się inteligentniejsze i zdolne do nauki oraz adaptacji. Stworzone rozwiązanie obliczeń w pamięci (CiM) zużywa mniej przestrzeni na układy i energii. Przeprowadza obliczenia bezpośrednio w komponentach pamięci, zamiast korzystać z tradycyjnych procesorów. Komórki MRAM, wykorzystujące moment obrotowy orbitalny spinu i napięciem kontrolowaną anizotropię magnetyczną, oferują kompaktowy i energooszczędny sposób przechowywania i aktualizowania danych.
Innowacja ta ma znaczący wpływ. Urządzenia IoT mogą działać samodzielnie, wykonując skomplikowane zadania, takie jak rozpoznawanie obrazów czy analiza danych, bez ciągłej potrzeby korzystania z chmury. Może to przynieść korzyści w obszarach takich jak opieka zdrowotna, gdzie urządzenia noszone przez użytkowników mogą zapewniać im natychmiastowe informacje zwrotne, czy w automatyce domowej, gdzie inteligentne domy staną się bardziej intuicyjne i responsywne.
Połączenie technologii AI i edge ma kluczowe znaczenie w miarę rozwoju systemów IoT. Prace Kawahary i Fujiwary ilustrują, jak przyszłe urządzenia edge mogą aktywnie uczestniczyć w inteligentnych sieciach, a nie tylko zbierać dane. Ich badania stanowią istotny krok w kierunku stworzenia wydajnego i zrównoważonego świata IoT, gdzie urządzenia działają w pełnej harmonii.
Badanie jest publikowane tutaj:
http://dx.doi.org/10.1109/ACCESS.2024.3476417i jego oficjalne cytowanie - w tym autorzy i czasopismo - to
Yuya Fujiwara, Takayuki Kawahara. TGBNN: Training Algorithm of Binarized Neural Network With Ternary Gradients for MRAM-Based Computing-in-Memory Architecture. IEEE Access, 2024; 12: 150962 DOI: 10.1109/ACCESS.2024.3476417Udostępnij ten artykuł