Smarta IoT-enheter med kantoptimerade neurala nätverk för avancerad prestanda och lägre energiförbrukning
StockholmArtificiell intelligens (AI) och sakernas internet (IoT) utvecklas snabbt och kan kombineras för att förbättra teknologin. En utmaning är att implementera AI på IoT-enheter eftersom de ofta har begränsad processorkraft och minne. Artificiella neurala nätverk (ANN) är effektiva men kräver mycket resurser. Forskare professor Takayuki Kawahara och Mr. Yuya Fujiwara vid Tokyo University of Science utvecklar binariserade neurala nätverk (BNN) som gör det möjligt att använda AI på dessa enheter effektivt utan att försämra prestandan.
BNN:er är skapta för att minska datorkraften genom att använda binära vikter och aktiveringar. Kawahara och Fujiwara har vidareutvecklat detta med en ny träningsmetod som de kallar Ternarized Gradient BNN (TGBNN), vilken utnyttjar tre nivåer av gradienter under träning, samtidigt som vikterna och aktiveringarna förblir binära. Denna teknik är nyskapande av flera skäl.
- Den använder avancerade STE-tekniker för att förbättra hanteringen av gradient backpropagering.
- Den nyttjar magnettunnelövergångsbaserade XNOR-logikportar för mer effektiv lagring i minnen.
- Den inför en probabilistisk metod för uppdatering av parametrar och använder MRAM-celler för att effektivt hantera data.
Dessa teknologiska framsteg gör kantapparater mer intelligenta och förbättrar deras förmåga att lära sig och anpassa sig över tid. Den computing-in-memory (CiM)-lösning de har utvecklat använder mindre kretsutrymme och energi. Den utför beräkningar direkt i minneskomponenterna istället för att använda traditionella processorer. MRAM-celler, som använder spin-orbit-torque och spänningskontrollerad magnetisk anisotropi, erbjuder ett mer kompakt och energieffektivt sätt att lagra och uppdatera data.
Denna innovation har stor betydelse. IoT-enheter kan arbeta självständigt och utföra komplexa uppgifter som bildigenkänning eller dataanalys utan att alltid behöva molnet. Detta kan vara till hjälp inom områden som sjukvård, där bärbara enheter kan ge användarna omedelbar återkoppling, eller inom hemautomation, där smarta hem blir mer intuitiva och lyhörda.
Kombinationen av AI och edge-teknik blir allt viktigare när IoT-systemen växer. Kawaharas och Fujiwaras forskning visar hur framtidens edge-enheter kan aktivt delta i smarta nätverk istället för att bara samla in data. Deras arbete är ett viktigt steg mot att skapa en effektiv och hållbar IoT-värld där enheter fungerar smidigt tillsammans.
Studien publiceras här:
http://dx.doi.org/10.1109/ACCESS.2024.3476417och dess officiella citering - inklusive författare och tidskrift - är
Yuya Fujiwara, Takayuki Kawahara. TGBNN: Training Algorithm of Binarized Neural Network With Ternary Gradients for MRAM-Based Computing-in-Memory Architecture. IEEE Access, 2024; 12: 150962 DOI: 10.1109/ACCESS.2024.3476417Dela den här artikeln