Slimmere IoT-apparaten met randgeoptimaliseerde neurale netwerken voor efficiënte AI-integratie

AmsterdamKunstmatige intelligentie (AI) en het Internet der Dingen (IoT) ontwikkelen zich razendsnel en kunnen samenwerken om technologie te verbeteren. Het toepassen van AI op IoT-apparaten brengt echter uitdagingen met zich mee omdat deze apparaten vaak weinig rekenkracht en geheugen hebben. Hoewel kunstmatige neurale netwerken (ANNs) effectief zijn, verbruiken ze veel middelen. Onderzoekers Professor Takayuki Kawahara en de heer Yuya Fujiwara van de Tokyo University of Science werken aan binaire neurale netwerken (BNNs) die AI efficiënt op deze apparaten kunnen inzetten zonder in te boeten aan prestaties.

BNN's zijn ontwikkeld om minder rekenkracht te verbruiken door gebruik te maken van binaire gewichten en activaties. Kawahara en Fujiwara hebben dit verder verbeterd met een nieuwe trainingsmethode genaamd Ternarized Gradient BNN (TGBNN), die driestapsgradiënten inzet tijdens de training, terwijl de gewichten en activaties binair blijven. Deze techniek is om verschillende redenen baanbrekend.

• Het maakt gebruik van geavanceerde Straight Through Estimator (STE) technieken voor een verbeterde controle van gradientterugpropagatie.
• Het gebruikt magnetische tunnel junction-gebaseerde XNOR-logische poorten voor efficiëntere geheugensopslag.
• Het hanteert een probabilistische methode voor parameterupdates en gebruikt MRAM-cellen voor een effectiever databeheer.

Deze technologische vooruitgangen maken randapparatuur slimmer en verbeteren hun leer- en aanpassingsvermogen met de tijd. De opzet van computing-in-memory (CiM) die zij hebben ontwikkeld, bespaart ruimte op de circuits en energieverbruik. Het voert berekeningen direct uit in geheugenonderdelen in plaats van traditionele processors te gebruiken. MRAM-cellen, die spin-orbit torque en spanningsgestuurde magnetische anisotropie inzetten, bieden een efficiëntere en compactere manier voor dataopslag en -update.

Lees ook:

28 oktober 2024 · 18:31

Nelson krijgt 18 jaar cel voor AI-misbruik van kinderbeelden.

Deze innovatie heeft een grote invloed. IoT-apparaten kunnen zelfstandig werken en complexe taken uitvoeren, zoals het herkennen van beelden of het analyseren van gegevens, zonder constant de cloud nodig te hebben. Dit kan voordelig zijn in sectoren zoals de gezondheidszorg, waar draagbare apparaten gebruikers direct feedback kunnen geven, of in huisautomatisering, waar slimme woningen intuïtiever en responsiever kunnen worden.

De samensmelting van AI en edge-technologie wordt steeds belangrijker naarmate IoT-systemen groeien. Het werk van Kawahara en Fujiwara illustreert hoe toekomstige edge-apparaten actief kunnen deelnemen aan slimme netwerken, in plaats van enkel data te verzamelen. Hun onderzoek is een cruciale stap richting een efficiënte en duurzame IoT-wereld waarin apparaten naadloos samenwerken.