Des réseaux de neurones optimisés pour l'edge, révolutionnant l'Internet des objets intelligents
ParisL'intelligence artificielle (IA) et l'Internet des objets (IoT) évoluent rapidement et peuvent travailler ensemble pour améliorer les technologies. Cependant, il est difficile d'utiliser l'IA sur les appareils IoT car ceux-ci manquent de puissance de traitement et de mémoire. Les réseaux de neurones artificiels (RNA) sont efficaces mais demandent beaucoup de ressources. Les chercheurs, le professeur Takayuki Kawahara et M. Yuya Fujiwara de l'Université des Sciences de Tokyo, développent des réseaux de neurones binarisés (BNN) qui permettent d'utiliser l'IA efficacement sur ces appareils sans compromettre la performance.
Les BNN sont conçus pour réduire la consommation de puissance de calcul en utilisant des poids et des activations binaires. Kawahara et Fujiwara ont amélioré ce concept avec une nouvelle méthode d'apprentissage appelée Ternarized Gradient BNN (TGBNN), qui intègre des gradients à trois niveaux durant l'entraînement tout en conservant des poids et des activations binaires. Cette technique est innovante pour plusieurs raisons.
- Il exploite des techniques améliorées de l'estimateur à passage direct pour un meilleur contrôle de la rétropropagation des gradients.
- Il utilise des portes logiques XNOR à jonction tunnel magnétique pour un stockage de mémoire plus efficace.
- Il adopte une approche probabiliste de mise à jour des paramètres, en utilisant des cellules MRAM pour gérer les données de manière plus efficace.
Ces avancées technologiques rendent les appareils périphériques plus intelligents et améliorent leur capacité d'apprentissage et d'adaptation avec le temps. Le système de calcul en mémoire (CiM) qu'ils ont développé occupe moins d'espace et consomme moins d'énergie. Il effectue les calculs directement dans les composants mémoire plutôt que de recourir à des processeurs traditionnels. Les cellules MRAM, utilisant le couple de transfert de spin et l'anisotropie magnétique contrôlée par tension, offrent une méthode pour stocker et mettre à jour les données de manière plus compacte et efficace sur le plan énergétique.
Cette innovation transforme nos vies. Les dispositifs IoT peuvent fonctionner de manière autonome, exécutant des tâches complexes comme la reconnaissance d'images ou l'analyse de données sans dépendre constamment du cloud. Cela pourrait révolutionner des domaines tels que la santé, où les objets connectés portables fournissent un retour immédiat aux utilisateurs, ou l'automatisation domestique, où des maisons intelligentes deviennent plus intuitives et réactives.
L'alliance de l'IA et des technologies edge est cruciale à mesure que les systèmes IoT se développent. Les travaux de Kawahara et Fujiwara illustrent comment les futurs dispositifs edge pourraient jouer un rôle actif dans les réseaux intelligents, plutôt que de se limiter à la collecte de données. Leur recherche représente une avancée déterminante vers un monde IoT efficace et durable, où les appareils collaborent harmonieusement.
L'étude est publiée ici:
http://dx.doi.org/10.1109/ACCESS.2024.3476417et sa citation officielle - y compris les auteurs et la revue - est
Yuya Fujiwara, Takayuki Kawahara. TGBNN: Training Algorithm of Binarized Neural Network With Ternary Gradients for MRAM-Based Computing-in-Memory Architecture. IEEE Access, 2024; 12: 150962 DOI: 10.1109/ACCESS.2024.3476417Partager cet article