Les nano-spaghettis d’argent de chercheurs italiens promettent d’aider à résoudre les problèmes de réseau neuronal gourmands en énergie

  • FrançaisFrançais



  • Des chercheurs italiens ont développé un système physique pour imiter les propriétés du cerveau humain qui, espèrent-ils, réduira considérablement les coûts énergétiques des réseaux de neurones fondamentaux pour le développement de l’IA.

    Les approches réussies des réseaux de neurones ont largement dépendu des représentations logicielles des synapses cérébrales au-dessus d’une pile conventionnelle de matériel informatique et de logiciels numériques.

    Cependant, un article publié dans Matériaux naturels cette semaine montre que les réseaux de neurones peuvent être construits à l’aide de l’informatique analogique basée sur un maillage physique de nanofils d’argent qui, vu au microscope électronique, ressemblent plutôt à une plaque de spaghetti.

    Image en microscopie électronique à balayage d’un réservoir de réseau de nanofils memristifs hautement interconnectés (barre d’échelle, 2 μm) Image: Milano et al

    Les nœuds entre les fils sont de nature « memristive ». Le mécanisme de commutation résistif au niveau des jonctions de nanofils est modulé par la formation/rupture d’un chemin conducteur d’argent à travers la couche d’enveloppe de nanofils, sous l’action du champ électrique appliqué.

    Gianluca Milano, chercheur post-doctoral à l’Istituto Nazionale di Ricerca Metrologica à Turin, a déclaré Le registre l’objectif principal était de réduire massivement le nombre de paramètres d’entraînement nécessaires pour que les réseaux de neurones donnent un sens aux données d’entrée.

    “Pour vos réseaux naturels, la partie la plus chère, en termes de coûts énergétiques, est la formation : vous avez généralement des milliers de paramètres que vous devez former. Et c’est la racine du problème de consommation d’énergie de l’IA”, a-t-il déclaré.

    La réponse du chercheur a été de diviser le calcul en deux parties. Dans le premier, l’entrée est traitée au moyen d’une mémoire à court terme, qui est prise en charge par le réservoir physique, qui n’a pas besoin d’être entraîné. Seule la mémoire à long terme nécessite un entraînement en termes de “réglage fin des paramètres”, a déclaré Milano.

    “En ce sens, vous pouvez réduire considérablement le nombre de paramètres que vous devez entraîner, et vous pouvez également simplifier le matériel requis”, a-t-il déclaré.

    En utilisant cette approche, une grille d’entrée d’entraînement 4×4 ne nécessiterait que trois paramètres d’entraînement, au lieu de 16, indique le document.

    Le système a été formé pour reconnaître les chiffres manuscrits de 0 à 9, avec une autre référence étant la prédiction de la série chronologique Mackey-Glass, développée à l’origine pour modéliser la variation de la quantité relative de cellules matures dans le sang – et considérée comme difficile à prédire avec « algorithmes conventionnels d’apprentissage automatique ».

    L’étude fait partie d’une tendance qui se penche sur l’informatique neuromorphique, qui s’inspire directement des structures cérébrales et de la physique, plutôt que de modéliser ces processus sur une pile informatique conventionnelle.

    |  Implémentation de la RC entièrement memristive et évolution spatio-temporelle de l'état du réservoir du réseau NW.

    Extrait de l’article : Implémentation du calcul de réservoir entièrement memristif et évolution spatio-temporelle de l’état du réservoir du réseau de nanofils (cliquez pour agrandir) Image: Milano et al

    Le principe démontré dans l’article promet une réduction de la consommation d’énergie des réseaux de neurones de plusieurs ordres de grandeur.

    L’auteur du rapport, Carlo Ricciardi, professeur agrégé au Politecnico di Torino, a déclaré que dans les réseaux de neurones simulés, le coût énergétique était d’environ 1 millijoule par événement synaptique. L’énergie requise pour chaque événement synaptique cérébral biologique était de l’ordre de 10 à -13 joules. La recherche suggère que des systèmes pourraient être construits nécessitant 10 fois ce montant.

    Ce n’est pas tout à fait l’efficacité – et loin de l’échelle – du cerveau humain. Mais peut-être un pas intéressant dans la bonne direction. ®

    L'équipe de Comparaland

    L'équipe rédactionnnelle du site

    Pour contacter personnellement le taulier :

    Laisser un commentaire

    Votre adresse e-mail ne sera pas publiée.