Un changement radical dans l’architecture informatique
Des chercheurs chinois ont dévoilé une puce de calcul analogique révolutionnaire qui traite des charges de travail d’intelligence artificielle en consommant une fraction de l’énergie nécessaire aux processeurs numériques classiques. Cette avancée marque une étape importante dans les efforts visant à développer des composants matériels pour l’IA plus durables. Dans une étude publiée cette semaine dans la revue Nature Communications, des scientifiques de l’université de Pékin ont montré que leur puce à mémoire vive résistive pouvait entraîner des systèmes de recommandation à partir de jeux de données comparables, par leur taille, à ceux utilisés par Netflix et Yahoo. Elle atteint des vitesses douze fois supérieures à celles de processeurs numériques avancés, tout en consommant seulement un deux-centième de leur énergie.
Sommaire
Cette avancée confirme des hypothèses théoriques antérieures et fait passer la technologie des simples tests mathématiques à des applications pratiques. Sun Zhong, auteur principal de l’étude, a décrit cette réalisation comme un nouveau pas en avant pour le calcul analogique, soulignant que la puce traite des tâches complexes tout en conservant les avantages intrinsèques de l’analogique en matière de vitesse et de consommation énergétique. Cette évolution intervient alors que les centres de données du monde entier peinent à répondre à l’explosion de la demande d’électricité entraînée par l’entraînement de l’IA, certaines installations consommant autant d’énergie que de petites villes.
Ces travaux s’inscrivent dans la continuité de recherches présentées pour la première fois en octobre, lorsque l’équipe avait annoncé avoir résolu ce que les spécialistes décrivent comme le problème de précision vieux d’un siècle qui entravait le calcul analogique. À l’époque, les chercheurs estimaient que la puce pourrait atteindre des vitesses de traitement mille fois supérieures à celles des meilleurs processeurs numériques, comme le processeur graphique Nvidia H100, tout en offrant une efficacité énergétique cent fois meilleure. La dernière publication confirme des gains de performance en conditions réelles, certes plus modestes que les premières projections théoriques, et démontre les capacités de la puce pour les recommandations personnalisées et le traitement d’images.
Contrairement aux ordinateurs traditionnels, qui traitent l’information sous forme de chiffres binaires, des zéros et des uns, les systèmes analogiques manipulent des signaux physiques continus, comme le courant électrique. Le calcul numérique fonctionne comme un interrupteur classique, qui n’a que deux positions, marche ou arrêt, tandis que le calcul analogique ressemble davantage à un variateur, qui ajuste les valeurs sur une plage continue. Cette différence fondamentale permet aux puces analogiques d’effectuer des calculs grâce à des propriétés physiques plutôt qu’au code binaire. Elles évitent ainsi les transferts de données énergivores entre la mémoire et les unités de traitement, qui limitent les processeurs classiques.
Cette avancée arrive à un moment crucial, alors que le secteur de l’intelligence artificielle est confronté à une crise énergétique. L’entraînement d’un seul grand modèle de langage peut consommer plusieurs mégawattheures d’électricité, et les centres de données du monde entier utilisent davantage d’énergie que certains pays développés. Les processeurs numériques traditionnels se heurtent à des limites physiques fondamentales, à mesure que les fabricants approchent de l’échelle atomique pour les composants des semi-conducteurs. Les innovations architecturales, plutôt que les progrès de fabrication, deviennent donc de plus en plus indispensables pour poursuivre les avancées.
Les systèmes analogiques ont toutefois longtemps souffert d’un manque de précision. Alors que les ordinateurs numériques obtiennent des résultats exacts au moyen d’algorithmes exécutés étape par étape, les dispositifs analogiques étaient sujets aux interférences et au bruit des signaux, ce qui les rendait inadaptés aux applications complexes modernes. Cette limite a relégué la technologie analogique au rang de curiosité historique pendant des décennies, malgré ses origines anciennes, dont témoigne le mécanisme d’Anticythère, un calculateur astronomique grec vieux de deux mille ans qui utilisait des engrenages imbriqués pour prédire la position des astres.
Franchir le seuil de la précision
L’équipe de l’université de Pékin a surmonté cette limite grâce à une architecture innovante à deux circuits, qui associe la vitesse du calcul analogique à la précision des systèmes numériques. Sa puce utilise des cellules de mémoire vive résistive, qui stockent les données en ajustant la résistance électrique entre des électrodes. En organisant ces cellules en deux circuits distincts, les chercheurs ont créé un système qui produit rapidement des solutions approximatives, puis les affine par un traitement itératif, jusqu’à atteindre une précision comparable à celle des calculs numériques en virgule flottante sur trente-deux bits.
La précision est depuis longtemps le principal obstacle au calcul analogique. Comment atteindre à la fois une grande précision et une bonne capacité de mise à l’échelle dans le calcul analogique, afin d’en exploiter les avantages intrinsèques pour les tâches informatiques modernes ? C’est un problème vieux d’un siècle qui entrave la communauté scientifique mondiale.
Sun Zhong, maître de conférences à l’université, a expliqué que cette approche améliore de cinq ordres de grandeur, soit environ cent mille fois, la précision du calcul analogique traditionnel. Le premier circuit produit des résultats avec un taux d’erreur d’environ un pour cent. Après trois cycles d’affinage par le second circuit, l’erreur tombe au niveau de celle des processeurs numériques standard. L’équipe a démontré cette capacité en résolvant des problèmes d’inversion de matrices réelles de seize sur seize, avec une précision en virgule fixe sur vingt-quatre bits.
La mémoire vive résistive, au cœur de cette innovation, marque une rupture importante avec le calcul traditionnel fondé sur des transistors. Les cellules RRAM fonctionnent comme des memristors, des composants électriques qui gardent en mémoire la quantité de courant qui les a traversés en modifiant leur résistance interne. Cette propriété permet à la puce de stocker et de traiter l’information au même endroit, supprimant la séparation entre mémoire et processeur qui oblige les ordinateurs classiques à dépenser de l’énergie pour transférer les données dans les deux sens sur des bus.
Les opérations sur les matrices constituent le fondement mathématique de l’intelligence artificielle moderne, de l’apprentissage automatique et des communications sans fil. Pour entraîner des réseaux neuronaux ou traiter des signaux destinés aux réseaux 6G, les ordinateurs doivent résoudre des équations portant sur d’immenses tableaux de nombres. Les processeurs numériques exécutent ces tâches séquentiellement, en décomposant les calculs en longues suites d’opérations binaires. La puce analogique traite les matrices en parallèle et effectue les calculs directement dans les matrices de mémoire, sans convertir les signaux en code binaire.
On ne saurait surestimer l’importance historique de la résolution du problème de précision. Le calcul analogique précède la technologie numérique ; parmi ses premiers exemples figure un intégrateur hydraulique soviétique de mille neuf cent trente-six, qui utilisait de l’eau circulant dans des tubes pour résoudre des équations mathématiques. Malgré ces innovations, les problèmes de bruit et de capacité de mise à l’échelle ont rendu les systèmes analogiques obsolètes à mesure que la technologie numérique progressait. La nouvelle puce remet ces concepts au goût du jour grâce à la mémoire résistive moderne, ouvrant potentiellement la voie à des architectures abandonnées il y a plusieurs décennies.
De la théorie mathématique aux applications pratiques
Alors que l’annonce initiale portait sur des capacités théoriques, la dernière publication confirme les performances de la puce sur des charges de travail pratiques en IA, proches des besoins de l’industrie. Elle a traité avec succès des systèmes de recommandation personnalisés à partir de jeux de données comparables, par leur taille, à ceux utilisés par Netflix et Yahoo, démontrant des capacités qui vont au-delà de simples tests mathématiques. Lors d’essais de compression d’images, le système a reconstitué des données visuelles d’une qualité presque identique à celle du calcul numérique en pleine précision, tout en divisant par deux les besoins de stockage.
Ces applications correspondent aux traitements gourmands en données qui mettent actuellement à rude épreuve les ressources des centres de données dans le monde entier. Les algorithmes de recommandation alimentent les services de streaming, les réseaux sociaux et les sites de commerce en ligne, en traitant des milliards d’interactions pour générer des suggestions personnalisées. La compression d’images est essentielle à tout, du streaming vidéo à l’imagerie médicale : réduire la taille des fichiers sans sacrifier la qualité permet d’économiser de la bande passante et des coûts de stockage. La capacité de la puce à effectuer ces tâches en consommant très peu d’énergie pourrait transformer le fonctionnement de ces services.
Cette avancée fait franchir un nouveau cap au calcul analogique.
Au-delà des applications destinées au grand public, la puce a aussi démontré ses capacités lors de tests de communications sans fil, en détectant des signaux dans des systèmes massifs à entrées et sorties multiples. Cette technologie sera essentielle aux futurs réseaux 6G, dont les stations de base devront traiter en temps réel de vastes réseaux d’antennes. Pour ces tâches de communication, le dispositif a obtenu des performances équivalentes à celles d’un processeur numérique tout en consommant environ cent fois moins d’énergie, ce qui laisse entrevoir des applications dans des environnements soumis à des contraintes énergétiques, où l’autonomie des batteries ou les capacités de refroidissement limitent les équipements traditionnels.
Les futurs réseaux sans fil 6G nécessiteront des stations de base capables de gérer simultanément des centaines d’éléments d’antenne et de traiter en temps réel d’immenses volumes de données de signal afin de maintenir les connexions avec les appareils mobiles. Les besoins de calcul de ces systèmes dépassent les capacités des processeurs de signal numérique actuels, notamment en raison des contraintes de latence et des budgets énergétiques des antennes-relais éloignées. La capacité démontrée par la puce analogique à détecter les signaux de communication sans fil avec des performances comparables à celles des processeurs numériques, tout en consommant très peu d’énergie, la rend particulièrement adaptée à ces applications de télécommunications.
Les économies d’énergie prennent une importance particulière lorsqu’on considère l’ampleur des infrastructures d’IA modernes. L’entraînement de grands modèles de langage nécessite des semaines de calcul sur des milliers de cartes graphiques haut de gamme et consomme des mégawattheures d’électricité. Réduire la consommation énergétique de deux ordres de grandeur tout en maintenant, voire en améliorant, les vitesses de traitement pourrait faire baisser considérablement les coûts d’exploitation et l’impact environnemental, répondant ainsi aux inquiétudes croissantes concernant l’empreinte carbone du développement de l’intelligence artificielle.
Le contexte mondial des semi-conducteurs
Cette avancée survient à un moment crucial pour le secteur technologique mondial, alors que les restrictions à l’exportation limitent l’accès de la Chine aux processeurs graphiques avancés de Nvidia et à d’autres processeurs numériques haute performance. La puce ne remplacera pas immédiatement les cartes graphiques polyvalentes, mais elle offre une solution spécialisée pour certaines tâches de calcul qui occupent une place prépondérante dans l’entraînement et l’inférence de l’IA. Selon des analystes du secteur, cette technologie pourrait transformer les composants matériels dédiés à l’IA en offrant une option économe en énergie pour les calculs matriciels au cœur des opérations des réseaux neuronaux.
Les comparaisons avec la Nvidia H100, la carte graphique utilisée pour entraîner de grands modèles de langage, dont ChatGPT, illustrent l’ampleur de la perturbation possible. Les projections théoriques laissent entrevoir un débit mille fois supérieur à celui de ces processeurs numériques pour certaines opérations matricielles, avec une efficacité énergétique cent fois meilleure. Même les résultats validés en conditions réelles, avec une vitesse douze fois supérieure et une efficacité énergétique deux cents fois meilleure, représentent des progrès considérables par rapport à la technologie actuelle qui domine les centres de données du monde entier.
La puce a été fabriquée dans des fonderies commerciales, ce qui signifie que la production pourrait théoriquement monter en puissance sans recourir à des matériaux exotiques ni à des installations de fabrication révolutionnaires. Cette approche pratique distingue ces travaux des curiosités de laboratoire incapables de fonctionner en dehors d’environnements parfaitement contrôlés. Les puces ont été fabriquées au moyen de techniques standard de production de semi-conducteurs. Si la demande se confirme, la production pourrait donc augmenter en s’appuyant sur les chaînes d’approvisionnement existantes, sans nécessiter des milliards d’investissements dans de nouvelles infrastructures.
James Millen, chercheur au King’s College de Londres, a rappelé l’importance des calculs matriciels dans l’entraînement de l’IA. Les ordinateurs numériques sont des machines universelles capables de tout calculer, mais pas nécessairement de tout faire efficacement ou rapidement. Des ordinateurs analogiques conçus pour des tâches spécifiques peuvent atteindre une vitesse et une efficacité considérables pour ces applications particulières, et ainsi potentiellement réduire les énormes besoins énergétiques liés à la dépendance croissante à l’IA.
Limites techniques et développements à venir
Malgré des résultats impressionnants, les chercheurs reconnaissent l’existence de limites importantes. Sun Zhong a averti que les gains en conditions réelles pourraient être inférieurs aux maximums théoriques. La puce est spécialisée dans les calculs matriciels : elle n’accélère donc que les parties de l’entraînement de l’IA qui font appel à ces opérations mathématiques précises. Si les calculs matriciels dominent une charge de travail donnée, l’accélération est importante. Mais pour les tâches informatiques générales nécessitant des opérations variées, les bénéfices restent limités.
Il est donc probable que l’avenir repose sur des architectures hybrides plutôt que sur le remplacement complet des processeurs numériques par des processeurs analogiques. Les futurs processeurs graphiques pourraient intégrer des circuits analogiques chargés de traiter certaines parties des algorithmes d’entraînement de l’IA, notamment les méthodes d’optimisation du second ordre et les opérations d’algèbre linéaire, tout en conservant des cœurs numériques pour les tâches générales. Une telle intégration ne devrait pas se concrétiser dans des produits commerciaux avant plusieurs années, mais ces travaux fournissent les bases technologiques nécessaires.
Le calcul en périphérie constitue un autre domaine d’application prometteur. Les véhicules autonomes, les robots industriels et les casques de réalité augmentée nécessitent une puissance de traitement importante, mais doivent respecter des contraintes strictes en matière de batterie et de température. Les solutions actuelles reposent sur l’envoi des données vers des serveurs cloud pour leur traitement, ce qui entraîne une latence et une dépendance à la connectivité. Des puces analogiques capables d’exécuter localement des inférences d’IA complexes, sans les pénalités énergétiques des processeurs numériques, pourraient rendre ces appareils plus autonomes tout en prolongeant considérablement l’autonomie de leur batterie.
La capacité de mise à l’échelle constitue un autre défi. Les processeurs numériques peuvent traiter des problèmes de taille arbitraire en les décomposant en blocs plus petits et en les exécutant séquentiellement. Les systèmes analogiques, eux, nécessitent des circuits physiquement plus grands pour résoudre des matrices plus grandes. La fabrication de puces capables de traiter les problèmes à un million de variables sur un million que l’on trouve dans les grands modèles de langage modernes exigerait d’importants progrès techniques. Néanmoins, pour les applications de calcul en périphérie où les contraintes de consommation énergétique sont déterminantes, même des puces analogiques de plus petite taille pourraient permettre d’exécuter des tâches d’IA complexes directement sur les appareils, sans dépendre d’une connexion au cloud.
L’équipe de recherche indique que ses prochains objectifs consistent à construire des puces plus grandes et entièrement intégrées, capables de traiter des problèmes plus complexes à des vitesses supérieures. La réussite de ces travaux pourrait accélérer le développement des communications 6G, rendre l’entraînement des modèles d’IA plus efficace et réduire l’impact environnemental des centres de données, qui consomment actuellement une part croissante de la production mondiale d’électricité. À mesure que le calcul numérique approche des limites physiques liées à la séparation entre mémoire et traitement, les solutions analogiques offrent un moyen de continuer à améliorer les performances sans augmenter proportionnellement la consommation d’énergie.
À retenir
- Des chercheurs de l’université de Pékin ont mis au point une puce analogique pour l’IA utilisant une mémoire vive résistive. Sur des tâches réelles de recommandation et de traitement d’images, elle est douze fois plus rapide et deux cents fois plus économe en énergie que des processeurs numériques avancés.
- Le dispositif résout le problème de précision vieux d’un siècle qui empêchait jusqu’ici le calcul analogique d’égaler la précision du numérique. Son architecture à deux circuits affine les calculs approximatifs pour atteindre des taux d’erreur comparables à ceux des systèmes en virgule flottante sur trente-deux bits.
- Contrairement aux processeurs numériques, qui utilisent des uns et des zéros binaires, la puce manipule des signaux électriques continus pour effectuer directement les calculs matriciels en mémoire. Elle élimine ainsi le goulot d’étranglement lié aux transferts de données, qui consomment la majeure partie de l’énergie dans les systèmes informatiques classiques.
- La technologie a été fabriquée à l’aide de procédés commerciaux de production de semi-conducteurs, ce qui laisse entrevoir une production de masse. Les versions actuelles traitent toutefois des matrices plus petites que celles nécessaires à l’entraînement des plus grands modèles d’IA.
- Parmi les applications possibles figurent les systèmes de recommandation personnalisés, la compression d’images, le traitement des signaux sans fil 6G et, à terme, des architectures informatiques hybrides associant l’efficacité de l’analogique à la souplesse du numérique.
- Cette avancée intervient alors que la Chine est soumise à des restrictions sur l’importation de processeurs graphiques Nvidia avancés. Elle offre une solution développée sur le territoire chinois pour certaines tâches d’IA et pourrait contribuer à réduire la consommation énergétique des centres de données dans le monde.
