Cerebras Systems et le National Energy Technology Laboratory posent de nouveaux jalons pour la modélisation d’équations de champ haute performance et économe en énergie à l’aide d’une interface Python simple

SUNNYVALE, Californie–(FIL D’AFFAIRES)–Cerebras Systems, le pionnier du calcul d’intelligence artificielle (IA) hautes performances, a annoncé aujourd’hui des performances record sur la charge de travail de calcul scientifique consistant à former et à résoudre des équations de champ. En collaboration avec le Laboratoire national des technologies énergétiques (NETL) du ministère de l’Énergie, Cerebras a démontré que son système CS-2, alimenté par le moteur Wafer-Scale (WSE), était jusqu’à 470 fois plus rapide que le supercalculateur Joule de NETL dans la modélisation d’équations de champ, offrant des vitesses au-delà de ce que les CPU ou les GPU sont actuellement capables d’atteindre.

La charge de travail testée était la modélisation d’équations sur le terrain à l’aide d’une simple API Python qui permet le traitement à l’échelle d’une tranche pour une grande partie de la science informatique, réalisant des gains de performances et de convivialité qui ne peuvent pas être obtenus sur des ordinateurs et des supercalculateurs conventionnels. Cet ensemble d’outils de programmeur de haut niveau spécifique à un domaine s’appelle WSE Field-equation API, ou WFA. Le WFA surpasse OpenFOAM® sur le supercalculateur Joule 2.0 de NETL de plus de deux ordres de grandeur en temps de résolution. Bien que ces performances soient cohérentes avec les codes d’assemblage optimisés à la main, le WFA fournit une interface Python de haut niveau facile à utiliser qui permet aux utilisateurs de former et de résoudre des équations de terrain sans effort. Ce nouvel ensemble d’outils WFA a le potentiel de changer la façon dont les ordinateurs sont utilisés en ingénierie d’une manière positive et fondamentale.

Ce travail démontre le temps de résolution le plus rapide connu pour les équations de champ dans l’histoire de l’informatique à des échelles allant jusqu’à plusieurs milliards de cellules. La vitesse était réalisable car le WSE fournit de la mémoire et des bandes passantes point à point suffisamment élevées pour qu’il n’y ait pas de goulots d’étranglement de communication pour les instructions tensorielles et que le calcul se déroule à ou plus rapidement que la fréquence d’horloge. Dans le passé, les équations de champ étaient liées à la mémoire et, dans les systèmes distribués, elles sont limitées par la bande passante de communication nœud à nœud. Ces limitations créent un besoin de hiérarchies de mémoire et de méthodes de programmation complexes pour assurer une utilisation maximale possible. Toute cette complexité est éliminée en raison des bandes passantes exceptionnellement élevées offertes sur le WSE, et les instructions tensorielles peuvent se dérouler à des vitesses impossibles avec les architectures Von Neuman distribuées conventionnelles.

NETL et Cerebras ont collaboré pour développer une nouvelle méthodologie de programmation avec une équipe de trois personnes sur du matériel jamais vu auparavant avec un jeu d’instructions unique, le tout en moins de 18 mois. Pour mettre cela en perspective, les efforts de calcul distribué efficaces nécessitent souvent des années, voire des décennies de travail avec de très grands groupes de développeurs », a déclaré le Dr. Brian J. Anderson, directeur de laboratoire chez NETL. « En utilisant de nouvelles architectures informatiques innovantes, telles que le Cerebras WSE, nous avons pu accélérer considérablement la vitesse de résolution, tout en réduisant considérablement l’énergie nécessaire à la résolution d’une charge de travail clé de modélisation d’équations de terrain. Ce travail combinant la puissance du supercalcul et de l’IA va approfondir notre compréhension des phénomènes scientifiques et accélérer considérablement le potentiel de la simulation rapide, en temps réel, voire plus rapide que le temps réel.

Le supercalculateur Joule 2.0 est le 139e Le supercalculateur le plus rapide au monde selon le TOP 500.org, et contient 84 000 cœurs de processeur et 200 GPU. En associant des performances de mémoire exceptionnelles avec une bande passante massive, une communication interprocesseur à faible latence et une architecture optimisée pour le calcul à large bande passante, le temps de résolution et la consommation d’énergie du CS-2 étaient supérieurs au supercalculateur Joule lors de l’exécution d’un système multidimensionnel standardisé. , problème de test d’équation de champ variant dans le temps.

Le CS-2 s’est avéré jusqu’à 470 fois plus rapide en termes de temps de résolution que le plus grand cluster de processeurs que le supercalculateur Joule 2.0 de NETL pouvait allouer au problème de cette taille. Il s’est également avéré qu’il était plus de deux ordres de grandeur plus économe en énergie que l’informatique distribuée.

« Cerebras est fier de sa collaboration avec NETL. Ensemble, nous avons produit des résultats extraordinaires en faisant progresser les charges de travail fondamentales dans le calcul scientifique », a déclaré Andrew Feldman, co-fondateur et PDG de Cerebras Systems. « Les supercalculateurs conventionnels consomment d’énormes quantités d’énergie, sont complexes à mettre en place, longs à programmer et, comme l’ont démontré nos travaux, plus lents à produire des réponses que le Cerebras CS-2. Grâce à notre partenariat avec NETL, le CS-2 prouve que l’intégration à l’échelle d’une plaquette est une solution viable à de nombreux problèmes scientifiques majeurs dans le domaine du calcul haute performance. En fait, nous avons montré que les résultats du CS-2, qui sont des centaines de fois plus rapides que les plus gros supercalculateurs, tout en consommant des centaines de fois moins d’énergie.

La recherche a été dirigée par le Dr. Dirk Van Essendelft, ingénieur en apprentissage automatique et science des données chez NETL ; Robert Schreiber, ingénieur émérite chez Cerebras Systems ; et Michael James, co-fondateur et architecte en chef des technologies avancées chez Cerebras. Les résultats sont venus après des mois de travail et poursuivent l’étroite collaboration entre les scientifiques du laboratoire NETL du ministère de l’Énergie et Cerebras Systems. En novembre 2020, Cerebras et NETL ont annoncé une nouvelle étape de calcul sur la charge de travail scientifique clé de la dynamique des fluides computationnelle (CFD).

Avec chaque composant optimisé pour le travail de l’IA, le CS-2 offre plus de performances de calcul avec moins d’espace et moins de puissance que tout autre système. Il le fait tout en réduisant radicalement la complexité de la programmation, le temps de calcul et le temps de résolution. En fonction de la charge de travail, de l’IA au HPC, CS-2 offre des centaines ou des milliers de fois plus de performances que les alternatives héritées. Un seul CS-2 remplace des grappes de centaines ou de milliers de GPU qui consomment des dizaines de racks, utilisent des centaines de kilowatts de puissance et prennent des mois à configurer et à programmer. Avec seulement 26 pouces de haut, le CS-2 tient dans un tiers d’un rack de centre de données standard.

Des chercheurs de NETL et de Cerebras présenteront leurs conclusions lors de la conférence SC22, et un article basé sur les travaux peut être trouvé sur arXiv, intitulé Changements perturbateurs dans la modélisation d’équations de champ : une interface simple pour les moteurs à l’échelle des tranches.

À propos des systèmes Cerebras

Cerebras Systems est une équipe d’architectes informatiques pionniers, d’informaticiens, de chercheurs en apprentissage profond et d’ingénieurs de tous types. Nous nous sommes réunis pour construire une nouvelle classe de systèmes informatiques, conçus dans le seul but d’accélérer l’IA et de changer à jamais l’avenir du travail de l’IA. Notre produit phare, le système CS-2, est alimenté par le plus grand processeur au monde – le Cerebras WSE-2 à 850 000 cœurs permet aux clients d’accélérer leur travail d’apprentissage en profondeur par des ordres de grandeur sur les unités de traitement graphique.

À propos de NETL

NETL est un laboratoire national du Département américain de l’énergie qui stimule l’innovation et fournit des solutions technologiques pour un avenir énergétique durable et prospère sur le plan environnemental. En tirant parti de ses talents et de ses installations de recherche de classe mondiale, NETL garantit une énergie abordable, abondante et fiable qui stimule une économie robuste et la sécurité nationale, tout en développant des technologies pour gérer le carbone tout au long du cycle de vie, permettant la durabilité environnementale pour tous les Américains.

Leave a Comment

Your email address will not be published. Required fields are marked *