NVIDIA a anunțat o nouă clasă de supercalculatoare cu o cantitate mare de memorie - supercomputerul NVIDIA DGX bazat pe supercipuri NVIDIA GH200 Grace Hopper și sisteme de comutare NVIDIA NVLink. Este conceput pentru a dezvolta modele de generație următoare pentru aplicații generative AI, sisteme de recomandare și sarcini de lucru de analiză a datelor.
Spațiu de memorie masiv NVIDIA DGX GH200 folosește tehnologia de conectivitate NVLink cu sistemul de comutare NVLink pentru a combina 256 de supercipuri GH200, rezultând un singur GPU. Aceasta oferă 1 exaflop de performanță și 144 TB de memorie partajată, de aproape 500 de ori mai mult decât generația anterioară NVIDIA DGX A100, care a fost introdus în 2020.
„Generativ AI, modelele de limbaj mari și sistemele de recomandare sunt motoarele digitale ale economiei moderne, a spus fondatorul și CEO-ul NVIDIA Jensen Huang. – Supercalculatoarele DGX GH200 AI integrează tehnologii de calcul accelerate de ultimă generație și de rețea NVIDIApentru a extinde granițele AI”.
După cum se raportează într-un comunicat de presă de pe site-ul companiei, supercipurile GH200 elimină necesitatea unei conexiuni tradiționale CPU-GPU PCIe. Ei combină procesorul NVIDIA Grace și GPU bazate pe braț NVIDIA Miez tensor H100 într-o singură carcasă. Aceasta mărește lățimea de bandă între GPU și CPU de 7 ori, reduce semnificativ consumul de energie și oferă 600 GB de arhitectură GPU Hopper pentru supercomputerele noi. Arhitectura DGX GH200 oferă de 48 de ori mai multă lățime de bandă NVLink decât generația anterioară.
Google Cloud este de așteptat să o facă meta că Microsoft va fi printre primii care vor avea acces la DGX GH200 și vor explora capacitățile acestuia de a genera sarcini de lucru AI. Producătorul intenționează, de asemenea, să ofere designul DGX GH200 ca eșantion furnizorilor de servicii cloud, astfel încât să îl poată adapta pentru infrastructura lor.
„Crearea modelelor generative avansate necesită abordări inovatoare ale infrastructurii de inteligență artificială”, a spus vicepreședintele de calcul la Google Cloud Mark Lohmeyer. „Noua scară NVLink și memoria supercipului Grace Hopper abordează blocajele cheie în AI la scară largă și așteptăm cu nerăbdare să-i explorăm potențialul pentru Google Cloud și inițiativele noastre generative de AI.”
Vicepreședinte corporativ pentru Azure Infrastructure în Microsoft Girish Bablani a remarcat potențialul DGX GH200 de a lucra cu seturi de date terabyte, ceea ce va permite dezvoltatorilor să efectueze cercetări la scară mai mare și la viteze accelerate.
Compania creează și un supercomputer NVIDIA Helios bazat pe DGX GH200 pentru cercetătorii și echipele sale de dezvoltare. Acesta va fi echipat cu patru sisteme DGX GH200 și fiecare va fi interconectat printr-o rețea Quantum-2 InfiniBand pentru a crește debitul de date pentru antrenarea modelelor AI mari. Helios va include 1024 de supercipuri Grace Hopper și este de așteptat să fie operațional până la sfârșitul anului.
Software NVIDIA Base Command oferă gestionarea fluxului de lucru AI, managementul clusterelor la nivel de întreprindere, biblioteci care accelerează infrastructura de calcul, stocare și rețea și software de sistem optimizat pentru sarcinile de lucru AI. De asemenea, este inclus software-ul AI Enterprise, care oferă peste 100 de cadre, modele pre-instruite și instrumente de dezvoltare pentru a simplifica dezvoltarea și implementarea AI de producție, inclusiv AI generativă. AI, viziune computerizată, IA pentru vorbire și multe altele.
Supercalculatoare NVIDIA DGX GH200 va fi disponibil până la sfârșitul anului.
Citeste si: