Een 'unieke' visie
Eerder deze maand Nvidia's GPU Technologie Op de conferentie werden nieuwe producten, platforms en klantnieuws onthuld.
Nvidia heeft misschien uitgebreide en gedetailleerde kritiek gekregen op de voorgenomen overname van Arm, maar afgezien daarvan blijft het een toonaangevend technologiebedrijf dat zwaar investeert in CPU's, DPU's en GPU's, omdat het ernaar streeft een groot aantal nieuwe technologieën van autonome machines aan te pakken. naar virtuele werelden en kunstmatige intelligentie.
Tijdens de GPU Technology Conference van dit jaar breidde CEO Jensen Huang de visie van het bedrijf uit en sprak hij erover als een 'computerplatform dat het werk voor de Da Vinci's van onze tijd helpt bevorderen - op het gebied van taalbegrip, het ontdekken van medicijnen of kwantumcomputers. . "
Huang sprak uitvoerig over hoe Nvidia zwaar investeert in CPU's, DPU's en GPU's en werkt eraan om deze te verweven tot nieuwe datacenter-schaalcomputeroplossingen voor zowel onderzoekers als ondernemingen.
Huang gebruikte zijn keynote om Nvidia's eerste datacenter-CPU, Grace, aan te kondigen, genoemd naar Grace Hopper, een schout bij de Amerikaanse marine en pionier op het gebied van computerprogrammering.
Grace is een zeer gespecialiseerde processor die is ontworpen voor grote data-intensieve HPC- en AI-applicaties die de volgende generatie natuurlijke-taalverwerkingsmodellen trainen met meer dan een biljoen parameters.
In combinatie met Nvidia GPU's kan een op Grace gebaseerd systeem 10x snellere prestaties leveren dan de moderne, geavanceerde Nvidia DGX-systemen, die volgens het bedrijf op x86 CPU's draaien.
"Toonaangevende AI en datawetenschap verleggen de huidige computerarchitectuur tot buiten zijn grenzen", zegt Huang, "maar door Arm IP te gebruiken, is Grace specifiek ontworpen voor gigantische AI en HPC. Nvidia kan nu worden omschreven als een bedrijf met drie chips. "
Hoewel de overgrote meerderheid van de datacenters naar verwachting zullen worden bediend door bestaande CPU's, is Grace bedoeld om een nichesegment van computers te bedienen.
Huang onthulde dat het Zwitserse National Supercomputing Center (CSCS) een supercomputer gaat bouwen, genaamd Alps, die zal worden aangedreven door de volgende generatie GPU's van Grace en Nvidia.
Alps zal worden gebouwd door Hewlett Packard Enterprise met behulp van de nieuwe HPE Cray EX-supercomputerproductlijn en het Nvidia HGX-supercomputingplatform en zal zowel Nvidia GPU's als de Grace CPU bevatten.
CSCS-gebruikers zullen Alps kunnen gebruiken om een breed scala van opkomend wetenschappelijk onderzoek uit te voeren, van het analyseren van wetenschappelijke artikelen tot het genereren van nieuwe moleculen voor het ontdekken van geneesmiddelen.
Het Los Alamos National Laboratory van het Amerikaanse Department of Energy zal in 2023 ook een door Grace aangedreven supercomputer online brengen, kondigde Nvidia aan.
Bluefield-3 DPU
Om de infrastructuur waarop hyperscale datacenters, werkstations en supercomputers worden gebouwd verder te versnellen, onthulde Huang de nieuwe BlueField-3 DPU.
Volgens Huang: “Met deze DPU kan elke onderneming applicaties op elke schaal leveren met toonaangevende prestaties en datacenterbeveiliging. Het is geoptimaliseerd voor multi-tenant, cloud-native omgevingen en biedt softwaregedefinieerde, hardwareversnelde netwerk-, opslag- en beheerservices op datacenterschaal. "
Waar BlueField-2 het equivalent van 30 CPU-kernen offloadde, zou met Bluefield-3 300 CPU-kernen nodig zijn om het netwerkverkeer met 400 Gbps te beveiligen, te ontladen en te versnellen, aangezien het een 10x hogere prestatie levert, legde Huang uit.
Zowel Grace als BlueField vormen essentiële onderdelen van een datacenter-roadmap die nu bestaat uit CPU's, GPU's en DPU's, voegde Huang toe.
“Elke chiparchitectuur heeft een ritme van twee jaar met waarschijnlijk een kicker ertussenin. Het ene jaar zal zich richten op x86-platforms, het volgende op Arm-platforms, ”zei Huang, die eraan toevoegde,“ Elk jaar zul je nieuwe opwindende producten van ons zien. ”
Arm uitbreiden naar de cloud
Toen Huang voor het nieuws sprak dat de Britse regering de Britse mededingingsautoriteit, de CMA, de opdracht gaf de voorgenomen overname van Arm te onderzoeken, sprak Huang uitvoerig over Arm en zei dat het om 'goede reden' de populairste CPU ter wereld was geworden. , wat suggereert dat het niet alleen 'super energiezuinig' was, maar dat het 'open licentiemodel een wereld van innovators inspireerde'.
Of dat model van kracht blijft als de overname doorgaat, blijft een betwistbaar punt, maar Huang gebruikte zijn keynote om nieuwe Arm-partnerschappen aan te kondigen met betrekking tot Amazon Web Services in cloud computing, Ampere Computing in wetenschappelijke en cloud computing, Marvel in hypergeconvergeerde edge-servers, en MediaTek die een Chrome OS en Linux PC SDK en referentiesysteem zal maken.
“Het wereldwijde ecosysteem van technologiebedrijven van Arm zal op Arm gebaseerde producten naar nieuwe markten brengen, zoals de cloud, supercomputing, pc en autonome systemen. Met de aangekondigde nieuwe partnerschappen nemen we belangrijke stappen om het Arm-ecosysteem verder uit te breiden dan mobiel en ingebed, ”aldus Huang.
Nvidia en AWS werken samen om GPU-versnelde Arm-gebaseerde instanties in de cloud te implementeren. De nieuwe Amazon EC2-instanties zullen AWS Graviton2-processors en Nvidia GPU's samenbrengen om een reeks voordelen te bieden, waaronder lagere kosten, ondersteuning voor rijkere game-streaming-ervaringen en betere prestaties voor op Arm gebaseerde workloads.
De instances zullen game-ontwikkelaars in staat stellen om Android-games native op AWS uit te voeren, rendering en codering met Nvida GPU's te versnellen en games naar mobiele apparaten te streamen zonder dat emulatiesoftware nodig is.
Nvidia's Arm HPC Developer Kit is ontwikkeld om wetenschappelijk computergebruik te ondersteunen te midden van de groeiende behoefte aan energiezuinige supercomputers en datacenters.
De kit bevat een Ampere Altra CPU, met 80 Arm Neoverse cores tot 3.3 GHz; dubbele Nvidia A100 GPU's, die elk 312 teraflops aan FP16 deep learning-prestaties leveren, evenals twee BlueField-2 DPU's, die bedoeld zijn om netwerken, opslag en beveiliging te versnellen.
Ontwikkelaars en ISV-partners kunnen de devkit gebruiken om hun software te migreren en valideren, en om prestatieanalyses uit te voeren.
Rekencentra die het inzetten zijn onder meer Oak Ridge National Laboratory, Los Alamos National Laboratory en Stony Brook University in de VS. het National Center for High Performance Computing in Taiwan; en het Koreaanse Instituut voor Wetenschap en Technologie.
Nvidia's Omniversum
Huang onthulde ook de Nvidia Omniverse. Een cloud-native, schaalbaar naar meerdere GPU's, fysiek nauwkeurig platform dat virtuele 3D-werelden kan recreëren die profiteren van RTX real-time path tracing en DLSS, materialen simuleert met Nvidia MDL, fysica simuleert met Nvidia PhysX en Nvidia volledig integreert AI.
Volgens Huang de: “Omniverse is gemaakt om gedeelde virtuele 3D-werelden te creëren. Een soort die lijkt op de sciencefiction-metaverse beschreven door Neal Stephenson in zijn roman 'Snow Crash' uit het begin van de jaren negentig. ”
Omniverse komt beschikbaar voor bedrijfslicenties en werkt momenteel samen met open bètapartners zoals Foster en Partners in architectuur, ILM in entertainment, Activision in gaming en reclamegigant WPP.
Het demonstreren van de mogelijkheden van de Omniverse Huang, samen met Milan Nedeljković, een lid van de Raad van Bestuur van BMW, lieten zien hoe een fotorealistisch, real-time digitaal model - een 'digitale tweeling' van een van BMW's sterk geautomatiseerde fabrieken - zou kunnen zijn gebruikt om moderne productie te versnellen.
"Deze nieuwe innovaties zullen de planningstijden verkorten, de flexibiliteit en precisie verbeteren en een 30 procent efficiëntere planning opleveren", aldus Nedeljković.
Andere aankondigingen waren de onthulling van de Megatron, een raamwerk voor het trainen van Transformers, wat leidde tot doorbraken in de verwerking van natuurlijke taal - transformatoren genereren samenvattingen van documenten, voltooien zinnen in e-mail, beoordelen quizzen, genereren live sportcommentaar, zelfs code - evenals nieuwe modellen voor Clara Discovery, Nvidia's versnellingsbibliotheken voor computationele geneesmiddelenontdekking.
Een andere aankondiging betrof Nvidia Morpheus - een datacenter-beveiligingsplatform voor realtime inspectie van alle pakketten gebouwd op Nvidia AI, BlueField, Net-Q-netwerktelemetriesoftware en EGX.
Om conversational AI te versnellen, kondigde Huang ook de beschikbaarheid aan van Nvidia Jarvis - een ultramoderne deep learning AI voor spraakherkenning, taalbegrip, vertalingen en expressieve spraak.
Tegenwoordig biedt Nvidia nu GPU's, CPU's en DPU's aan en blijft het fors investeren in AI en in het Omniversum van het bedrijf.
Ter afsluiting van zijn keynote zei Huang, die het online publiek toesprak, dat Nvidia "het instrument voor je levenswerk" was, en in het bereik en de breedte van de aankondigingen maakte de omvang van de ambitie van het bedrijf en de 'unieke ambitie' duidelijk.