Una visione 'singolare'

All'inizio di questo mese la GPU di Nvidia Tecnologia La conferenza ha visto la presentazione di nuovi prodotti, piattaforme e novità per i clienti.

Nvidia potrebbe essere stata oggetto di critiche estese e dettagliate per la sua proposta di acquisizione di Arm, ma a parte questo rimane una società tecnologica leader che sta investendo pesantemente in CPU, DPU e GPU mentre cerca di affrontare una miriade di nuove tecnologie da macchine autonome. ai mondi virtuali e all'intelligenza artificiale.

Alla GPU Technology Conference di quest'anno, il suo CEO Jensen Huang ha ampliato la visione dell'azienda e ne ha parlato come una "piattaforma informatica, che aiuta a far avanzare il lavoro per i Da Vincis del nostro tempo - nella comprensione del linguaggio, nella scoperta di farmaci o nell'informatica quantistica". . "

Huang ha parlato a lungo di come Nvidia stia investendo pesantemente in CPU, DPU e GPU e sta lavorando per inserirli in nuove soluzioni di elaborazione su scala per data center sia per i ricercatori che per le imprese.

Huang ha usato il suo keynote per annunciare Grace, la prima CPU per data center di Nvidia, che prende il nome da Grace Hopper, contrammiraglio della Marina statunitense e pioniera della programmazione di computer.

Grace è un processore altamente specializzato che è stato progettato per indirizzare applicazioni HPC e AI ad alta intensità di dati per l'addestramento di modelli di elaborazione in linguaggio naturale di prossima generazione che hanno più di mille miliardi di parametri.

Se accoppiato con le GPU Nvidia, un sistema basato su Grace sarà in grado di fornire prestazioni 10 volte più veloci rispetto ai sistemi all'avanguardia basati su Nvidia DGX di oggi, che girano su CPU x86, secondo la società.

"L'intelligenza artificiale all'avanguardia e la scienza dei dati stanno spingendo l'architettura dei computer odierna oltre i suoi limiti", ha affermato Huang, "ma utilizzando Arm IP, Grace è stata progettata specificamente per AI e HPC su scala gigante. Nvidia può ora essere descritta come un'azienda a tre chip ".

Mentre la stragrande maggioranza dei data center dovrebbe essere servita da CPU esistenti, Grace è destinata a servire un segmento di nicchia dell'informatica.

Huang ha rivelato che lo Swiss National Supercomputing Center (CSCS) costruirà un supercomputer, denominato Alps, che sarà alimentato dalle GPU di nuova generazione di Grace e Nvidia.

Alps sarà costruito da Hewlett Packard Enterprise utilizzando la nuova linea di prodotti di supercomputer HPE Cray EX e la piattaforma di supercomputer Nvidia HGX e includerà le GPU Nvidia e la CPU Grace.

Gli utenti di CSCS potranno utilizzare Alps per svolgere un'ampia gamma di ricerche scientifiche emergenti, dall'analisi di documenti scientifici alla generazione di nuove molecole per la scoperta di farmaci.

Nvidia ha annunciato che anche il Los Alamos National Laboratory del Dipartimento dell'Energia statunitense porterà online un supercomputer alimentato da Grace nel 2023.

DPU Bluefield-3

Accelerando ulteriormente l'infrastruttura su cui sono costruiti data center iperscalabili, workstation e supercomputer, Huang ha presentato la nuova DPU BlueField-3.

Secondo Huang, “Questa DPU consentirà a ogni azienda di fornire applicazioni su qualsiasi scala con prestazioni leader del settore e sicurezza del data center. È stato ottimizzato per ambienti multi-tenant nativi del cloud, offrendo servizi di rete, archiviazione e gestione con accelerazione hardware definiti da software su scala data center ".

Dove BlueField-2 ha scaricato l'equivalente di 30 core CPU, con Bluefield-3 ci vorrebbero 300 core CPU per proteggere, scaricare e accelerare il traffico di rete a 400 Gbps in quanto fornisce un salto di 10 volte nelle prestazioni, ha spiegato Huang.

Sia Grace che BlueField costituiscono parti essenziali di una roadmap del data center che ora consiste di CPU, GPU e DPU, ha aggiunto Huang.

“Ogni architettura di chip ha un ritmo di due anni con probabilmente un kicker intermedio. Un anno si concentrerà sulle piattaforme x86, il prossimo sulle piattaforme Arm ", ha affermato Huang, che ha aggiunto:" Ogni anno vedrai nuovi entusiasmanti prodotti da noi ".

Espansione del braccio nel cloud

Parlando prima della notizia che il governo del Regno Unito stava ordinando all'autorità garante della concorrenza del Regno Unito, la CMA, di indagare sulla proposta di acquisizione di Arm, Huang ha parlato a lungo di Arm e ha affermato che è diventata la CPU più popolare al mondo per `` una buona ragione '' , suggerendo che non era solo "super efficiente dal punto di vista energetico", ma che il suo "modello di licenza aperta ha ispirato un mondo di innovatori".

Se quel modello rimane in vigore nel caso l'acquisizione procedesse rimane un punto controverso, ma Huang ha usato il suo keynote per annunciare nuove partnership di Arm che coprono Amazon Web Services nel cloud computing, Ampere Computing nel cloud computing e scientifico, Marvel nei server edge iperconvergenti e MediaTek che creerà un SDK per PC Chrome OS e Linux e un sistema di riferimento.

“L'ecosistema globale di società tecnologiche di Arm porterà i prodotti basati su Arm in nuovi mercati come cloud, supercomputer, PC e sistemi autonomi. Con l'annuncio delle nuove partnership, stiamo compiendo passi importanti per espandere l'ecosistema Arm oltre i dispositivi mobili e incorporati ", ha affermato Huang.

Nvidia e AWS stanno collaborando per distribuire istanze basate su ARM con accelerazione GPU nel cloud. Le nuove istanze di Amazon EC2 riuniranno i processori AWS Graviton2 e le GPU Nvidia per fornire una serie di vantaggi tra cui costi inferiori, supporto per esperienze di streaming di gioco più ricche e maggiori prestazioni per i carichi di lavoro basati su ARM.

Le istanze consentiranno agli sviluppatori di giochi di eseguire giochi Android in modo nativo su AWS, accelerare il rendering e la codifica con le GPU Nvida e lo streaming di giochi su dispositivi mobili senza la necessità di eseguire software di emulazione.

Arm HPC Developer Kit di Nvidia è stato sviluppato per supportare il calcolo scientifico in mezzo alla crescente necessità di supercomputer e data center efficienti dal punto di vista energetico.

Il kit include una CPU Ampere Altra, con 80 core Arm Neoverse fino a 3.3 GHz; due GPU Nvidia A100, ciascuna che fornisce 312 teraflop di prestazioni di deep learning FP16, nonché due DPU BlueField-2, destinate ad accelerare il networking, l'archiviazione e la sicurezza.

Sviluppatori e partner ISV possono utilizzare il devkit per migrare e convalidare il proprio software e condurre analisi delle prestazioni.

I centri di elaborazione che lo implementano includono Oak Ridge National Laboratory, Los Alamos National Laboratory e Stony Brook University negli Stati Uniti; il National Center for High Performance Computing, a Taiwan; e l'Istituto coreano di scienza e tecnologia.

Omniverse di Nvidia

Huang ha anche svelato Nvidia Omniverse. Una piattaforma nativa per il cloud, scalabile a più GPU, fisicamente accurata è in grado di ricreare mondi virtuali 3D che sfruttano il tracciamento del percorso in tempo reale RTX e DLSS, simula i materiali con Nvidia MDL, simula la fisica con Nvidia PhysX e integra completamente Nvidia AI.

Secondo Huang the, “Omniverse è stato creato per creare mondi virtuali 3D condivisi. Uno non diverso dal metaverso di fantascienza descritto da Neal Stephenson nel suo romanzo dei primi anni '1990 "Snow Crash" "

Omniverse sarà disponibile per licenze aziendali ed è attualmente con partner open beta come Foster and Partners in architettura, ILM in entertainment, Activision in gaming e il gigante pubblicitario WPP.

Dimostrare le possibilità dell'Omniverse Huang, insieme a Milan Nedeljković, membro del consiglio di amministrazione di BMW, ha mostrato come potrebbe essere un modello digitale fotorealistico e in tempo reale - un "gemello digitale" di una delle fabbriche altamente automatizzate di BMW utilizzato per accelerare la produzione moderna.

"Queste nuove innovazioni ridurranno i tempi di pianificazione, miglioreranno la flessibilità e la precisione e produrranno una pianificazione più efficiente del 30%", ha affermato Nedeljković.

Altri annunci includevano la presentazione del Megatron, un framework per la formazione di Transformers, che ha portato a scoperte rivoluzionarie nell'elaborazione del linguaggio naturale: i trasformatori generano riepiloghi di documenti, frasi complete in e-mail, quiz sui voti, generano commenti sportivi dal vivo, persino codice - così come nuovi modelli per Clara Discovery, le librerie di accelerazione di Nvidia per la scoperta di farmaci computazionali.

Un altro annuncio riguardava Nvidia Morpheus, una piattaforma di sicurezza del data center per l'ispezione di tutti i pacchetti in tempo reale basata su Nvidia AI, BlueField, software di telemetria di rete Net-Q ed EGX.

Per accelerare l'intelligenza artificiale conversazionale, Huang ha anche annunciato la disponibilità di Nvidia Jarvis, un'intelligenza artificiale di apprendimento profondo all'avanguardia per il riconoscimento vocale, la comprensione della lingua, le traduzioni e il parlato espressivo.

Oggi, Nvidia offre ora GPU, CPU e DPU e continua a investire pesantemente nell'IA e nell'Omniverso dell'azienda

Nel concludere il suo discorso di apertura, Huang, rivolgendosi al pubblico online, ha affermato che Nvidia era "lo strumento per il lavoro della tua vita" e nella gamma e nell'ampiezza degli annunci ha reso chiara la portata dell'ambizione dell'azienda e la sua "singolare ambizione".