Grace Hopper für
OpenFOAM 

Mit dem NVIDIA Grace Hopper steht Entwicklern ein modulares System zur Verfügung, das selbst anspruchsvolle CFD-Simulationen mit OpenFOAM optimal unterstützt. Für die Anwendung komplexer Simulationsmodelle in der Produktentwicklung ist es notwendig, die Berechnungen massiv parallel auf modernsten Rechenarchitekturen durchzuführen. 

OpenFOAM-basierte Anwendungen auf Grace Hopper-Architekturen nutzen das Leistungspotenzial der Server optimal aus. Im Vergleich zu anderen Systemen wie zum Beispiel dem x86 System ohne Hopper braucht die NVIDIA Grace Hopper-Architektur nur 15 Prozent statt 35 Prozent Runtime. Insgesamt werden in der Regel nur 85 Prozent des Runtimes CPU-seitig verwendet, was eine gute Grundlage für schnellere und kürzere Entwurfs-zyklen bietet. Egal wie viele Produktvarianten existieren: Mit der passenden IT-Infrastruktur für OpenFOAM steigern Ingenieure die Qualität von Simulationen und beschleunigen die virtuelle Produktentwicklung signifikant. 

Grace Hopper für
Large Language Models

NVIDIA liefert mit Grace Hopper einen soliden Server, der optimal zu den Anforderungen anspruchsvoller KI-Workloads skaliert. Large Language-Modelle basieren auf Milliarden bis Billiarden von Daten und benötigen daher eine große Rechenleistung, um das Verstehen und die Erstellung von Sprache zu ermöglichen. 

NVIDIA Grace Hopper ist speziell für das Training großer KI-Modelle entwickelt und ermöglicht durch seine Architektur einen hohen Daten-durchsatz. Aufgrund des verwendeten HBM3-Speicher erreicht Grace Hopper bei einer Batch Size von 1 eine Speicherbandbreite von nahezu 100 Prozent. Während andere Systeme wie x86 Systeme ab einem Batch Size von 4 einen Leistungsrückgang verzeichnen, unterstützt das NVLink in Grace Hopper die Workloads um das 4,5 fache. So können trainierte Large Language-Modelle mit Grace Hopper komplexe Anfragen in kürzester Zeit erfassen und die riesigen Datensätze schnell verarbeiten.

Grace Hopper für
Rekommender Systems

Recommender Systeme (auf Deutsch auch Empfehlungsdienste oder Filter) nutzen leistungsstarke KI-Infrastrukturen, um Endbenutzern und Kunden zu helfen, die Inhalte, Produkte und Dienstleistungen zu finden, an denen sie am meisten interessiert sind. Die dahinterstehende Kombination aus ausgefeilten KI-Modellen und großen Datensätzen erfordert oftmals umfassende Rechenressourcen.  

NVIDIA Grace Hopper ist die richtige Infrastruktur zur Verwaltung großer Modelle und massiver Daten in Empfehlungssystemen und hebt die Interaktion mit nutzergenerierten Inhalten auf eine nächste Stufe. NVIDIA Grace Hopper fördert hochdurchsatzfähige Empfehlungssystem-Pipelines, da das System eine hervorragende Speicherleistung im CPU-Bereich bietet. Ermöglicht wird dies durch NVIDIAs NVLink: die direkte, leistungsstarke Kommunikationsbrücke zwischen einem Paar GPUs liefert einen High-Bandwidth-Zugriff auf die lokalen HBM3-Speicher und LPDDR5X-Speicher. Dies beschleunigt das Arbeitstempo und unterstützt die verwendeten KI-Modelle dabei präzisere, relevantere und schnellere Ergebnisse an die Endbenutzer zu liefern. 

Grace Hopper für
Graph Neural Networks

Graph Neural Network (GNN) bietet bereits heute beeindruckende Leistung und eine hohe Interpretierbarkeit, insbesondere in dem Bereich, in dem Beziehung und Interaktion von Daten eine wichtige Rolle spielen. Damit die Modelle in kurzer Zeit große Datenmengen genaue analysieren und vorhersagen können, bedarf es einer hohen Rechenleistung.

NVIDIA Grace Hopper bietet für Anwendungsfälle im Bereich von GNN die richtige Infrastruktur. Anwender erhalten mit Grace Hopper die strukturelle Basis, um schnell und effizient die numerische Darstellung eines Graphen zu konstruieren, die später zum Trainieren von Machine-Learning-Algorithmen verwendet werden kann. Für die Verarbeitung strukturierter Daten und das Training von GNN steht dem Anwender ein hoher Bandbreitenzugriff auf LPDDR5X und eine NVLink-C2C-Verbindung zur Verfügung. Die großen Speicherkapazitäten von Grace Hopper lösen graphenbasierte, maschinelle Lernaufgaben in kürzester Zeit.

Sie möchten mehr erfahren?

Weitere Informationen finden Sie im NVIDIA-Whitepaper
'Performance and Productivity for Strong-Scaling HPC and Giant AI Workloads'