NVIDIA übertrifft MLPerf-Benchmarks mit H100-GPUs und beweist, warum es der unangefochtene Marktführer auf dem KI-Markt ist

Die H100-GPUs von NVIDIA stehen in Sachen KI an der Spitze des Spektrums und das Unternehmen hat erneut neue Rekorde bei MLPerf-Benchmarks aufgestellt.

NVIDIAs Führungsrolle im Bereich KI setzt sich fort, da Hopper H100-GPUs eine rekordverdächtige generative KI-Leistung mit MLPerf erreichen

In den neuesten von NVIDIA veröffentlichten MLPerf-Benchmarks hebt das Unternehmen hervor, dass es mehrere neue Rekorde aufgestellt hat, wobei der Eos-Supercomputer einen Trainingsbenchmark basierend auf einem GPT-3-Modell mit 175 Milliarden Parametern absolviert hat, die auf einer Milliarde Token in nur 3,9 Minuten trainiert wurden . Dies ist ein enormer Fortschritt gegenüber dem vorherigen Rekord, bei dem der Supercomputer den gleichen Benchmark in 10,9 Minuten absolvieren konnte, was einer satten Steigerung um das Dreifache entspricht.

Nun sind die vom Supercomputer erzielten Zahlen tatsächlich phänomenal, aber was ist der Hauptgrund für diese Leistung?

Mit einfachen Worten: Die hochmoderne Hopper-GPU-Architektur von NVIDIA ist mit ausgefeilten Softwareressourcen gekoppelt. Der Eos-Supercomputer verwendet derzeit 10.752 NVIDIA H100 Tensor Core-GPUs, die die relativ älteren A100 ersetzten, weshalb der enorme Leistungsschub überhaupt erst auftritt. Darüber hinaus gelang es Team Green durch gut entwickelte Softwareressourcen wie NVIDIAs NeMo , das das LLM-Training unterstützt, außergewöhnliche Leistung aus seiner Plattform herauszuholen.

Darüber hinaus ist ein weiterer Rekorderfolg von NVIDIA, der in dem Beitrag erwähnt wird, die Fortschritte bei der „Systemskalierung“, bei der das Unternehmen mithilfe verschiedener Softwareoptimierungen erfolgreich eine Effizienzrate von 93 % vorweisen konnte. Die 10.752 H100-GPUs übertrafen die Skalierung im KI-Training im Juni bei weitem, als NVIDIA 3.584 Hopper-GPUs verwendete. Die Bedeutung einer effizienten Skalierung ist in der Branche immens, da das Erreichen einer hohen Rechenleistung den Einsatz von mehr Hardwareressourcen erfordert und ohne angemessene Softwareunterstützung die Effizienz des Systems stärker beeinträchtigt wird.

Die Rolle von NVIDIA in der KI-Branche ist von großer Bedeutung, da das Unternehmen zumindest vorerst in der Lage ist, die leistungsfähigsten KI-GPUs zu liefern, die die Menschheit kennt. Abgesehen vom finanziellen Aspekt hat Team Green zügig an seinen Softwareressourcen gearbeitet und mit Kunden zusammengearbeitet, um sicherzustellen, dass sein Produktportfolio optimale Leistung liefert und dabei Effizienz und Stabilität aufrechterhält.

Nachrichtenquelle: NVIDIA Blog