Logo Leicom ITEC AG
Spiegelung Gebäudefassaden Spiegelung Gebäudefassaden

NVIDIA und das neue Paradigma der künstlichen Intelligenz.

15.01.2025

NVIDIA's CEO, Jensen Huang hat Project DIGITS vorgestellt, einen Desktop-KI-Supercomputer mit dem neuen GB10 Grace Blackwell-Chip, der einen bedeutenden Fortschritt im Bereich der künstlichen Intelligenz und der technologischen Entwicklung darstellt.

Der neue GB10 Grace Blackwell Superchip bietet 1 PetaFLOP KI-Rechenleistung. Zum Vergleich: Ein High-End-Laptop erreicht etwa 1 TeraFLOP, was bedeutet, dass Project DIGITS "theoretisch" 1.000-mal leistungsstärker ist und enorme Datenmengen deutlich schneller als herkömmliche Lösungen verarbeiten kann.

Das "theoretisch" ist wichtig, da NVIDIA derzeit keine Angaben zur Rechengenauigkeit macht. Es bleibt abzuwarten, bis detaillierte Benchmarks vorliegen, um die tatsächliche Leistung in verschiedenen Anwendungsszenarien zu bewerten.
Die Rechengenauigkeit (FP - Floating Point) ist entscheidend, um die tatsächliche Leistung zu verstehen: Während KI-Inferenz auch mit niedrigen Genauigkeiten wie FP8 oder FP4 effektiv arbeiten kann, erfordern andere Workloads wie Training, wissenschaftliche Simulationen oder 3D-Grafiken höhere Genauigkeiten (FP16, FP32). Jede Halbierung der Genauigkeit kann die Leistung theoretisch verdoppeln, jedoch auf Kosten der Berechnungsgenauigkeit.

Project DIGITS kann 200 Milliarden Parameter verarbeiten (405 in einer Dual-System-Konfiguration) und ermöglicht fortschrittliche Analysen in komplexen Kontexten, Echtzeitverarbeitung und die Ausführung komplexer Modelle, die mit GPT-3.5 vergleichbar sind.

Allerdings ist Project DIGITS weit davon entfernt, Modelle wie GPT-4 zu unterstützen, das etwa 1,8 Billionen Parameter verwendet. Damit positioniert es sich als leistungsstarke Lösung für lokale Anforderungen, ist jedoch nicht für das Training oder die Ausführung von Modellen im Maßstab großer Cloud-Infrastrukturen ausgelegt.

Technische Hauptmerkmale:

  • 128 GB einheitlicher und kohärenter Speicher

  • Bis zu 4 TB NVMe-Speicher

  • NVIDIA Grace CPU mit 20 energieeffizienten Kernen basierend auf Arm-Architektur

Schlüsselfunktionen:

  • Ermöglicht die Entwicklung und das Testen von KI-Modellen auf dem eigenen Desktop

  • Unterstützt die Bereitstellung in der Cloud oder im Rechenzentrum

  • Kompatibel mit gängigen Frameworks wie PyTorch und Python

  • Zugriff auf NVIDIA-Bibliotheken für KI und Datenwissenschaft

NVIDIA hat keine genauen Angaben zum Energieverbrauch gemacht, betonte jedoch, dass Project DIGITS für den Betrieb an einer normalen Standardsteckdose (120/240 V) ausgelegt ist. Dies deutet auf einen relativ niedrigen Energieverbrauch im Vergleich zu traditionellen KI-Rechensystemen hin, die spezielle Infrastrukturen erfordern. Basierend auf High-End-GPUs kann ein Verbrauch zwischen 500 und 1.000 W geschätzt werden, wodurch es für den Einsatz in Heim- und Büroumgebungen geeignet ist, ohne elektrische Anpassungen oder zusätzliche Kühlinfrastrukturen.

Mit einem Preis von 3.000 $ positioniert sich DIGITS strategisch:

  • Erschwinglich für universitäre Forschungslabore

  • Attraktiv für KI-Startups

  • Wettbewerbsfähig im Vergleich zu Cloud-Ressourcen mit Vorteilen in Bezug auf Sicherheit und Datenkontrolle

Zukunftsperspektiven:
Mit Project DIGITS führt NVIDIA ein KI-Entwicklungsmodell ein, das Zugänglichkeit, Leistung und Einfachheit vereint. Es ersetzt zwar nicht vollständig Cloud-Infrastrukturen, bietet jedoch eine konkrete und skalierbare Alternative für Entwickler, Forscher und kleine Organisationen.

Project DIGITS zeigt, wie KI zugänglicher und vielseitiger wird. Es bringt fortschrittliche KI-Rechenkapazitäten direkt auf den Schreibtisch und bietet eine Balance zwischen Leistung, Effizienz und Kosten. Damit eröffnet es nicht nur Experten auf dem Gebiet der künstlichen Intelligenz, sondern auch innovativen Köpfen in anderen Bereichen neue Möglichkeiten. Dabei sollte nicht vergessen werden, dass es als ergänzende Technologie zu groß angelegten Infrastrukturen wie denen für Modelle wie GPT-4 zu betrachten ist.