KI-Bestandsinfrastruktur-Erweiterung - Projekt Racoon

Leistungsbeschreibung

Worum geht es?

2.1 NVIDIA Deep Learning System DGX B300-Cluster - Los 1 Erforderliche Beschaffung von vier NVIDIA DGX B300 Systemen zur effizienten Bearbeitung rechenintensiver KI-Fragestellungen (z. B. medizinische Bildgebung, digitale Pathologie, Omics und NLP). Das System dient als zentrale Infrastruktur und ermöglicht über fortschrittliche Virtualisierung mit DGX OS / NVIDIA Enterprise AI die flexible Bereitstellung von GPU-Arbeitsplatzumgebungen für universitäre Partner im RACOON Verbundprojekt. Dabei fügen sich die neuen Systeme nahtlos in die bereits bestehende Management-Infrastruktur ein, welche auf dem NVIDIA Base Command Manager und NVIDIA Mission Control basiert. Dies sichert eine hocheffiziente, konsistente Administration ohne zusätzlichen Einarbeitungs- oder Migrationsaufwand für das Betriebsteam. Da sämtliche Algorithmen und KI-Modelle auf der proprietären NVIDIA CUDA-Architektur basieren, ist das System technisch alternativlos; eine Umstellung auf andere Architekturen oder APIs wäre mit einem unverhältnismäßig hohen und wirtschaftlich nicht vertretbaren Aufwand verbunden. Zudem baut das vorhandene GPU-Cluster-Management nativ auf diesem Software-Stack auf. Die gewählte Blackwell-Generation (B300) bietet mit 8x NVIDIA B300 GPUs, 2304 GB Gesamtspeicher und einer 800 Gbit/s InfiniBand-Anbindung die einzig adäquate Leistungsklasse. Zudem garantiert die enorme Leistungsdichte (10 HE im Rack bei max. 15,1 kW pro System) eine ressourcenschonende Integration in das kapazitätsbegrenzte Rechenzentrum.