Der HPE ProLiant DL384 Gen12 Server bietet erhebliche Vorteile in Bezug auf Speicher und Bandbreite, die für die Verarbeitung großer KI-Modelle entscheidend sind. Mit der NVIDIA GH200 NVL2 Architektur unterstützt der Server bis zu 1,2 TB an kombiniertem schnellen Speicher. Diese Konfiguration bietet eine hohe Bandbreite zwischen der NVIDIA Grace CPU und der Hopper GPU, was es ermöglicht, größere Modelle effizienter zu verarbeiten und Anwendungen zu unterstützen, die Terabytes an Daten verarbeiten.