法士特科技2月12日报道,英伟达正式推出的新一代GH200 Grace Hopper超级芯片平台,是全球首款采用HBM3E高带宽内存的平台,首次将CPU和GPU融合在一块主板上,可以满足全球最复杂的生成式AI负载需求。
今天,第一台配备 GH200 Grace Hopper 的 PC 在德国商店有售,外形尺寸约为 19 英寸。
在定位方面,它显然不适合游戏和传统工作站,更准确的定位应该是专注于在本地运行大型语言模型的AI工作站。
该主机配备 480GB 的LPDDR5X RAM,如果算上 96GB HBM3 RAM(甚至 GH200 中的 144GB HBMe),则为 576GB-624GB。
价格方面,96GB HBM3内存版售价为4.75万欧元(约合人民币37万元),现已上市,其中144GB HBMe版预计将于2024年第二季度上市,售价为5.95万欧元(约合人民币46万元)。
该 AI 工作站由 NVIDIA GH200 Grace Hopper 处理器提供支持,该处理器具有 72 个 ARM 内核(也提供 144 核版本)和专用的 NVIDIA H100 加速器,因此它配备了双 2000W 电源和海量存储,支持各种连接扩展选项(包括 NVIDIA Bluefield Connect-X)。
PC 的冷却系统使用猫头鹰风扇、附加组件、可选的 NVIDIA Bluefield-3 和 ConnectX-7 网卡、8TB SSD、30TB HDD、鼠标和键盘,甚至还有 RTX 4060。
在性能方面,这家德国公司声称这款 AI 工作站可以提供 67 Teraflops FP Teraflops TF Teraflops FP Teraflops FP Tops INT8 计算性能。
在 Emerald Rapids 和 Bergamo 等软件的 23 次测试中,结论是 GH200 Grace CPU 的性能可与 Intel Xeon Platinum 8592+ Emerald Rapids 处理器相媲美。