英偉達 Hopper 架構 H100 GPU 全面投產

IT之家 9 月 21 日訊息，據英偉達官方訊息，英偉達於今日宣佈 NVIDIA H100 Tensor Core GPU 全面投產，NVIDIA 全球技術合作夥伴計劃於 10 月推出首批基於開創性 NVIDIA Hopper 架構的產品和服務。

IT之家瞭解到，

H100 於 2022 年 4 月釋出，由 800 億個電晶體組成

，並採用了眾多開創性的技術，包括強大的全新 Transformer 引擎和 NVIDIA NVLink 互連技術，以加速最大規模的 AI 模型，如高階推薦系統和大型語言模型，並推動對話式 AI 和藥物發現等領域的創新。

英偉達表示，H100 使企業能夠削減 AI 的部署成本，相較於上一代，

在提供相同 AI 效能的情況下，可將能效提高 3.5 倍

，總體擁有成本減少至 1/3，所使用的伺服器節點數也減少至 1/5。

NVIDIA DGX H100 系統現在也已開始接受客戶預定。

該系統包含 8 個 H100 GPU，FP8 精度的峰值效能達到 32 PFlops

。每個 DGX 系統都包含 NVIDIA Base Command 和 NVIDIA AI Enterprise 軟體，可實現從單一節點到 NVIDIA DGX SuperPOD 的叢集部署，為大型語言模型和其他大規模工作負載的高階 AI 開發工作提供支援。

全球領先的計算機制造商所提供的搭載 H100 的系統預計將在未來幾周內發貨，

到今年年底將有超過 50 款伺服器型號面市，2023 年上半年還將有數十款型號面市

。已在構建系統的合作伙伴包括源訊（Atos）、思科、戴爾科技、富士通、技嘉科技、慧與、聯想和超微。