NVIDIA H100 规格
NVIDIA 下一代 AI 加速器的一些细节在发布前一个小时就泄露了。
与传言称基于 Hopper 架构的 NVIDIA H100 将使用 TSMC N5 的传言相反，NVIDIA 今天宣布其最新的加速器将使用定制的 TSMC N4 工艺技术。关于晶体管数量的谣言也是错误的。这个单片 GPU 由 800 亿个晶体管构成。该芯片具有多达 16896 个用于 SXM 变体的 FP32 CUDA 内核和 14592 个用于基于 PCIe 的型号的内核。
NVIDIA H100 具有带宽为 3 TB/s 的 HBM3 内存，是 A100 的 1.5 倍。这款下一代加速器具有 80GB 的高带宽内存。不过，该技术将取决于变体，SXM 型号的 HBM3 额定速度为 3TB/s，而基于 PCIe 的 H100 GPU 的 HBM2e 额定速度为 2TB/s。
在性能方面，NVIDIA 声称 FP64、TF32、FP16 的计算能力是 A100 的 3 倍，而 FP8 的计算能力是 A100 的 6 倍。
加速器将使用 PCIE Gen5 或 SXM 外形尺寸。后者的 TDP 为 700W，正好比 A100 高出 300W。
NVIDIA 今天还推出了两个基于 ARM 的 Grace CPU 平台。一个采用 Grace CPU 与 Hopper GPU 相结合，具有 600GB 内存，而另一个采用两个 Grace CPU，共有 144 个内核。它将配备 LPDDR5X 内存。两款 Grace SuperChips 都将在 2023 年上半年上市。
原创文章，作者：校长，如若转载，请注明出处：https://www.yundongfang.com/Yun141387.html
微信扫一扫不于多少！ 
支付宝扫一扫礼轻情意重 