Nvidia宣布推出顶级H200芯片可处理更好的AI工作
•
2023-12-26 17:07:01
摘要 NVIDIA 刚刚推出了新产品 NVIDIA HGX H200，为其顶级人工智能计算平台提供了强大的动力。想象一下：它震撼了 NVIDIA H200 Tensor C...
NVIDIA 刚刚推出了新产品 NVIDIA HGX H200，为其顶级人工智能计算平台提供了强大的动力。想象一下：它震撼了 NVIDIA H200 Tensor Core GPU，发挥先进的内存能力来处理生成 AI 和高性能计算任务的重型数据负载。H200 引入了 HBM3e，这是一种涡轮增压且更宽敞的内存，可提高生成式 AI、大型语言模型 (LLM) 和 HPC 工作负载科学计算的速度。
得益于 HBM3e，H200 能够以每秒 4.8 TB 的速度提供高达 141GB 的内存，与上一代 NVIDIA H100 相比，容量几乎翻倍，带宽增加了 2.4 倍。
准备好迎接好消息了吗?H200 正准备在 2024 年第二季度首次亮相，有望带来令人印象深刻的性能提升。想象一下：与它的前身 H100 相比，Llama 2(一个拥有 700 亿参数的大型 Llama 2)的推理速度几乎翻了一番。这是您不想错过的飞跃!因此，请标记您的日历，因为科技世界即将进行重大升级。它不仅仅是一个系统;它是一个系统。这是一款即将上市的高性能产品!
现在，最酷的部分来了：NVIDIA H200 不只是单独出现;它采用服务器主板，提供适用于 NVIDIA HGX H200 的四路和八路配置。这些配置与 HGX H100 系统的硬件和软件配合良好。您还可以在带有 HBM3e 的 NVIDIA GH200 Grace Hopper 超级芯片中看到它的身影，该芯片于 8 月份首次亮相。
版权声明：本文由用户上传，如有侵权请联系删除！
标签：