Nvidia发布ChatGPT专用GPU，性能提升10倍！
添加书签
3月21日，Nvidia 2023GTC大会召开。Nvidia创始人兼首席执行官黄仁勋介绍了四款AI推理芯片、三个大模型云服务、超级计算机，以及针对场景优化的应用100个、新功能的工业元宇宙Omniverse。
其中，针对ChatGPT等大语言模型的巨大算力需求，Nvidia推出了H100 NVL，这与用于GPT-3的HGX A100相比，整体性能提升10倍，可以将大语言模型的处理成本降低一个数量级。
据悉，H100 NVL由两个H100芯片组成，每个芯片都有94G显存，一共188G显存，芯片之间提供了900 G/s的带宽，比PCIe Gen 5快了7倍，这也是Nvidia目前最强GPU之一。
除了H100 NVL之外，Nvidia 还发布了L4 GPU，该 GPU专门为AI自动生成视频提供算力。Nvidia 表示，L4处理AI生成的视频的能力是CPU的120倍，能效提高了 99%。除了用于生成AI视频外， L4具有视频解码和转码功能，可用于增强现实。
由于L4内存容量增加了50%，可以生成更大的图像，最高可达1024×768，这在上一代 GPU上是不可能实现的。
Nvidia表示，Google Cloud 是首批应用 L4 的公司之一。谷歌计划在今天晚些时候通过其 Vertex AI 平台向客户提供L4服务。Nvidia将在稍后从合作伙伴处提供该产品，包括联想、戴尔、华硕、惠普、技嘉和惠普等。
END
加入AIGC开放社区交流群
添加微信：13331022201 ，备注“职位信息&名字”
管理员审核后加入讨论群
