军事瞭望网

让建站和SEO变得简单

让不懂建站的用户快速建站,让会建站的提高建站效率!

军事历史 你的位置:军事瞭望网 > 军事历史 > GPU,改日怎么发展?

GPU,改日怎么发展?

发布日期:2024-10-31 09:15    点击次数:177

(原标题:GPU,改日怎么发展?)

要是您但愿不错不时碰头,迎接标星储藏哦~

起首:内容来自datacenterdynamics,谢谢。

“咱们实质上并莫得接头芯片。”

伊恩·巴克 (Ian Buck) 一世中的大部折柳艺王人在念念考芯片。但当今,这位大师最大芯片公司 Nvidia 的加快计较主宰,正在作念更浩大的事情。

“你不可把 Blackwell 手脚芯片来买,”Buck 告诉DCD,他指的是下一代 GPU 居品线,Buck 亦然该公司数据中心和 HPC 业务的副总裁。“这是有原因的 - 它但愿与 CPU 集成。它但愿与 NV Link 集成。它但愿聚会起来。”

Nvidia 不再专注于单一的半导体业务,而是转型成为一家平台企业。它不再为单一的加快器而烦嚣,而是专注于大型集成系统。

“这是咱们在 Pascal 一代(2016 年)作念出的决定,因为东谈主工智能需要跨多个 GPU,”Buck 说谈。“P100 时期改动了咱们构建的东西以及咱们推向市集或提供的东西。当今,是系统。”

Buck 暗示,这仍是初始改动数据中心的组成。“计较变革的契机始于超等计较,但跟着东谈主工智能的出现,这一契机仍是扩大。

“每个数据中心王人酿成了一个 AI 工场。它不所以浮点运算次数或兆瓦来推敲的,而所以每秒令牌数以及您将些许 TB 的数据更动为公司的分娩力收益来推敲的。”

不管是否是泡沫,这一机遇王人激发了新数据中心缔造激昂。“但他们不可等两年才进行缔造名堂,”Buck 说谈。“因此,咱们看到东谈主们加快淘汰旧基础门径;他们只是将 CPU 基础门径移出,将 GPU 移入,然后加快缔造,这么每个数据中心王人不错成为 AI 工场。”

他补充谈:“你将看到的不单是是 Nvidia 的一款 GPU,而是多种平台和生态系统的羼杂体,让每个东谈主王人能构建我方所需的 AI 工场和责任负载。每个东谈主王人将处于这一旅程的不同阶段或不同的优化点。”

固然,尽管 Nvidia 试图开脱对这些所谓“AI 工场”内特定芯片的温雅,但它们的热联想点 (TDP) 决定了系统其余大部分部件的组成。“Hopper 的功率为 700W,咱们确乎接受了空气冷却,”Buck 说谈。

“HGXB100 的功率亦然 700W,它的联想无意合适 Hopper 的位置,”他补充谈。“因此,当 HGXB100 上市时,咱们通盘的处事器、通盘数据中心,以致机架功率王人不错保合手不变。”

Buck 宣称,行业不错“运用通盘生态系统,对其进行升级并大范围部署”。他还暗示,客户“不错充分运用 Blackwell GPU,因为 P4 是疏通引擎,不错将 NV Link 速率普及一倍。因此,Blackwell 的上市速率将比 Hopper 快得多,部分原因就在于此。”

该公司还推出了 1,000W 版块的 HGX - “相同的硅片,略微修改了处事器,它们必须稍稍高少许,而且接受不同的空气冷却措置有打算。基本上,这是空气冷却所能达到的最大成果。”

但在那之后,事情就变得有点复杂了。“关于 NVL72,咱们但愿确保领有最佳的居品,”Buck 说谈,机架配有 B200 GPU。“每个 GPU 的功率为 1,200W,这成为液体冷却确凿切驱能源。

“1U 中有 4 个 GPU?Liquid 关于发达 NVL72 的上风至关贫寒。这可为您带来 30 倍以上的推感性能。”

然而,最佳的并不老是最佳的。“TDP 并不是讲演这个问题的正确表情,”他辩称。“责任负载是些许,什么最合适您的竖立?要是您正在进行 70 亿或 700 亿的参数模子推理,HGX 可能是理想的选拔,它可能不需要一直使用 100% 的功率。”

然而,趋势显然是芯片尺寸更大、功耗更大、需要冷却到更低的温度。Nvidia 自己是好意思国能源部 Coolerchips 名堂标一部分,该名堂专注于为越来越热的半导体提供绝对的冷却措置有打算。

Buck 拒却评述 TDP 的发展意见,尤其是在公司转向每年发布 GPU 的情况下。“咱们只是尽可能快地运行,”他说。“不恭候。不保留任何东西。咱们将尽咱们所能打造最佳的居品并不息前进。”

https://www.datacenterdynamics.com/en/analysis/nvidia-ian-buck-gpu-data-center/

半导体极品公众号推选

专注半导体领域更多原创内容

温雅大师半导体产业动向与趋势

*免责声明:本文由作家原创。著述内容系作家个东谈主不雅点,半导体行业不雅察转载仅为了传达一种不同的不雅点,不代表半导体行业不雅察对该不雅点赞同或支撑,要是有任何异议,欢招待洽半导体行业不雅察。

今天是《半导体行业不雅察》为您共享的第3921内容,迎接温雅。

『半导体第一垂直媒体』

及时 专科 原创 深度

公众号ID:icbank

可爱咱们的内容就点“在看”共享给小伙伴哦



Powered by 军事瞭望网 @2013-2022 RSS地图 HTML地图

Copyright Powered by站群系统 © 2013-2024