芯片功率奔向1000瓦 冷却成为头号问题

芯片功率奔向1000瓦 冷却成为头号问题

据anandtech报道,高性能计算 (HPC) 领域越来越明显的一个趋势是,每个芯片和每个机架单元的功耗不会因空气冷却的限制而停止。

由于超级计算机和其他高性能系统已经达到——并且在某些情况下超过了这些限制——功率要求和功率密度不断扩大。

根据台积电最近一年一度的技术研讨会的消息,随着台积电为更密集的芯片配置奠定基础,我们应该期待看到这种趋势继续下去。

手头的问题并不是一个新问题:晶体管功耗的缩小速度几乎没有晶体管尺寸那么快。由于芯片制造商不会放弃性能(并且无法为客户提供半年增长),因此在 HPC 空间中,每个晶体管的功率正在迅速增长。

另一个问题是,chiplet正在为构建具有比传统标线限制更多硅的芯片铺平道路,这对性能和延迟有好处,但在冷却方面更成问题。

支持这种硅和功率增长的是 台积电 CoWoS 和 InFO等现代技术,它们允许芯片制造商构建集成的多芯片系统级封装 (SiP),其硅量是台积电的两倍。

受到标线(reticle )限制。到 2024 年,台积电 CoWoS 封装技术的进步将使构建更大的多芯片 SiP 成为可能,台积电预计将超过四个标线大小的芯片缝合在一起,这将实现巨大的复杂性(每个 SiP 有可能超过 3000 亿个晶体管)台积电及其合作伙伴正在关注)和性能,但自然是以巨大的功耗和发热为代价的。

NVIDIA 的 H100 加速器模块等旗舰产品已经需要超过 700W 的功率才能实现峰值性能。因此,在单个产品上使用多个 GH100 大小的chiplet的前景令人大跌眼镜 – 以及功率预算。

台积电预计,几年后将出现功耗约为 1000W 甚至更高的多芯片 SiP,从而带来冷却挑战。

在 700W 时,H100 已经需要液冷;英特尔的基于chiplet的 Ponte Vecchio 和 AMD 的 Instinct MI250X 的故事大致相同。但即使是传统的液体冷却也有其局限性。

当芯片累计达到 1 kW 时,台积电设想数据中心将需要为这种极端的 AI 和 HPC 处理器使用浸入式液体冷却系统。

反过来,浸入式液体冷却将需要重新构建数据中心本身,这将是设计上的重大变化,也是连续性方面的重大挑战。

撇开短期挑战不谈,一旦数据中心设置为浸入式液体冷却,它们将为更热的芯片做好准备。液浸式冷却在处理大型冷却负载方面具有很大潜力,这也是英特尔大力投资这项技术以使其更加主流化的原因之一。

除了浸没式液体冷却,还有另一种技术可以用来冷却超热芯片——片上水冷。去年,台积电透露它已经尝试过片上水冷,并表示甚至可以使用这种技术冷却 2.6 kW 的 SiP。但当然,片上水冷本身就是一项极其昂贵的技术,它将把那些极端的 AI 和 HPC 解决方案的成本推到前所未有的水平。

尽管如此,虽然未来不是一成不变的,但似乎它已经用硅铸造了。

台积电的芯片制造客户有客户愿意为这些超高性能解决方案(想想超大规模云数据中心的运营商)支付高昂的费用,即使这需要高成本和技术复杂性。让事情回到我们开始的地方,这就是台积电首先开发 CoWoS 和 InFO 封装工艺的原因——因为有客户准备好并渴望通过chiplet技术打破标线限制。

今天,我们已经在 Cerebras 的大型晶圆级引擎处理器等产品中看到了其中的一些,并且通过大型小芯片,台积电正准备让更广泛的客户群更容易获得更小的(但仍然是标线断裂)设计。

对性能、封装和冷却的这种极端要求不仅将半导体、服务器和冷却系统的生产商推向了极限,而且还需要对云数据中心进行修改。

如果用于 AI 和 HPC 工作负载的大规模 SiP 确实变得普遍,那么未来几年云数据中心将完全不同。

本文来自“玖玖言”用户投稿,该文观点仅代表作者本人,不代表华夏信息网立场,本站不对文章中的任何观点负责,内容版权归原作者所有、内容只用于提供信息阅读,无任何商业用途。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站(文章、内容、图片、音频、视频)有涉嫌抄袭侵权/违法违规的内容,请发送邮件至1470280261#qq.com举报,一经查实,本站将立刻删除、维护您的正当权益。如若转载,请注明出处:http://www.xxxwhg.com/ls/40922.html

上一篇 2022-06-30 11:23:59
下一篇 2022-06-30 11:17:11

相关推荐

  • 苹果m1芯片剪辑4k(苹果m1芯片相当于什么显卡)

    苹果m2mini剪辑选什么配置1. 苹果M2 Mini剪辑需要选择高配置。2. 因为剪辑工作对计算机的性能要求较高,需要处理大量的视频、音频和图像数据,因此需要选择配置较高的处理器、显卡和内存等硬件设备,以确保流畅的剪辑体验和高效的渲染速度。3. 此外,剪辑过程中还需要考虑存储

    2023-11-06 23:15:48
    319
  • 乐视超4x55主板(乐视电视s40主板的主芯片什么)(乐视超4x55主板升级)

    乐视电视s40主板的主芯片什么乐视电视S40的主板主芯片是瑞士联发科技(MediaTek)公司生产的MTK561U,它是一款高性能的多媒体处理器。该芯片采用64位架构,内部集成了四核ARM Cortex-A55处理器,能够提供强大的计算和图形处理能力。此外,MTK561U还支持多种高清视频和音频格式

    2023-11-04 22:15:15
    376
  • 芯片和电路板的区别(芯片是集成电路板吗)

    电路板芯片上的涂油是什么电路板芯片的涂油是胶水是流体橡胶或者AB胶或者UV胶使用自动点胶机点胶加工直接点涂在电路板芯片的表面,在特定条件下固化,从而形成一层防水密封粘接衬垫,以达到辅助固定粘接及防水密封的要求,而且成型胶体柔韧,有较好的抗震与抗冲击及抗变形能力

    2023-09-08 16:57:26
    266
  • sp202een芯片(sp202een原理图)

    sp3232芯片引脚定义SP3232是一种RS232标准的变种,只是码制、波特率等等和RS232定义都是一样的,只有一点不一样,就是高低电平的定义。单片机高电平一般是VCC,而低电平一般是GND。而RS232标准的高电平是负逻辑,而低电平是正逻辑。电脑的COM口就是标准RS232接口,它的高电平

    2023-05-20 19:46:15
    206