AI数据中心GPU紧缺正在缓解,电力将成新瓶颈

玩数据还有点懒 2024-05-23 11:12:05

随着Open AI等生成式AI应用席卷全球,高性能GPU市场需求持续高涨,英伟达GPU产品供应紧俏,屡屡传出缺货。业界分析,英伟达高性能GPU由台积电制造,采用CoWoS进行封装,但台积电CoWoS先进封装产能不足以应对市场对AI的需求。之后台积电积极扩产CoWoS,随着产能补充,英伟达GPU出货量逐渐稳定。

AI发展面临电力新挑战

随着GPU渐渐不再短缺,企业开始投入大笔资金,建造数据中心等基础设施以跟上AI发展趋势。

然而扎克伯格认为,接下来电力供应将成AI发展关键,其表示,许多新数据中心用电可达50MW至100MW,大型数据中心用电可能达到150MW,日后数据中心用电规模将越来越大,终将遭遇电力瓶颈。

因为能源行业不同于AI领域,造一座新电厂并非一项简单任务,考虑到法律(尤其发展核能)、电力输送规划和建设等因素,从制定计划到电力实际进入电网可望需要数年时间。因此, 资本投入不能在短时间内收获成效,新增电力供给的交付远慢于数据中心本身。

为应对未来可能存在的电力危机,媒体报道近期Meta正与美国佐治亚州一家名为Silicon Ranch的太阳能厂商合作,为数据中心提供电力。

无独有偶,今年4月特斯拉首席执行官马斯克也围绕AI发展做出预警,其表示AI下一个短缺的将是电力,明年可能没有足够电力运行所有芯片。

此外,OpenAI首席执行官山姆·奥特曼也曾对外表示,AI将消耗比人们预期更多的电力,未来AI发展需要清洁能源突破。

电力将取代GPU称成AI新瓶颈

随着技术的不断进步,目前新建的单一数据中心的功耗已经达到了惊人的50~150MW。然而,扎克伯格认为,我们不太可能很快看到1GW级别的数据中心出现。这是因为,其功耗相当于一整个核电机组的发电能力,仅用于AI训练就显得过于庞大。

扎克伯格进一步指出,全球各国对能源行业的管理日渐严格,这也影响到了大型数据中心的建设。为数据中心配套的能源设施,包括发电站、变电站和输电系统,其审批过程变得更加繁琐和缓慢。同时,这些设施的建设周期也相对较长,无法迅速满足数据中心对电力的巨大需求。

因此,他预测AI数据中心的发展速度将无法长期保持现状,最终将受到电力供应的限制。与AI技术的迅速发展不同,能源行业的资本投入需要较长时间才能看到成效,新增电力供给的速度远远跟不上数据中心的增长速度。

与此同时,数字基础设施投资管理企业DigitalBridge在最近的财报会议上也表达了类似的观点。他们预计在未来的18~24个月内,公司的电力配额将被耗尽,这进一步印证了电力将成为AI数据中心发展的新瓶颈。

免责声明:

1、本号不对发布的任何信息的可用性、准确性、时效性、有效性或完整性作出声明或保证,并在此声明不承担信息可能产生的任何责任、任何后果。

2、 本号非商业、非营利性,转载的内容并不代表赞同其观点和对其真实性负责,也无意构成任何其他引导。本号不对转载或发布的任何信息存在的不准确或错误,负任何直接或间接责任。

3、本号部分资料、素材、文字、图片等来源于互联网,所有转载都已经注明来源出处。如果您发现有侵犯您的知识产权以及个人合法权益的作品,请与我们取得联系,我们会及时修改或删除。

0 阅读:2

玩数据还有点懒

简介:感谢大家的关注