数据中心算力成本正在迅速下降

作者:无缺更新时间:2024-03-31阅读:0

摩根士丹利的AI报告概述

  • 日期:2024年3月24日

  • 核心观点:随着GPU技术的进步,如英伟达从Hopper到Blackwell GPU架构的发展,全球人工智能(GAI)的算力成本正在显著降低。

AI算力成本的显著下降

  • 预测:AI算力成本将迅速下降,需求将蓬勃增长。

  • 数据中心模型

    • 使用Hopper GPU的数据中心每teraFLOPs资本成本为14.26美元。

    • 使用Blackwell GPU的数据中心成本为7.48美元,相比Hopper下降约50%。

  • 建设成本对比

    • Blackwell数据中心总资本成本为33.49亿美元。

    • Hopper数据中心总资本成本为35.83亿美元。

  • 电力成本对比(每兆瓦时电力成本为100美元):

    • Hopper数据中心年度电力成本约为每teraFLOPs 0.24美元。

    • Blackwell数据中心年度电力成本约为每teraFLOPs 0.14美元。

    image

AI算力需求的激增

  • 预测:2023-2027年全球数据中心电力需求(包括GAI)将显著增长。

  • 基准情景

    • 2023-2027年全球数据中心电力需求为430—748太瓦时(TWh)。

    • 2024/2027年全球电力需求的2%—4%。

  • 不同情景下的增长率

    • 牛市情景下(90%芯片利用率):2023-2027年全球数据中心电力需求为~446/820太瓦时。

    • 熊市情景下(50%利用率):2023-2027年数据中心电力需求为~415/677太瓦时。

电力基础设施的挑战

  • 挑战:全球数据中心电力需求的增长预计将给电力基础设施带来挑战。

  • 问题:包括输电线路容量限制、规划和许可延误以及供应链瓶颈。

  • 市场机遇:能够满足AI快速增长电力需求的公司,尤其是减少数据中心供电延迟的电力解决方案提供商将受益。

地区数据中心的发展与合作

  • 美国:超大规模企业和核电厂所有者合作建立新的大型数据中心,有利于电力公用事业和独立电力生产商。

  • 欧洲:到2035年,数据中心需求将推动电力增长五倍,低估值欧洲电力股将受益。

  • 东盟:马来西亚、新加坡和泰国电力需求强劲增长,数据中心开发商与当地电力公司建立伙伴关系。

结语

  • 合作趋势:数据中心公司和超大规模公司经常与电力开发公司合作,以最大限度地减少供电延迟,降低成本并减少排放。

标签:数据中心算力

上一篇:将大型语言模型训练扩展至超过10,000块GPU
下一篇:没有了

相关文章