随着生成式AI技术的兴起,众多企业看到了生成式AI的巨大潜力,正在加大对AI加速器和相关芯片的投资,构建强大的AI基础设施。
然而,想要量化这笔投资的规模并非易事,这是一个充满挑战的任务。存在很大的估算难度。一方面,AI芯片与周边系统组件的界限并不清晰。另一方面,难以追踪服务器的具体用途。例如,无法准确分辨一台装满GPU的服务器究竟用于AI工作还是HPC。
2023年12月,我们参考了IDC针对生成式AI的支出预测。该预测将生成式AI工作负载与其他AI类型区分开来,并着重分析了构建生成式AI系统所需的硬件、软件和服务支出。我们还关注到AMD首席执行官Lisa Su在2022年和2023年发布的有关数据中心AI加速器总市场规模(TAM)的预测。
Lisa Su最初预计2023年该市场规模为300亿美元,并将在2027年达到1500亿美元以上。但随着生成式AI的爆发,以及AMD于12月推出的“Antares”Instinct MI300系列GPU,他将这一预测大幅提高,认为2023年市场规模将达到450亿美元,并在2027年之前增长至4000亿美元以上。
需要注意的是,这仅仅是AI加速器的市场规模,并不包括服务器、交换机、存储和软件等相关成本。
新街研究(New Street Research)的分析师Pierre Ferragu及其团队对数据中心加速器市场进行了深入分析,并发布了他们对4000亿美元总市场规模如何细分的洞察。

我们仍然认为这是一个非常庞大的数字,意味着在TAM预测期结束时,AI服务器、存储和交换设备的销售额将达到约1万亿美元。
为了更贴近现实,我们于2024年初获取了富国银行(Wells Fargo)股票研究部董事总经理兼技术分析师Aaron Rakers的GPU销售预测,并进行了分析。
该模型涵盖了2015年至2022年数据中心的GPU销售情况,并对2023年(当时预测尚未结束)进行了估计,并延伸至2027年。
值得注意的是,该富国银行模型早于AMD最近几个月的修订预测,后者预计2024年将通过GPU销售获得40亿美元的收入(我们认为实际数字可能达到50亿美元)。
根据富国银行模型,2023年数据中心GPU销售额达到373亿美元,出货量549万台,同比翻番。这其中包括各种类型的GPU,而不仅仅是高端产品。GPU收入增长了3.7倍。
该模型预测2024年数据中心GPU出货量将增长24.9%至685万台,收入增长28%至487亿美元。到2027年,预计出货量将达到1351万台,推动数据中心GPU销售额增长至953亿美元。
在该模型中,英伟达在2023年的收入市场份额为98%,预计到2027年将下降至87%。
现在让我们来看看最新的市场情况。Gartner和IDC近期发布了一些关于AI半导体销售的统计数据和预测,这些数据值得我们仔细研究,以便更好地了解当前和未来几年AI芯片市场的格局。
需要注意的是,这些公司公开的报告通常数据有限,毕竟他们也需要盈利,但即便如此,报告中往往会包含一些有价值的信息,我们可以利用这些信息来进行深入分析。
首先来看Gartner的预测。约一年前,Gartner发布了一份关于2022年AI半导体销售的市场研究报告,并预测了2023年和2027年的市场规模。几周前,他们又发布了一份修订后的预测,包含了2023年的实际销售额以及2024年和2028年的预测。第二份报告中还包含了一些市场研究数据,我们整理成了下表:

我们推测“计算电子”这一类别包括PC和智能手机,但即使是构建这些模型的Gartner副总裁兼分析师Alan Priestly也认为,到2026年,所有销售的PC芯片都将是AI PC芯片,因为所有的笔记本和台式机CPU都将包含某种神经网络处理器。
我们主要关注用于加速服务器的AI芯片。根据预测,该市场(不包括附带的HBM、GDDR或DDR内存的价值)在2023年达到140亿美元,预计2024年将增长50%至210亿美元。然而,从2024年到2028年,服务器AI加速器的年复合增长率预计只有约12%,到2028年将达到32.8亿美元。
Gartner副总裁兼分析师Alan Priestly表示,定制的AI加速器(如谷歌的TPU和亚马逊的Trainium和Inferentia芯片)在2023年仅产生4亿美元的收入,预计到2028年也只有42亿美元。
如果AI芯片占计算引擎价值的一半,而计算引擎又占系统成本的一半,那么这些看似微小的数字加起来可能会成为数据中心AI系统相当可观的收入来源。
需要注意的是,这取决于Gartner如何定义这些细分市场,以及您认为这些细分市场应该如何定义。
现在来看IDC对AI半导体和AI服务器市场的看法。几周前,该公司发布了一张值得关注的图:

在这张图中,IDC统计了数据中心和边缘环境中使用的CPU、GPU、FPGA、定制ASIC、模拟器件、内存等芯片的收入。随后,他们扣除了计算、存储、交换机等设备的收入,因为这些设备也用于AI训练和推理系统。
需要注意的是,这张图仅统计了芯片的价值,而非整个系统的价值。因此,它不包含机箱、电源、散热、主板、插卡、机架、系统软件等其他组件的成本。
图中包含了2022年的实际数据,并对2023年至2027年的数据进行了预测。
根据IDC的分析,2022年全球半导体市场中AI部分的规模为421亿美元,预计2023年将增长64.1%达到691亿美元。IDC预计,今年AI芯片收入(包括用于数据中心和边缘AI系统的各类芯片,而非仅XPU销售额)将增长70%,达到1175亿美元。从2022年到2027年,IDC预计数据中心和AI系统的AI芯片内容总收入将以28.9%的年复合增长率增长,到2027年达到1933亿美元。
这张图来自一篇5月底发布的博客文章,所依据的报告发布于2月,因此存在一定的时间差。在这篇文章中,IDC还公布了一些服务器收入数据,将用于其他工作负载的服务器与AI服务器区分开来。
为了解AI服务器的支出情况,我们于2023年10月对原始的IDC服务器数据进行了分析。以下是我们整理的一些数据:
2023年,全球服务器销量下降了19.4%,降至不足1200万台。然而,值得注意的是,由于AI服务器的平均销售价格(ASP)异常高昂,据我们估算,这一价格达到了支持普通基础设施应用的通用服务器价格的45到55倍,因此AI服务器收入实现了显著增长,达到了313亿美元,较去年增长了3.2倍,并占据了市场份额的23%(此数据基于我们去年对2022年AI服务器收入的估算,即98亿美元)。
IDC预测,到2027年,AI服务器销售额将达到491亿美元。然而,他们并未提供最新的2027年服务器收入预测,而截至2023年底,这一数字为1891.4亿美元(如我们之前所述)。
需要注意的是,根据IDC对服务器市场的划分,使用CPU本地矩阵或向量引擎进行AI计算的机器不被视为加速器,因此在我们的术语中不被视为“AI服务器”。
尽管如此,我们认为2027年AI服务器收入的预测可能偏低,或者2027年整体服务器收入的预测可能偏高,亦或者两者都偏低。我们仍然认为,到2027年,采用某种加速技术的AI服务器将占据不到一半的收入,并且数据中心将会有大量的加速和生成式AI应用。
Source:Timothy Prickett Morgan; ONGOING SAGA: HOW MUCH MONEY WILL BE SPENT ON AI CHIPS? July 15, 2024
Pierre Ferragu(New Street Research分析师)
关于2027年数据中心AI芯片市场规模将达到4000亿美元的预测终于得到了详细探讨,这展现出数据中心AI芯片市场广阔的发展前景。英伟达($NVDA)、AMD($AMD)、博通($AVGO)、Arista Networks($ANET)等其他公司都是该领域的积极参与者。
首先,2027年在AI芯片上的具体情况预计如下:GPU和TPU的出货量预计将增长四倍,其他内部开发的加速器的规模预计将增长至目前TPU规模的两倍。

这意味着什么样的装机量?预计1000万台AI服务器将由1亿颗芯片提供动力。这一变化预计将导致数据中心的电力消耗至少翻倍。
这个预测合理吗?从使用情况来看,这确实有可能实现。这将支持生成式AI用户数量从2亿增长到10亿人,同时每用户每天的平均服务器使用时间预计将从1分钟增加到5分钟。

财务影响如何?首先,预计2027年数据中心的资本支出将达到1.1万亿美元,是目前预期的三倍。

财务影响的另一个方面,互联网和软件巨头的商业模式将转向资本密集型模式,这可能会显著加速收入增长。

这些变化意味着什么?
英伟达和其他芯片供应商将大幅超出预期,即使目前的预测只实现了部分。这意味着相关公司的收入和利润将显著增长。 超大规模数据中心企业的收入增长将远超预期,资本支出也将大幅增加。这对于该行业来说是积极的,因为大规模的投资将有助于建立强大的竞争壁垒并提高投资回报率。 基础设施部署的速度将导致资本支出增长并非直线型。只要使用量和采用率的增长速度快于容量部署速度,资本支出就会持续增长。但是,一旦两者持平,资本支出将会快速下降,然后再逐步回升。 关键问题在于泡沫何时以及在何种水平破裂。我们的观点是:a). 2024年已经触及极限,2025年仍然会是一个强劲的增长年。投资需求仍然非常强劲,因此泡沫不太可能在2026年之前破裂。b). 绝对过剩产能仍然遥遥无期,泡沫破裂很可能在2027年之后很长一段时间才会发生。
Source: https://x.com/p_ferragu/status/1745087328945655845
--【本文完】---
近期受欢迎的文章:
更多交流,可添加本人微信
(请附姓名/单位/关注领域)





