在此領(lǐng)域，如果有一件事是絕對不受通貨膨脹控制，而且在一定程度上也加劇了全球經(jīng)濟通貨膨脹的壓力，那就是生成式AI。實際上，根據(jù)我們目前了解的有限數(shù)據(jù)，全球范圍內(nèi)的服務(wù)器和存儲支出似乎主要來自于AI基礎(chǔ)設(shè)施支出，而用于其它工作負載的數(shù)據(jù)中心設(shè)備的基礎(chǔ)支出甚至比年初還要疲弱。

坦率地說，核心服務(wù)器和存儲市場正經(jīng)歷衰退，企業(yè)停止了投資，與此同時，超大規(guī)模云服務(wù)提供商正在充分利用去年底已購買的基礎(chǔ)設(shè)施，但昂貴的AI系統(tǒng)支出卻迅速增加。

這種“高性能計算”的迅速崛起一直是傳統(tǒng)高性能計算仿真和建模社區(qū)一直夢寐以求的，但從未真正實現(xiàn)。令人遺憾的是，我們可以提出一個合理的觀點，即從幫助人們創(chuàng)造或修復(fù)事物的角度來看，高性能計算比生成式AI更為實用。同時，人們普遍預(yù)期，生成式AI將在未來的某個時候，正如亞馬遜首席執(zhí)行官Andy Jassy經(jīng)常提到的長期趨勢一樣，淘汰全球經(jīng)濟中的整個工作領(lǐng)域。

然而，沒有人愿意深入探討這一點。因此，我們將繼續(xù)進行分析，并為我們的觀點提供支持。

我們在大學(xué)物理課上學(xué)到，在解決問題之前最好先進行粗略估算，然后在解決問題的過程中不斷修正。因此，讓我們從今年夏天早些時候傳聞開始，即Nvidia可能在2023年只能生產(chǎn)約50萬塊 Hopper H100 GPU。

如果你假設(shè)Nvidia的合作伙伴平均每塊售價3萬美元，那么這些H100的銷售額單獨就將貢獻150億美元的收入，這些收入將計入像IDC這樣的公司每個季度的收入統(tǒng)計中。如果你假設(shè)這50萬塊H100 GPU在2023年逐漸增加分配——第一季度增加18％，第二季度增加22％，第三季度增加27％，第四季度增加33％，這似乎是一個合理的估計——那么僅在2023年第二季度，這些GPU就帶來了33億美元的銷售收入?，F(xiàn)在，在系統(tǒng)級別上，如果平均每臺機器配備了八塊此類GPU，并且配置類似于Nvidia DGX H100的內(nèi)存、閃存和網(wǎng)絡(luò)接口，那么在系統(tǒng)級別上，基于H100的這些GPU裝載系統(tǒng)銷售額約為52億美元。再加上其它來自Nvidia以及任何其它出售可用于大規(guī)模矩陣數(shù)學(xué)運算的設(shè)備的加速器，也許可以從AI繁榮中獲得大約70億美元的收入。

這是我們的粗略估算表，供您參考：

在這波生成式AI爆發(fā)之前，根據(jù)我們歷史上的IDC數(shù)據(jù)，服務(wù)器的平均售價大約在7000美元左右，而且這還是在2021年初發(fā)生了相當(dāng)大規(guī)模的機器學(xué)習(xí)AI周期、一些大型高性能計算安裝以及IBM同時進行主機和Power Systems擴展的情況下。（這是IDC最后一次向公眾發(fā)布季度服務(wù)器追蹤數(shù)據(jù)。）

分析了IDC關(guān)于2023年第二季度數(shù)據(jù)中心基礎(chǔ)設(shè)施支出的數(shù)據(jù)后，我們認(rèn)為390億美元中的大部分支出都是由AI系統(tǒng)驅(qū)動的。如果像我們上面估算的那樣大約為70億美元，那么只有320億美元用于支持其它類型的工作負載的基礎(chǔ)設(shè)施。盡管如此，截至2023年第二季度，所有服務(wù)器和存儲基礎(chǔ)設(shè)施的支出僅增長了1.3%，這遠不及IDC在四月份報告的2023年第一季度的8.2%增長，我們在這里也有評論。在第一季度和第二季度之間出現(xiàn)了季度性增長，這是好事，從第一季度的358億美元增長到第三季度2022年看到的407億美元，并望著2022年第四季度的高峰，當(dāng)時生成式AI革命正在蓬勃發(fā)展，支出達到了428億美元。

以下是IDC在2021年發(fā)布的數(shù)據(jù)中心服務(wù)器存儲模型的摘要數(shù)據(jù)，以消除其獨立服務(wù)器和存儲追蹤器中的存儲重復(fù)計數(shù)。對于超大規(guī)模云服務(wù)商和云構(gòu)建者來說，存儲只是一臺緊湊的服務(wù)器CPU引擎和一個大型盒子中的大量磁盤或閃存存儲。你怎么統(tǒng)計呢？是服務(wù)器還是存儲？IDC兩者都算，這意味著除了按照IDC當(dāng)前的方法來同時計算一切之外，你無法將這兩者處理在一起。

以下是使用這種新方法從2020年第一季度到2023年第二季度的云和非云基礎(chǔ)設(shè)施支出的數(shù)據(jù)：

一如往常，我們用紅色粗體斜體字表示我們的估算，以填補數(shù)據(jù)中的空白。

上周，我們剛剛結(jié)束了2023年的第三季度，因此還沒有相關(guān)數(shù)據(jù)可用，而IDC需要一些時間來整合來自公開公司的所有財務(wù)數(shù)據(jù)并構(gòu)建其數(shù)據(jù)中心支出模型。因此，我們可能要等到2024年1月之前才能看到第三季度的數(shù)據(jù)。

在今年第二季度，由超大規(guī)模云服務(wù)商和云構(gòu)建者支出的共享云基礎(chǔ)設(shè)施（再次強調(diào)，這指的是服務(wù)器和存儲，而不包括網(wǎng)絡(luò)）上漲了13.7％，達到179億美元，但專用云基礎(chǔ)設(shè)施的支出——這意味著運行在企業(yè)數(shù)據(jù)中心以及大型云的輔助設(shè)施中，這些輔助設(shè)施可以在共同托管設(shè)施或企業(yè)數(shù)據(jù)中心中運行——同比下降了略高于5％，達到67億美元。在第一季度，專用云的支出下降了1.5％，達到58億美元。連續(xù)兩個季度的下降意味著衰退。

非云基礎(chǔ)設(shè)施的支出，比如大型X86、Power或主機系統(tǒng)以及支持關(guān)系數(shù)據(jù)庫、ERP、供應(yīng)鏈管理、倉儲管理和客戶關(guān)系管理應(yīng)用的SAN存儲，下降了8.3％，達到144億美元。同樣，在這個非云領(lǐng)域存在季度性增長，這是好事，從2023年第一季度的138億美元開始，但非云支出在第一季度下降了0.9％，在第二季度下降了8.3％，連續(xù)兩個季度的下降意味著衰退。

問題在于，嚴(yán)重的GPU短缺意味著GenAI領(lǐng)域的最大玩家——微軟、谷歌和AWS——正在獲得Nvidia的優(yōu)先分配，這反過來加速了云構(gòu)建者對基礎(chǔ)設(shè)施租賃的部署。只要存在短缺，情況將是如此。但根據(jù)報道，Nvidia有能力在2024年將H100 GPU單位的產(chǎn)能提升到150萬到200萬，也許短缺情況會減輕一些，價格會下降，服務(wù)器市場將趨于正?；?。這在2018年和2019年服務(wù)器內(nèi)存價格飆升后曾經(jīng)發(fā)生過，當(dāng)時DRAM價格翻了一番，也推高了服務(wù)器的平均售價。

要點在于，當(dāng)您需要2萬到2.5萬個GPU來訓(xùn)練最先進的GenAI模型時，50萬個單位僅相當(dāng)于20到25個集群的數(shù)量。全球有20到25個企業(yè)有這個需求，考慮到訓(xùn)練這些模型需要數(shù)月的時間來處理數(shù)萬億的參數(shù)和數(shù)據(jù)token，這意味著也許可以讓數(shù)百個組織共享這些基礎(chǔ)設(shè)施。即使以這個規(guī)模達到200萬個單位，也只有數(shù)百個客戶共享這些基礎(chǔ)設(shè)施，這可能無法滿足GenAI的需求。

這可能意味著GPU的價格將繼續(xù)保持高位，因此AI系統(tǒng)的價格將保持高位。

值得關(guān)注的是，第二季度服務(wù)器和存儲出貨量下降了23.2％，我們不清楚具體的機器數(shù)量，因為IDC沒有提供。這是在2023年第一季度出貨下降了11.4％之后的情況。兩個季度的連續(xù)下降表明服務(wù)器和存儲出貨量陷入了衰退。

展望今年年底，IDC預(yù)測云基礎(chǔ)設(shè)施支出將增長10.6％，達到1014億美元；三個月前的早期預(yù)測認(rèn)為全年增長率為7.3％。共享云部分預(yù)計將增長13.5％，達到720億美元，而專用云部分將在2023年全年增長4.1％，達到294億美元。非云服務(wù)器和存儲支出將下降7.9％，降至585億美元。我們認(rèn)為云端的所有增長都將由AI服務(wù)器推動，而這又受到來自Nvidia和其競爭對手的GPU分配不斷增加的推動。

從長遠來看，IDC預(yù)測云基礎(chǔ)設(shè)施支出將在2022年至2027年之間以年復(fù)合增長率11.3％的速度增長，最終達到1567億美元，占總服務(wù)器和存儲支出的69.4％。共享云將在2027年達到1097億美元，年復(fù)合增長率為11.6％，而專用云將達到470億美元，年復(fù)合增長率為10.7％。令人難以置信的是，根據(jù)IDC的預(yù)測，非云服務(wù)器和存儲支出將在2022年至2027年之間上升，達到691億美元，年復(fù)合增長率為1.7％。

本文標(biāo)題：報告：AI推動數(shù)據(jù)中心基礎(chǔ)設(shè)施支出激增

本文鏈接：http://www.yangziriver.cn/faq3/878.html
[版權(quán)聲明]除非特別標(biāo)注，否則均為本站原創(chuàng)文章，轉(zhuǎn)載時請以鏈接形式注明文章出處。