人工智能推動光連接需求激增

作者：蘭洋科技????瀏覽量：4700????時間：2023年10月07日????標(biāo)簽: AI人工智能 ChatGPT 光纖連接器

隨著全球數(shù)字經(jīng)濟的快速發(fā)展，云計算提高了人們對數(shù)據(jù)傳輸速度的期望，但人工智能(AI)工作負載給帶寬以更快、更可靠地傳輸數(shù)據(jù)帶來了更大的壓力。

雖然像Compute Express Link(CXL)這樣的協(xié)議有助于優(yōu)化數(shù)據(jù)存儲位置，使其更接近需要的位置，但連接對于盡可能快地移動數(shù)據(jù)仍然至關(guān)重要。在采用率下降之后，亞馬遜和谷歌等公司在數(shù)據(jù)中心擴展人工智能的光收發(fā)器技術(shù)有所增加，而連接性則與硬件和軟件一起融入到全棧系統(tǒng)中。

光通信市場研究公司LightCounting在其2023年7月的大型數(shù)據(jù)中心光學(xué)報告中表示，光收發(fā)器銷量的增加與GPU和基于GPU的AI集群系統(tǒng)銷量的大幅增長相關(guān)。該公司預(yù)測，未來五年用于人工智能集群應(yīng)用的以太網(wǎng)光收發(fā)器銷售額將達到176億美元，而同期以太網(wǎng)收發(fā)器的所有其他應(yīng)用合計將產(chǎn)生285億美元的銷售額。

支持人工智能集群的部署抵消了云計算公司因預(yù)計經(jīng)濟衰退尚未實現(xiàn)而削減的支出。

對人工智能連接的需求比最近炒作的ChatGTP早了幾年，谷歌在2019年至2020年期間在其人工智能集群中部署的光學(xué)器件比其數(shù)據(jù)中心基礎(chǔ)設(shè)施的其他部分還要多。據(jù)LightCounting估計，到2022年，部署在AI集群中的光收發(fā)器已占整個市場的25%。

LightCounting首席執(zhí)行官Vlad Kozlov在接受采訪時表示，在2022年底，生產(chǎn)需求有所放緩，這意味著今年第一季度光模塊銷售將出現(xiàn)下滑。但是，到今年4月，英偉達在人工智能領(lǐng)域的業(yè)務(wù)明顯活躍起來，這也推高了LightCounting的預(yù)測?！斑@也提醒了所有正在建設(shè)人工智能基礎(chǔ)設(shè)施的競爭對手?！?/p>

對人工智能更廣泛的興趣推動了簡化基礎(chǔ)設(shè)施部署的需求

Kozlov表示，英偉達在人工智能基礎(chǔ)設(shè)施市場的關(guān)鍵優(yōu)勢在于，它開發(fā)了包括光連接、硬件和軟件的全棧系統(tǒng)?！叭绻憧纯垂雀韬蛠嗰R遜正在做的事情，就會發(fā)現(xiàn)他們正在內(nèi)部開發(fā)人工智能硬件和軟件。”

他說，這些公司和微軟等其他公司已經(jīng)從人工智能應(yīng)用中賺錢有一段時間了，但ChatGPT的出現(xiàn)，讓人們認為人工智能可以在不同行業(yè)更廣泛地使用，以提高工人的生產(chǎn)力?！俺朔浅４蟮墓局猓S多其他公司也開始關(guān)注人工智能?！?/p>

Kozlov表示，全棧解決方案很有吸引力，因為許多公司不具備構(gòu)建軟件和硬件的專業(yè)知識，因此轉(zhuǎn)向Nvidia可以更輕松地開始構(gòu)建人工智能基礎(chǔ)設(shè)施。

在連接方面，光收發(fā)器的優(yōu)勢在于能夠在更長的距離上支持更高的數(shù)據(jù)速率。雖然銅的彈性比預(yù)期更強，但距離隨著數(shù)據(jù)速率的提高而縮短?！芭c此同時，人工智能集群正在變得越來越大。”Kozlov表示，谷歌正在討論在其陣列中擁有數(shù)萬個GPU?！爱?dāng)系統(tǒng)變得那么大時，顯然距離也會變大。你需要使用更多的光學(xué)器件?！?/p>

Kozlov表示，除了能夠長距離高速傳輸信號之外，光轉(zhuǎn)換的吸引力還在于它們可以更輕松地重新配置連接——當(dāng)GPU跨數(shù)據(jù)中心的不同部分時，靈活性非常有用，有助于提高可擴展性和可靠性，因為可以快速繞過有問題的節(jié)點以保持模型運行。

光收發(fā)器與協(xié)議無關(guān)，這意味著它們可以很好地與以太網(wǎng)和InfiniBand配合使用。也沒有光纖連接器——全是電氣的。

Kozlov表示，一個顯著的趨勢是從光纜轉(zhuǎn)向可插拔光學(xué)器件?！八皇且粋€插入服務(wù)器的小型設(shè)備?！?/p>

他表示，英偉達是最新光學(xué)熱潮的推動者之一，由于其解決方案的高連接密度，英偉達正在轉(zhuǎn)向可插拔收發(fā)器。LightCounting報告稱，英偉達2023年4月的財報電話會議暗示了人工智能基礎(chǔ)設(shè)施的總體資金規(guī)模，盡管實際數(shù)字尚不清楚。Nvidia2023年第二季度的收入預(yù)計將環(huán)比增長50%，這主要是由用于AI集群的GPU和基于GPU的系統(tǒng)的銷售推動的，這使得一些財務(wù)分析師估計未來五年用于AI的累積收發(fā)器收入將達到1000億美元或更多單獨的應(yīng)用程序。

工作負載定義數(shù)據(jù)中心設(shè)計

Nvidia網(wǎng)絡(luò)高級副總裁GiladShainer在接受媒體采訪時表示，整個數(shù)據(jù)中心的設(shè)計需要有針對性，其中包括人工智能工作負載及其所需的連接?！耙磺卸急仨氁云胶獾姆绞竭M行。”

他說，人工智能工作負載分布在數(shù)據(jù)中心的不同連接設(shè)備之間。“定義數(shù)據(jù)中心功能的元素是網(wǎng)絡(luò)。將所有內(nèi)容連接在一起的方式?jīng)Q定了您將能夠運行什么樣的工作負載。”

Shainer表示，一旦這些元素就位，就可以創(chuàng)建進入數(shù)據(jù)中心的必要芯片和ASIC。

InfiniBand在Nvidia的AI數(shù)據(jù)中心解決方案中發(fā)揮著關(guān)鍵作用。該公司的Quantum InfiniBand網(wǎng)內(nèi)計算平臺專為高性能計算(HPC)、人工智能和超大規(guī)模云基礎(chǔ)設(shè)施而設(shè)計。但Nvidia也有自己的NVLink，這是一種基于有線的串行多通道近距離通信鏈路。它使用專有的高速信號互連(NVHS)，與PCIExpress不同，一個設(shè)備可以由多個NVLink組成，并且設(shè)備使用網(wǎng)狀網(wǎng)絡(luò)而不是中央集線器進行通信。

Shainer表示，NVLink的作用是共享內(nèi)存訪問，并與InfiniBand一起允許橫向擴展整個平臺。

他補充說，平臺本身的目的很重要?！澳阆脒\行什么樣的工作負載？你想解決什么樣的問題？”Shainer表示，一旦確定了數(shù)據(jù)中心的用途，就可以在其中安裝適當(dāng)?shù)木W(wǎng)絡(luò)，包括InfiniBand和NVLink，以獲得必要的數(shù)據(jù)吞吐量，這是更困難的部分，同時還需要大量帶寬快點?！澳阈枰焖偻瓿伤脑蚴且驗槟阏谔幚矸植际接嬎?。”

Shainer表示，重要的是網(wǎng)絡(luò)在大規(guī)模滿負載下的能力，最慢的鏈路決定了系統(tǒng)的整體性能。為傳統(tǒng)云計算構(gòu)建的數(shù)據(jù)中心并非旨在提供人工智能工作負載所需的性能，這可能需要數(shù)千個GPU以極低的延遲工作。“這是一個非常復(fù)雜的過程，你需要同步，”他說。

施耐德電氣創(chuàng)新和數(shù)據(jù)中心副總裁SteveCarlini表示，人工智能工作負載已經(jīng)徹底改變了IT和物理基礎(chǔ)設(shè)施，而不僅僅是從網(wǎng)絡(luò)角度來看。在接受媒體采訪時，他表示，近年來，各種規(guī)模的公司都在瘋狂爭奪建設(shè)支持人工智能的基礎(chǔ)設(shè)施。“它不再部署標(biāo)準套接字X86服務(wù)器。”

Carlini表示，人工智能數(shù)據(jù)中心擁有CPU、GPU、加速器和DPU，需要一個架構(gòu)來移入和移出數(shù)據(jù)?！懊總€GPU加速器都有一個網(wǎng)絡(luò)端口，并且它們都同步運行。”

Carlini說，人工智能數(shù)據(jù)中心與傳統(tǒng)數(shù)據(jù)中心的另一個顯著區(qū)別是，它們一直在運行工作負載，這會改變設(shè)計參數(shù)?！斑@是令人難以置信的熱量?！?/p>

Carlini表示，將10000個GPU集中在一起并將它們放入服務(wù)器機架中確實面臨物理限制，其中最重要的是熱量。除了各種冷卻選項之外，解決方案是將所有部件分開?！皩崿F(xiàn)這一目標(biāo)的障礙在于網(wǎng)絡(luò)?！彼硎?，盡管光收發(fā)器成本已大幅下降并且可以覆蓋更遠的距離，但運行400gig InfiniBand并不便宜?！白畲蟮莫q豫實際上是網(wǎng)絡(luò)成本，因為每個GPU都有自己的網(wǎng)絡(luò)連接。”