生成式人工智能 (AI) 能夠根據(jù)提示生成文本、圖像或其他內(nèi)容，盡管目前企業(yè)對它的采用尚處于早期階段，但隨著企業(yè)組織找到該技術(shù)的更多新用途，預計該技術(shù)的采用將迅速增加。

Gartner分析師Frances Karamouzis表示：“生成式人工智能的狂熱沒有任何減弱的跡象?！?“各組織正在爭先恐后地確定向生成式人工智能解決方案投入多少資金、哪些產(chǎn)品值得投資、何時開始以及如何減輕這項新興技術(shù)帶來的風險?！?/p>

據(jù)Bloomberg Intelligence預測，未來十年，生成式AI市場將以每年42%的驚人速度增長，從2022年的400 億美元增長到1.3萬億美元。 

生成式人工智能可以通過多種方式幫助IT團隊：它可以編寫軟件代碼和網(wǎng)絡腳本、提供故障排除和問題解決、自動化流程、提供培訓和入職培訓、創(chuàng)建文檔和知識管理系統(tǒng)以及幫助進行項目管理和規(guī)劃。

另外，生成式人工智能還可以改變業(yè)務的其他部分，包括呼叫中心、客戶服務、虛擬助理、數(shù)據(jù)分析、內(nèi)容創(chuàng)建、設計和開發(fā)以及預測性維護等。

但數(shù)據(jù)中心基礎設施能否應對生成式人工智能產(chǎn)生的不斷增長的工作負載？

生成式人工智能對計算需求的影響

毫無疑問，生成式人工智能將成為大多數(shù)組織未來數(shù)據(jù)戰(zhàn)略的一部分。如今，網(wǎng)絡和IT領導者需要做的是確保他們的IT基礎設施以及團隊為即將到來的變化做好準備。

當他們構(gòu)建和部署包含生成式人工智能的應用時，這將如何影響對計算能力和其他資源的需求？  

咨詢公司畢馬威 (KPMG) 咨詢部董事總經(jīng)理布萊恩·劉易斯 (Brian Lewis) 表示：“正如我們今天所知，對數(shù)據(jù)中心的需求將會增加，并將徹底改變未來數(shù)據(jù)中心及其相關技術(shù)的面貌?！?/p>

數(shù)據(jù)中心運營商DataBank首席執(zhí)行官Raul Marynek表示，生成式AI應用分兩個階段對計算能力提出了巨大的需求：訓練構(gòu)成生成式AI系統(tǒng)核心的大型語言模型 (LLM)，然后使用這些訓練有素的LLM來運行應用程序。

“訓練大型語言模型碩士需要神經(jīng)網(wǎng)絡形式的密集計算，其中數(shù)十億語言或圖像示例被輸入神經(jīng)網(wǎng)絡系統(tǒng)并反復細化，直到系統(tǒng)像人類一樣‘識別’它們，”Martynek 說。

Marynek表示，神經(jīng)網(wǎng)絡需要極其密集的GPU處理器高性能計算 (HPC) 集群，一次連續(xù)運行數(shù)月甚至數(shù)年。“它們在專用基礎設施上運行效率更高，這些基礎設施可以位于用于訓練的專有數(shù)據(jù)集附近，”他說。

第二階段是“推理過程”或使用這些應用程序?qū)嶋H進行查詢并返回數(shù)據(jù)結(jié)果。“在這個運營階段，它需要一個地理上更加分散的基礎設施，可以快速擴展并以較低的延遲提供對應用的訪問，因為查詢信息的用戶希望對想象的用例做出快速響應?！?/p>

Marynek表示，這將需要在許多地方建立數(shù)據(jù)中心，而不是目前支持大多數(shù)應用程序的集中式公共云模型。他表示，在這個階段，數(shù)據(jù)中心的計算能力需求仍將上升，“但相對于第一階段，這種需求分布在更多的數(shù)據(jù)中心?！?/p>

生成式人工智能推動液體冷卻需求

網(wǎng)絡和IT領導者需要認識到生成式人工智能對服務器密度的影響，以及它對冷卻要求、電力需求、可持續(xù)發(fā)展計劃等的影響。

Tirias Research首席分析師Francis Sideco表示：“這不僅僅是密度，還包括這些服務器在峰值負載下的使用頻率和用量的工作周期?！?“我們看到NVIDIA、AMD和英特爾等公司的每一代AI芯片都在努力提高性能，同時控制功耗和熱量。”

Sideco表示，盡管做出了這些努力，電力預算仍在增加?！半S著工作負載的快速增長，尤其是GenAI，我們在某些時候會遇到困難。”

Lewis補充道，服務器密度“不必像刀片技術(shù)和虛擬主機那樣增加”?！胺枪栊酒D形處理單元 (GPU)、量子計算和硬件感知、基于模型的軟件開發(fā)等技術(shù)創(chuàng)新將能夠從現(xiàn)有硬件中獲得更多收益?！?/p>

Lewis表示，業(yè)界已經(jīng)在不同地點試驗比空氣更高效的創(chuàng)新液體冷卻技術(shù)以及可持續(xù)性，例如微軟的Project Natick海底數(shù)據(jù)中心。

“傳統(tǒng)的空氣冷卻技術(shù)，例如使用風扇、管道、通風口和空調(diào)系統(tǒng)，不足以滿足GPU等高性能計算硬件的冷卻需求，”Lewis說?！耙虼耍后w冷卻等替代冷卻技術(shù)正在受到關注?！?/p>

Lewis說，液體冷卻涉及通過熱交換器循環(huán)冷卻劑，例如水或其他液體，以吸收計算機組件產(chǎn)生的熱量。“液體冷卻比傳統(tǒng)空氣冷卻更節(jié)能，因為液體比空氣具有更高的導熱性，從而可以實現(xiàn)更好、更高效的熱傳遞?！?/p>

Marynek表示，新的數(shù)據(jù)中心設計需要滿足更高的冷卻要求和電力需求，這意味著未來的數(shù)據(jù)中心將不得不依靠新的冷卻方法，例如后冷門、芯片水或浸沒技術(shù)來提供正確的電力組合、冷卻和可持續(xù)性。

Marynek表示，數(shù)據(jù)中心運營商已經(jīng)在液體冷卻方面取得了進展。例如，DataBank在其位于亞特蘭大的佐治亞理工學院超級計算機設施中使用了QCooling的新型ColdLogik Dx 后門冷卻解決方案。

“我們預計門用水量和芯片冷卻技術(shù)用水量將大幅增加，特別是考慮到未來幾代 GPU 將消耗更多電力，”Martynek說道?！坝捎诓捎蒙墒饺斯ぶ悄芏鴮Ω嘤嬎憧臻g和功率的需求無疑將推動人們尋求更高的功耗和冷卻效率?！?/p>

Gen AI如何影響電力需求

Marynek表示，數(shù)據(jù)中心運營商建造自己的變電站可能會變得更加普遍?！坝捎谛枨蠛拖?a href="http://www.yangziriver.cn/tags/157.html">可再生能源的過渡而給電網(wǎng)帶來的壓力，給電力供應帶來了更多的不確定性，新的數(shù)據(jù)中心項目時間表在很大程度上受到公用事業(yè)公司的工作量及其處理新設施電力需求的能力的影響， “ 他說。

Marynek 表示，擁有可靠且可擴展的電源將越來越成為數(shù)據(jù)中心運營商的首要考慮因素，既可以滿足HPC集群對電力的需求，又可以繞過公用事業(yè)的時間表和限制。

Marynek表示，DataBank正在推出一種名為“通用數(shù)據(jù)大廳設計”(UDHD) 的新數(shù)據(jù)中心設計標準，該標準采用平板地板，周邊有空氣冷卻，機柜之間的間距更大，非常適合超大規(guī)模云部署，并且可以快速部署。

“這種方法還使我們能夠輕松添加活動地板和更近的機柜間距，以適應更傳統(tǒng)的企業(yè)工作負載，”Martynek說?！岸?，我們可以以最小的努力添加下一代冷卻技術(shù)，如后門熱交換器、水冷門配置或直接芯片冷卻基礎設施，”他說。

未來，數(shù)據(jù)中心的技術(shù)設計“將需要適應更高的計算需求，如快速訪問內(nèi)存、強大的存儲/存儲區(qū)域網(wǎng)絡、高性能延遲/中斷容忍網(wǎng)絡和大數(shù)據(jù)數(shù)據(jù)庫技術(shù)，”劉易斯說。

IT團隊需要做好準備

網(wǎng)絡和數(shù)據(jù)中心團隊現(xiàn)在應該做好準備?！斑@些變化發(fā)生得太快，任何人都無法做好充分準備，” Sideco說?！安粌H僅是網(wǎng)絡/數(shù)據(jù)中心團隊，整個生態(tài)系統(tǒng)都需要解決所有所需的變化?！?/p>

這包括處理增加的工作負載和電力需求的芯片供應商?！八鼈兲峁┝瞬煌倪x項，網(wǎng)絡/數(shù)據(jù)中心團隊可以使用這些選項來嘗試[解決]不斷變化的需求，”Sideco說?！八羞@些方面的合作對于跟上需求的步伐非常重要?！?/p>

其他人對準備工作更有信心?！拔覀僆T部門始終為下一次顛覆做好準備，”Lewis說。“真正的問題是：企業(yè)會投資于需要改變的地方嗎？節(jié)省成本仍然是數(shù)據(jù)中心外包的首要任務。然而，企業(yè)尚未采用現(xiàn)代IT總擁有成本和價值實現(xiàn)框架來衡量 IT 的響應能力和適應人工智能等技術(shù)推動業(yè)務發(fā)展的速度?！?/p>

“為了為人工智能的采用做好準備，數(shù)據(jù)中心需要確定正確的業(yè)務和資本戰(zhàn)略，以便他們可以投資必要的基礎設施和工具，并培養(yǎng)一支具有適當技能的勞動力隊伍，”Martynek 說?！皳碛泻线m的人員來執(zhí)行戰(zhàn)略與制定正確的戰(zhàn)略同樣重要?！?/p>

本文標題：數(shù)據(jù)中心準備好迎接生成式人工智能了嗎？

本文鏈接：http://www.yangziriver.cn/faq3/689.html
[版權(quán)聲明]除非特別標注，否則均為本站原創(chuàng)文章，轉(zhuǎn)載時請以鏈接形式注明文章出處。