隨著以大模型為代表的AIGC迅速崛起,數據到算力需求的持續暴漲,為數據中心帶來了巨大的考驗。為填補算力鴻溝,下一代數據中心必須要具備更高的算力密度、更大的網絡規模,并能夠靈活地部署和更新海量新應用。
在這一輪新的技術方向中,異構計算架構和Chiplet技術因能有效提升復雜場景計算效率,算力密度和網絡規模,被普遍視為通往數據中心未來的能效之路。
AIGC或將撕開數據中心算力缺口
在AI大模型飛速發展之下,單個大語言訓練驅動AI訓練服務器需求約2億美元,AI推理服務器方面,如ChatGPT在初期便可帶動推理服務器需求約45億美元。
據中國信通院,2021年國內IDC市場規模1500.2億元,同比增長28.5%。據信通院預計,隨著我國各地區、各行業數字化轉型深入推進、AI訓練需求持續增長、智能終端實時計算需求增長,2022年國內市場規模將達1900.7億元,同增26.7%。
算力作為大模型的核心引擎,計算方式簡單粗暴,即實際擁有多少的GPU芯片,將直接決定其算力的大小。以ChatGPT為例,其模型計算主要基于微軟的Azure云服務進行,本質上是借助微軟自有的IDC資源,在云端完成計算過程后,再將結果返回給OpenAI。
AIGC所需的算力不是固定的,而是逐次遞增的。數據中心是承接AI計算需求的直接形式,其算力需求為AIGC的能力所驅動,也就是AIGC越聰明,其背后所需要的算力就越多,而供需雙方存在的現實差距,則讓數據中心的算力缺口變得愈加嚴重。
互聯網廠商布局ChatGPT同類產品,或將加大核心城市IDC算力供給缺口。艾瑞咨詢數據顯示,2021年國內IDC行業下游客戶占比中,互聯網廠商居首位,占比為60%,國內核心城市IDC算力供給缺口或將加大。
AIGC時代,智能算力崛起
隨著人工智能進入新的發展周期,以及大模型的興起,傳統的芯片需求結構發生了變化。盡管總體算力仍在增長,但通用計算力由CPU主導的比例正在下降,而智能計算力由GPU主導的比例逐漸增加。
目前,GPU在AI芯片市場的占比約為90%。根據VMR的數據,2021年全球GPU行業市場規模為334.7億美元,隨著大型模型訓練的成熟,預計到2030年將達到4773.7億美元,年均增長率為34.35%。
新華三集團副總裁、計算存儲產品線總裁徐潤安在接受媒體采訪時表示,智能算力占比變大原因在于,x86架構CPU單核性能強、通用性好。但AI場景需要多核、高并發、高帶寬芯片。綜合考慮成本、效率,GPU、DPU、NPU通常表現更好。CPU部分職能被其他專用芯片分擔。在他看來,大模型會帶來巨大的智能算力消耗。
Chiplet:破局數據中心未來
近20年中,單一的制程微縮已被證明無法趕上對性能需求的步伐。尤其是在數據中心,情況遠比客戶端產品更為復雜,一個非常典型的情況是多個客戶端在同一產品上運行工作負載,如多核CPU或GPU。于是,人們開始將未來依托在將計算單元、內存等和其他模塊成在同一封裝上的Chiplet異構集成路線之上。
Chiplet架構對于服務器處理器而言意義非凡,大大降低了處理器的開發門檻和成本,起到了巨大的推動作用。正如AMD開創性的chiplet產品所證明的那樣,轉向chiplet技術可以顯著改善數據中心的計算成本,并提高互連效率。迄今,全球主流服務器芯片廠商都開始將chiplet納入自身產品的主要路徑之一。
就此,英特爾 IO 技術解決方案團隊戰略家Kurt Lender 總結了 chiplet 技術的影響“有合理的預期,未來 10 年的 HPC 采購將利用 chiplet 技術更好地支持他們的科學工作負載。” AMD 的 CEO Lisa Su也表現出了同樣的期待,當被問及她是否認為未來 10 年的 HPC 采購指定定制chiplet設計的計算芯片而不是現成的商品時,她回答“是”。
Kurt Lender 表示,創建基于 UCIe 的chiplet 設計在成本方面具有顯著的優勢,“有各種縱向擴展和橫向擴展的成本優勢,包括由于與單片硅設計相比占地面積更小而導致chiplet的高良率而節省的成本,以及能夠指定可以利用 HPC 冷卻功能的高密度、高功率封裝。在其最完整的表達中,基于chiplet 的架構使設計人員能夠將來自多個供應商的 IP 和不同職稱工藝技術的芯??焖偌傻揭粋€封裝中?!?/p>
關于隨著以大模型為代表的人工智能大規模計算的迅速崛起,數據中心的算力難題不斷加劇。而異構和Chiplet會將數據中心的未來引向何處,還讓我們拭目以待。???????
審核編輯:劉清
-
GPU芯片
+關注
關注
1文章
303瀏覽量
5898 -
OpenAI
+關注
關注
9文章
1139瀏覽量
6705 -
chiplet
+關注
關注
6文章
434瀏覽量
12631 -
奇異摩爾
+關注
關注
0文章
49瀏覽量
3469 -
ChatGPT
+關注
關注
29文章
1569瀏覽量
8061 -
先進封裝
+關注
關注
2文章
427瀏覽量
286 -
芯粒
+關注
關注
0文章
59瀏覽量
154
原文標題:異構+Chiplet,通往數據中心的能效之路
文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論