吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

異構+Chiplet—通往數據中心的能效之路

奇異摩爾 ? 來源:奇異摩爾 ? 2023-06-21 15:50 ? 次閱讀

隨著以大模型為代表的AIGC迅速崛起,數據到算力需求的持續暴漲,為數據中心帶來了巨大的考驗。為填補算力鴻溝,下一代數據中心必須要具備更高的算力密度、更大的網絡規模,并能夠靈活地部署和更新海量新應用。

在這一輪新的技術方向中,異構計算架構和Chiplet技術因能有效提升復雜場景計算效率,算力密度和網絡規模,被普遍視為通往數據中心未來的能效之路。

AIGC或將撕開數據中心算力缺口

在AI大模型飛速發展之下,單個大語言訓練驅動AI訓練服務器需求約2億美元,AI推理服務器方面,如ChatGPT在初期便可帶動推理服務器需求約45億美元。

據中國信通院,2021年國內IDC市場規模1500.2億元,同比增長28.5%。據信通院預計,隨著我國各地區、各行業數字化轉型深入推進、AI訓練需求持續增長、智能終端實時計算需求增長,2022年國內市場規模將達1900.7億元,同增26.7%。

算力作為大模型的核心引擎,計算方式簡單粗暴,即實際擁有多少的GPU芯片,將直接決定其算力的大小。以ChatGPT為例,其模型計算主要基于微軟的Azure云服務進行,本質上是借助微軟自有的IDC資源,在云端完成計算過程后,再將結果返回給OpenAI。

AIGC所需的算力不是固定的,而是逐次遞增的。數據中心是承接AI計算需求的直接形式,其算力需求為AIGC的能力所驅動,也就是AIGC越聰明,其背后所需要的算力就越多,而供需雙方存在的現實差距,則讓數據中心的算力缺口變得愈加嚴重。

互聯網廠商布局ChatGPT同類產品,或將加大核心城市IDC算力供給缺口。艾瑞咨詢數據顯示,2021年國內IDC行業下游客戶占比中,互聯網廠商居首位,占比為60%,國內核心城市IDC算力供給缺口或將加大。

AIGC時代,智能算力崛起

隨著人工智能進入新的發展周期,以及大模型的興起,傳統的芯片需求結構發生了變化。盡管總體算力仍在增長,但通用計算力由CPU主導的比例正在下降,而智能計算力由GPU主導的比例逐漸增加。

目前,GPU在AI芯片市場的占比約為90%。根據VMR的數據,2021年全球GPU行業市場規模為334.7億美元,隨著大型模型訓練的成熟,預計到2030年將達到4773.7億美元,年均增長率為34.35%。

新華三集團副總裁、計算存儲產品線總裁徐潤安在接受媒體采訪時表示,智能算力占比變大原因在于,x86架構CPU單核性能強、通用性好。但AI場景需要多核、高并發、高帶寬芯片。綜合考慮成本、效率,GPU、DPU、NPU通常表現更好。CPU部分職能被其他專用芯片分擔。在他看來,大模型會帶來巨大的智能算力消耗。

Chiplet:破局數據中心未來

近20年中,單一的制程微縮已被證明無法趕上對性能需求的步伐。尤其是在數據中心,情況遠比客戶端產品更為復雜,一個非常典型的情況是多個客戶端在同一產品上運行工作負載,如多核CPU或GPU。于是,人們開始將未來依托在將計算單元、內存等和其他模塊成在同一封裝上的Chiplet異構集成路線之上。

Chiplet架構對于服務器處理器而言意義非凡,大大降低了處理器的開發門檻和成本,起到了巨大的推動作用。正如AMD開創性的chiplet產品所證明的那樣,轉向chiplet技術可以顯著改善數據中心的計算成本,并提高互連效率。迄今,全球主流服務器芯片廠商都開始將chiplet納入自身產品的主要路徑之一。

就此,英特爾 IO 技術解決方案團隊戰略家Kurt Lender 總結了 chiplet 技術的影響“有合理的預期,未來 10 年的 HPC 采購將利用 chiplet 技術更好地支持他們的科學工作負載。” AMD 的 CEO Lisa Su也表現出了同樣的期待,當被問及她是否認為未來 10 年的 HPC 采購指定定制chiplet設計的計算芯片而不是現成的商品時,她回答“是”。

Kurt Lender 表示,創建基于 UCIe 的chiplet 設計在成本方面具有顯著的優勢,“有各種縱向擴展和橫向擴展的成本優勢,包括由于與單片硅設計相比占地面積更小而導致chiplet的高良率而節省的成本,以及能夠指定可以利用 HPC 冷卻功能的高密度、高功率封裝。在其最完整的表達中,基于chiplet 的架構使設計人員能夠將來自多個供應商的 IP 和不同職稱工藝技術的芯??焖偌傻揭粋€封裝中?!?/p>

關于隨著以大模型為代表的人工智能大規模計算的迅速崛起,數據中心的算力難題不斷加劇。而異構和Chiplet會將數據中心的未來引向何處,還讓我們拭目以待。???????




審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • GPU芯片
    +關注

    關注

    1

    文章

    303

    瀏覽量

    5898
  • OpenAI
    +關注

    關注

    9

    文章

    1139

    瀏覽量

    6705
  • chiplet
    +關注

    關注

    6

    文章

    434

    瀏覽量

    12631
  • 奇異摩爾
    +關注

    關注

    0

    文章

    49

    瀏覽量

    3469
  • ChatGPT
    +關注

    關注

    29

    文章

    1569

    瀏覽量

    8061
  • 先進封裝
    +關注

    關注

    2

    文章

    427

    瀏覽量

    286
  • 芯粒
    +關注

    關注

    0

    文章

    59

    瀏覽量

    154

原文標題:異構+Chiplet,通往數據中心的能效之路

文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    安森美推動數據中心革新

    隨著數據中心為了滿足人工智能(AI)計算的龐大處理需求而變得越來越耗電,提高能變得至關重要。與一般的搜索引擎請求相比,搭載AI的引擎需要消耗超過10倍的電力。加快功率半導體的創新以改善
    的頭像 發表于 11-14 09:41 ?272次閱讀

    安科瑞綜合管理系統在數據中心的應用

    安全的供配電2)綠色低碳、節能降耗、提升PUE3)提高運維效率、降低運營成本4)整體監控平臺三、解決方案如下為AcrelEMS-IDC數據中心綜合管理系統的駕駛艙導覽圖,根據能源流向、信息流向及電壓等級變化
    的頭像 發表于 11-06 16:04 ?223次閱讀

    數據中心管理系統對配電系統、能耗、溫度、蓄電池等運行狀態實時監測

    數據中心綜合管理系統采集數據中心中低壓配電系統、環境等數據,通過實時監測、控制和預警可以幫助數據中心
    的頭像 發表于 08-22 10:09 ?501次閱讀
    <b class='flag-5'>數據中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>管理系統對配電系統、能耗、溫度、蓄電池等運行狀態實時監測

    安森美引領數據中心革命

    在當今數字化轉型的浪潮中,數據中心作為支撐人工智能、云計算等關鍵技術的基礎設施,其能耗問題日益凸顯。特別是隨著AI計算的蓬勃發展,數據中心對電力的需求急劇增加,傳統搜索引擎請求相比,AI引擎的電力消耗更是高達十倍以上。因此,提升數據中心
    的頭像 發表于 08-12 11:13 ?544次閱讀

    安森美推出提高數據中心的完整電源解決方案

    650V MOSFET的強大組合為數據中心應用提供了一種完整解決方案,該方案在更小的封裝尺寸下提供了無與倫比的和卓越的熱性能。
    的頭像 發表于 06-13 11:01 ?619次閱讀

    安森美新一代技術助力數據中心提升

    在人工智能飛速發展的當下,數據中心為了滿足日益增長的計算需求,正面臨巨大的電力挑戰。的提高成為行業關注的焦點,而安森美作為半導體技術的領先者,正通過其最新技術為數據中心提供解決方案
    的頭像 發表于 06-11 09:56 ?443次閱讀

    安科瑞數據中心綜合管理解決方案—中國移動內蒙古某項目案例分享

    源消耗的2%左右。為了應對這一問題,數據中心需要采取綜合管理措施,以降低能源消耗、提高資源利用率、降低運營成本。安科瑞數據中心綜合
    的頭像 發表于 05-08 11:05 ?660次閱讀
    安科瑞<b class='flag-5'>數據中心</b>綜合<b class='flag-5'>能</b><b class='flag-5'>效</b>管理解決方案—中國移動內蒙古某項目案例分享

    數據中心UPS系統運行能耗優化探討與應用

    摘要:數據中心UPS系統合理的運行方式對數據中心的管理和運行具有十分重要的意義,PUE、pPUE、CLF/PLF、RER是通用的衡量數據中心
    的頭像 發表于 04-11 15:36 ?577次閱讀
    <b class='flag-5'>數據中心</b>UPS系統運行能耗優化探討與應用

    淺析我國數據中心配電系統的能耗及水平

    淺析我國數據中心配電系統能耗及水平 張穎姣 安科瑞電氣股份有限公司?上海嘉定201801 摘要:伴隨著互聯網技術的深入全面發展,在“互聯網+”的時代,信息化進程日益加快,我國數據中心
    的頭像 發表于 04-09 16:09 ?394次閱讀
    淺析我國<b class='flag-5'>數據中心</b>配電系統的能耗及<b class='flag-5'>能</b><b class='flag-5'>效</b>水平

    #mpo極性 #數據中心mpo

    數據中心MPO
    jf_51241005
    發布于 :2024年04月07日 10:05:13

    #mpo光纖跳線 #數據中心光纖跳線

    光纖數據中心
    jf_51241005
    發布于 :2024年03月22日 10:18:31

    淺析我國數據中心配電系統能耗及水平

    淺析我國數據中心配電系統能耗及水平 張穎姣 安科瑞電氣股份有限公司?上海嘉定201801 摘要:伴隨著互聯網技術的深入全面發展,在“互聯網+”的時代,信息化進程日益加快,我國數據中心
    的頭像 發表于 03-11 15:48 ?386次閱讀
    淺析我國<b class='flag-5'>數據中心</b>配電系統能耗及<b class='flag-5'>能</b><b class='flag-5'>效</b>水平

    #MPO預端接 #數據中心機房 #機房布線

    數據中心MPO
    jf_51241005
    發布于 :2024年03月01日 11:12:47

    安科瑞AcrelEMS-IDC數據中心綜合管理解決方案—中國移動內蒙古某項目案例分享

    源消耗的2%左右。為了應對這一問題,數據中心需要采取綜合管理措施,以降低能源消耗、提高資源利用率、降低運營成本。安科瑞數據中心綜合
    的頭像 發表于 02-24 08:06 ?506次閱讀
    安科瑞AcrelEMS-IDC<b class='flag-5'>數據中心</b>綜合<b class='flag-5'>能</b><b class='flag-5'>效</b>管理解決方案—中國移動內蒙古某項目案例分享

    #永久鏈路 #信道測試 #數據中心

    數據中心
    jf_51241005
    發布于 :2024年02月23日 10:17:58
    娱乐城注册送18体验金| 百家乐博赌城| 百家乐金海岸娱乐| 百家乐官网赌现金| 真人百家乐官网| CEO百家乐现金网| 澳门百家乐娱乐城怎么样| 百家乐官网盛大娱乐城城| 望谟县| 现场百家乐官网百家乐官网| 网络百家乐官网内幕| 优博百家乐官网现金网| 齐河县| 金塔县| 百家乐官网博彩软件| 视频百家乐官网试玩| 百家乐洗码软件| 威尼斯人娱乐城线路lm0| 皇冠网文学网址| E世博百家乐官网娱乐城| 百家乐天天赢钱| 玩百家乐官网保时捷娱乐城| 做生意的门的方向| 网络百家乐打揽| 百家乐图形的秘密破解| 澳门百家乐官网站| 百家乐出千的高科技| 上海德州扑克比赛| 新世纪百家乐官网现金网| 百家乐官网EA平台| 百家乐登封代理| 百家乐倍投| 永利国际娱乐| 百家乐官网扎金花现金| 百家乐pc| 剑川县| 百家乐官网有试玩的吗| 百家乐规则好学吗| 大发888手机客户端| 罗马百家乐官网娱乐城| 百家乐怎样捉住长开|