吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI算力應用中的光模塊產品

易飛揚通信 ? 來源:易飛揚通信 ? 作者:易飛揚通信 ? 2024-01-02 15:32 ? 次閱讀

以ChatGPT為代表的AI大模型應用普及將推動算力需求快速增長,服務器產業鏈是其中重要的受益環節之一,AI計算的普及將推動服務器產業鏈光模塊向800G升級提速。

算力網絡驅動下光模塊市場需求預測

光模塊是數據中心內部互連和數據中心相互連接的核心部件。100G和400G是主流產品,800G過去主要用在超算等領域。據LightCounting預計,2023年800G全球普及率僅0.62%。而以ChatGPT為代表的AI大模型,對數據中心內外的數據流量都提出了新要求,有望推動光模塊加速向800G升級。800G光模塊將從2025年底開始主導光模塊市場。

wKgZomWTvB6ABUeHAAFeabqIMvw245.png

根據LightCounting的數據,2016年至2020年,全球光模塊市場規模從58.6億美元增長到66.7億美元,預測2025年全球光模塊市場將達到113億美元,為2020年的1.7倍。從結構上看數通市場占60%,電信市場占40%左右。

wKgaomWTvB-AWz3zAAC-Zc-MRkw735.png

AI算力場景光模塊應用情況

首先我們以英偉達的SuperPOD為例測算單顆GPU與光模塊的比例。測算僅考慮IB網絡對應的光模塊需求。以140個節點的集群為例,每臺舉例服務器需要8顆GPU芯片,共需140×8=1120顆芯片;集群中每20臺服務器組成一個SU(scalable units,可擴展單元),共7個SU。IB網絡架構下實現了完整的胖樹(Fat-Tree)拓撲結構,胖樹架構在訓練場景中最優的配置是上下行端口數一樣,即無阻塞的網絡,具體來看:

第一層:每個SU 中配置8臺葉交換機,共有56臺葉交換機;

第二層:每10臺脊交換機組成一個交換機組Spine Group( SG),每個SU 的第一個葉交換機連接到SG1中的每個交換機,每個SU的第二個葉交換機連接到SG2中的每個交換機,共有80個脊交換機;

第三層:每14臺核心交換機組成一個交換機組Core Group(CG),對應共28個核心交換機。

使用系統的對應計算側和存儲側線纜全部采用AOC有源光纜,因此每個端口對應一個光模塊,即每條光纜對應2個光模塊,因此計算側和存儲側共需要(1120+1124+1120)×2+(280+92+288)×2=8048個光模塊,即單顆GPU對應所需200G光模塊數量約為1:7.2

DGX GH200超級計算機搭載256個超級芯片,每個超級芯片可視為一個服務器,通過交換機進行互聯。從結構上來看,超級計算機采用兩層的胖樹拓撲結構,第一、二層分別使用96個、36個交換機,每臺交換機擁有32個速率為800G的端口;此外超級計算機還配備了24個IB交換機用于IB網絡。按照端口進行估算,L1層距離較近因此假定使用銅纜進行連接不涉及光模塊,L2層36個交換機在無收斂胖樹架構下,第二層交換機端口向下與L1層交換機上行端口互聯,因此共需要36×32×2=1152個800G光模塊;IB網絡架構下,24臺交換機需要24×32=768個800G光模塊;則DGX GH200超級計算機共需要1152+768=1920個800G光模塊,對應每顆芯片12個800G光模塊。則GPT-3單日完成訓練需要8萬顆以上200G光模塊,如果考慮到FLOPS的利用率約為20%-30%,則需要光模塊的數量將約為35萬顆。

易飛揚應用于算力場景的光模塊

AI發展促進了海量光模塊需求,易飛揚則已于2023年完成800G/400G AI應用光模塊產線建設任務,新建成的生產線主要用于4×100G PAM4和8×100G PAM4光模塊和有源光纜的生產。

wKgZomWTvB-AWaavAAAxZYpJhRM309.png

wKgaomWTvB-Aay2pAAA1M0y3A5I336.png

得益于供應鏈的支持,易飛揚的系列AI光模塊量產順利,公司本身的產品多樣化設計能力、訂單能力和供應鏈能力形成了較好的匹配關系。可以為中小客戶提供靈活有效的需求交付和樣品測試。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31536

    瀏覽量

    270344
  • 光模塊
    +關注

    關注

    77

    文章

    1283

    瀏覽量

    59233
  • 算力
    +關注

    關注

    1

    文章

    1016

    瀏覽量

    14959
收藏 人收藏

    評論

    相關推薦

    中心的如何衡量?

    作為當下科技發展的重要基礎設施,其的衡量關乎其能否高效支撐人工智能、大數據分析等智能應用的運行。以下是對智中心算衡量的詳細闡述:一、
    的頭像 發表于 01-16 14:03 ?478次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    企業AI租賃模式的好處

    構建和維護一個高效、可擴展的AI基礎設施,不僅需要巨額的初期投資,還涉及復雜的運維管理和持續的技術升級。而AI
    的頭像 發表于 12-24 10:49 ?264次閱讀

    杰和課堂|帶你認識

    杰和課堂|帶你認識力人工智能浪潮洶涌的今天,一詞頻繁出現在各類科技新聞、產業發展報告。了解過杰和科技產品的讀者們,也會在杰和各
    的頭像 發表于 12-06 10:24 ?411次閱讀
    杰和課堂|帶你認識<b class='flag-5'>算</b><b class='flag-5'>力</b>

    企業AI租賃是什么

    企業AI租賃是指企業通過互聯網向專業的提供商租用所需的計算資源,以滿足其AI應用的需求。
    的頭像 發表于 11-14 09:30 ?1155次閱讀

    GPU開發平臺是什么

    隨著AI技術的廣泛應用,需求呈現出爆發式增長。AI租賃作為一種新興的服務模式,正逐漸成為
    的頭像 發表于 10-31 10:31 ?262次閱讀

    青云科技強化AI架構,升級產品與服務體系

    10月9日,青云科技正式揭曉了其升級版的產品與服務陣容、行業及場景定制化解決方案,以及全新的生態戰略。該公司旨在通過AI平臺、AI
    的頭像 發表于 10-10 16:42 ?551次閱讀

    九章云極DataCanvas公司「包」產品璀璨亮相2024大會!

    九章云極DataCanvas公司技術專家向與會者詳細介紹包的產品能力和創新模式,收獲行業伙伴的高度認可。力作為AI時代的數字能源,將在
    的頭像 發表于 09-29 14:44 ?831次閱讀
    九章云極DataCanvas公司「<b class='flag-5'>算</b><b class='flag-5'>力</b>包」<b class='flag-5'>產品</b>璀璨亮相2024<b class='flag-5'>中</b>國<b class='flag-5'>算</b><b class='flag-5'>力</b>大會!

    大模型時代的需求

    現在AI已進入大模型時代,各企業都爭相部署大模型,但如何保證大模型的,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發表于 08-20 09:04

    中科曙光入選2024服務產業圖譜及服務產品名錄

    近日,中國信通院公布首個《服務產業圖譜(2024年)》及《服務產品名錄(2024年)》。曙光智
    的頭像 發表于 08-06 14:23 ?836次閱讀

    軟通動力亮相2024國移動網絡大會,共繪網絡新藍圖

    4月28日至29日,以“網絡點亮AI新時代”為主題的2024國移動網絡大會在蘇州隆重舉
    的頭像 發表于 05-06 10:20 ?544次閱讀
    軟通動力亮相2024<b class='flag-5'>中</b>國移動<b class='flag-5'>算</b><b class='flag-5'>力</b>網絡大會,共繪<b class='flag-5'>算</b><b class='flag-5'>力</b>網絡新藍圖

    DPU技術賦能下一代AI基礎設施

    4月19日,在以“重構世界 奔赴未來”為主題的2024國生成式AI大會上,中科馭數作為DPU新型基礎設施代表,受邀出席了中國智中心創
    的頭像 發表于 04-20 11:31 ?932次閱讀

    隨著AI需求不斷增強,800G模塊的需求不斷增大

    在人工智能芯片(AIGC)和不斷發展的背景下,模塊產業正在迎來快速發展的時期。隨著模塊
    的頭像 發表于 04-11 10:54 ?663次閱讀
    隨著<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>需求不斷增強,800G<b class='flag-5'>光</b><b class='flag-5'>模塊</b>的需求不斷增大

    AI的需求推動模塊行業快速迭代

    近期,由OpenAI發布的人工智能文生視頻大模型Sora再次引起了不小的轟動,繼ChatGPT之后,Sora的推出讓AIGC(生成式人工智能)再度成為行業焦點,AI大模型的快速迭代升級對網絡架構提出了更高要求,推動模塊
    的頭像 發表于 04-10 14:07 ?388次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>的需求推動<b class='flag-5'>光</b><b class='flag-5'>模塊</b>行業快速迭代

    256Tops!CSA1-N8S1684X服務器

    (基于BM1684X的高服務器)高AI處理器BM1684X搭載了BM1684AI
    的頭像 發表于 03-23 08:02 ?1761次閱讀
    256Tops<b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b>服務器
    保单百家乐技巧| 威尼斯人娱乐场官网网站是多少| 百家乐官网全讯网2| 棋牌小游戏| 威尼斯人娱乐平台注册网址| 百家乐赌机厂家| 网上百家乐解码器| 百家乐官网赔率计算| 博彩百家乐官网心得| 网上百家乐官网哪里好| 公主岭市| 含山县| 蛟河市| 宾利百家乐官网游戏| 漳浦县| 百家乐官网线上游戏| 百家乐官网赌博机原理| 金都百家乐官网现金网| 百家乐官网娱乐城地址| 在线百家乐官网纸牌游戏| 真人百家乐官网攻略| 百家乐官网赌博机玩法| 介绍百家乐官网赌博技巧| 百家乐官网mediacorp| 太阳百家乐官网3d博彩通| 澳门百家乐官网网上直赌| 百家乐官网技巧赚钱| 电脑打百家乐官网怎么赢| 百家乐官网玩揽法的论坛| 百家乐官网百博亚洲| 属蛇和属猪做生意吗| 百家乐资金注码| 玩百家乐五湖四海娱乐城| 赌场百家乐的玩法技巧和规则| 大佬百家乐的玩法技巧和规则 | 真人二八杠| 武隆县| 永利博百家乐官网现金网| 百家乐官网赌场方法| 百家乐辅助工具| 神娱乐百家乐的玩法技巧和规则|