吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

GPU如何突破算力供需瓶頸

沐曦MetaX ? 來源:沐曦MetaX ? 2023-08-22 10:26 ? 次閱讀

近日,2023中國算力大會在寧夏銀川舉行,沐曦集成電路(上海)有限公司(下稱“沐曦”)聯合創始人、CTO兼首席硬件架構師彭莉受邀出席由中國信息通信研究院、中國互聯網協會聯合舉辦的智能計算論壇,并擔任演講嘉賓,探討后GPT時代算力需求激增帶來的挑戰以及GPU如何突破算力供需瓶頸、推動人工智能產業普惠化發展。

沐曦聯合創始人、CTO兼首席硬件架構師彭莉

發表主題演講

在題為“后GPT時代的算力需求”的演講中,彭莉預測大模型商業模式將分為通用計算市場和專用定制化市場兩大類:在通用計算市場,大語言模型將終結多數NLP任務,NLP技術水平被強行拉平,通用大模型或被大廠“壟斷”;而在專用定制化市場,開源大模型將呈現百花齊放的發展態勢,可針對私有數據、敏感數據進行快速定制和領域對齊,大模型開發和部署能力將趨于普及化。

彭莉指出,區別于傳統AI,生成式AI技術可以借助接入類ChatGPT應用發揮顯著的技術優勢,為大語言模型的開發降本增效,同時也對算力提出更高和更迫切的要求。由于大模型訓練的一次性成本被大規模推理攤薄,大模型盈利的一大難點是降低推理成本。沐曦致力于打造高效通用的GPU芯片及軟硬件一體的生態解決方案,通過GPU軟件生態優勢、硬件架構優勢、先進封裝等方面全面提升GPU算力,降低大模型訓練和推理的算力成本,在產品路線和生態戰略上均可滿足大模型對算力基礎設施的大規模需求,為推進智能產業可持續發展打造堅實的算力底座。

審核編輯:彭菁

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 集成電路
    +關注

    關注

    5392

    文章

    11622

    瀏覽量

    363185
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4775

    瀏覽量

    129357
  • 硬件
    +關注

    關注

    11

    文章

    3381

    瀏覽量

    66451
  • 沐曦
    +關注

    關注

    0

    文章

    27

    瀏覽量

    1197
  • 大模型
    +關注

    關注

    2

    文章

    2547

    瀏覽量

    3168
收藏 人收藏

    評論

    相關推薦

    中心的如何衡量?

    作為當下科技發展的重要基礎設施,其的衡量關乎其能否高效支撐人工智能、大數據分析等智能應用的運行。以下是對智中心算衡量的詳細闡述:一、
    的頭像 發表于 01-16 14:03 ?469次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    未來邊緣GPU在車聯網中的創新應用(下)

    本文來源:壹靈海科技隨著5G通信技術的普及和人工智能技術的飛速發展,邊緣GPU將在車聯網領域發揮更加重要的作用。5G網絡的高帶寬和低延遲特性為車聯網提供了強大的支持,使得車輛能夠實時地交換大量
    的頭像 發表于 12-19 11:16 ?254次閱讀
    未來邊緣<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>在車聯網中的創新應用(下)

    芯片 高性能 CPUGPUNPU 微架構分析》第3篇閱讀心得:GPU革命:從圖形引擎到AI加速器的蛻變

    在數據挖掘工作中,我經常需要處理海量數據的深度學習任務,這讓我對GPU架構和張量運算充滿好奇。閱讀《芯片》第7-9章,讓我對這些關鍵技術有了全新認識。 GPU架構從早期的固定功能流
    發表于 11-24 17:12

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--了解芯片GPU

    著色器(Pixel shader)是圖形流水線中相當強大的功能單元,因為它可以為每個片段執行復雜的計算,從而為最終渲染的圖像添加細節和視覺效果。 DirectX API推動 GPU 演進
    發表于 11-03 12:55

    GPU開發平臺是什么

    隨著AI技術的廣泛應用,需求呈現出爆發式增長。AI租賃作為一種新興的服務模式,正逐漸成為企業獲取
    的頭像 發表于 10-31 10:31 ?262次閱讀

    【一文看懂】大白話解釋“GPUGPU

    隨著大模型的興起,“GPU”這個詞正頻繁出現在人工智能、游戲、圖形設計等工作場景中,什么是GPU,它與CPU的區別是什么?以及到底什么是GPU
    的頭像 發表于 10-29 08:05 ?985次閱讀
    【一文看懂】大白話解釋“<b class='flag-5'>GPU</b>與<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>”

    未來邊緣GPU在車聯網中的創新應用

    的發展提供了強大的技術支撐。未來邊緣GPU在車聯網中的應用及創新,將有力推動車聯網技術的快速發展,提升交通運行效率,降低交通事故發生率,為人們創造更加安全、便捷
    的頭像 發表于 10-25 08:08 ?377次閱讀
    未來邊緣<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>在車聯網中的創新應用

    GPU租用平臺怎么樣

    GPU租用平臺以其成本效益、靈活性與可擴展性、簡化運維以及即時訪問等優勢,在深度學習、科學計算、圖形渲染等多個領域發揮著重要作用。
    的頭像 發表于 10-17 10:03 ?277次閱讀

    GPU租用平臺是什么

    GPU租用平臺是一種基于云計算的服務模式,它允許用戶通過互聯網按需租用高性能GPU資源,而無需自行購買、部署和維護這些硬件。
    的頭像 發表于 10-16 10:15 ?305次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    GPU、NPU,給我們剖析了芯片的微架構。書中有對芯片方案商處理器的講解,理論聯系實際,使讀者能更好理解芯片。 全書共11章,
    發表于 10-15 22:08

    中國大會召開,業界首個高質量評估體系發布

    首次完整地構建了人工智能時代高質量的理論體系,并探索性提出業界首個 "五位一體"的高質量評估體系。 發布現場 在當前由大模型和AIGC驅動的AI時代,
    的頭像 發表于 09-28 16:50 ?295次閱讀
    中國<b class='flag-5'>算</b><b class='flag-5'>力</b>大會召開,業界首個<b class='flag-5'>算</b><b class='flag-5'>力</b>高質量評估體系發布

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    紙質媒體的高質量和專業網絡媒體的信息更新速度。 芯片在最近15年有著巨大性能突破,這些年Intel的CPU芯片從雙核128位SIMD到眾核512位SIMD;NVIDIA的GPU產品
    發表于 09-02 10:09

    服務器為什么選擇GPU

    隨著人工智能技術的快速普及,需求日益增長。智中心的服務器作為支撐大規模數據處理和計算的核心設備,其性能優化顯得尤為關鍵。而GPU服務器也進入了大眾的視野,成為高性能計算的首選。那
    的頭像 發表于 07-25 08:28 ?815次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服務器為什么選擇<b class='flag-5'>GPU</b>

    Sora需求引發業界對集結國內AI企業的探討

    據周鴻祎觀察,Sora視頻分析所需恐遠超千億規模模型。因而,考慮到如今國內芯片供應受限,問題至關重要。事實上,Meta已有約50萬臺 GPU
    的頭像 發表于 02-25 10:03 ?642次閱讀
    MG百家乐官网大转轮| 电玩百家乐的玩法技巧和规则| 大发888信用| 百家乐官网娱乐城7| 金赞百家乐官网的玩法技巧和规则| 百家乐有公式| 星河国际娱乐场| 百家乐官网家| 大发888怎么玩| 赌场百家乐官网赌场| 百家乐博娱乐网| 济阳县| 新加坡百家乐官网规则| 百家乐游戏筹码| 摩纳哥百家乐官网娱乐城 | 百家乐官网分享| 博彩百家乐画谜网| 百家乐官网转盘技巧| 网络百家乐官网电脑| 大发888赌博网站大全| 百家乐官网赌博破解方法| 香港百家乐娱乐场开户注册| 行唐县| 视频百家乐平台出租| 资源县| 百家乐电投网址| 延庆县| 百家乐的出牌技巧| 游戏机百家乐官网作弊| 百家乐板路| 百家乐官网佣金计算| 百家乐五湖四海赌场娱乐网规则 | 全讯网备用| 双辽市| 新彩百家乐的玩法技巧和规则| 澳门百家乐官网玩法心得技巧| 威尼斯人娱乐城信誉lm0| 圣安娜百家乐官网代理| 德州扑克大师| 百家乐推荐怎么看| 博盈百家乐官网游戏|