吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型非GPU專屬 AMD EPYC秀出CPU AI實(shí)力

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2023-12-07 15:51 ? 次閱讀

12月6日,amd在加利福尼亞州圣何塞舉行的“advancing ai”活動中發(fā)布了一系列創(chuàng)新產(chǎn)品,包括mi300、Ryzen ai pc處理器。作為amd未來發(fā)展的關(guān)鍵,amd試圖在所有產(chǎn)品線上實(shí)現(xiàn)ai功能,從大規(guī)模數(shù)據(jù)中心訓(xùn)練和推理解決方案到面向消費(fèi)者的電腦和游戲體驗(yàn)。

amd在高性能計(jì)算(hpc)和數(shù)據(jù)中心領(lǐng)域顯示出持續(xù)的領(lǐng)導(dǎo)能力。amd epyc處理器和amd instinct加速器仍然是世界上許多最創(chuàng)新、最節(jié)能、最快的超級計(jì)算機(jī)的基本解決方案。

根據(jù)世界超級計(jì)算機(jī)排名第62屆top500,全體500個超級電腦套裝的amd平臺為140個,比前年增加了39%。此外,amd根據(jù)green500的最新名單,為世界上能源效率最高的10臺超級計(jì)算機(jī)中的8臺提供了電力。

目前,橡樹國家實(shí)驗(yàn)室使用amd epyc處理器和安裝加速器驅(qū)動最先進(jìn)的超級計(jì)算機(jī),勞倫斯利弗莫爾國家實(shí)驗(yàn)室也開始安裝超大型超級計(jì)算機(jī)el capitan。

今天amd發(fā)布了第一個ai/hpc數(shù)據(jù)中心apu——mi300a,并將zen3 cpu和cdna3 gpu整合到一個芯片中,使用了hbm3內(nèi)存和第四代infinity fabric高速總線的相互連接。這樣可以簡化結(jié)構(gòu),簡化程序設(shè)計(jì)。

據(jù)amd介紹,apu具有充分利用集成架構(gòu)優(yōu)勢的性能潛力。統(tǒng)一內(nèi)存,統(tǒng)一內(nèi)存,共享的infinity母線技術(shù),動態(tài)功耗分布及程序設(shè)計(jì)上的便利性等。

由于這些優(yōu)點(diǎn),mi300a在openfoam上的工作效率是h100的4倍。peakhpc每瓦的性能比gh200高出2倍。

在hpc等性能上也與h100相似或領(lǐng)先。隨著mi300a的增加,El Capitan將成為世界上第一臺具備2 exaplop(100億次)分配密度的超級電腦,同時(shí)也將成為世界上最快的超級計(jì)算機(jī)。

此外,EPYC本身也能夠具備強(qiáng)大的AI能力。在今年6月份舉辦的“數(shù)據(jù)中心與AI技術(shù)首映”上,AMD針對云原生負(fù)載進(jìn)行了優(yōu)化,帶來了以吞吐量為導(dǎo)向,擁有最高終端密度和效率的AMD EPYC 9704處理器“Bergamo”,以及面向技術(shù)計(jì)算領(lǐng)域的Genoa-X。其中,Genoa-X的亮點(diǎn)包括領(lǐng)先的5nm工藝節(jié)點(diǎn)技術(shù)、高達(dá)96個高性能Zen4核心、高達(dá)1.1GB的L3 Cache,兼容SP5插槽等,可以在Ansys CFX中每天完成更多的設(shè)計(jì)任務(wù),從而大幅加速產(chǎn)品開發(fā)。

在今日活動的演示現(xiàn)場,記者看到采用 AMD EPYC 9654處理器運(yùn)行Llama 2大語言模型的展示,在同競品Xeon Platinum 8480的對比中,處理運(yùn)行速度提升36%。這意味著,在某些場景下,依靠CPU提供的AI算力也能夠進(jìn)行大模型處理,而非僅依靠GPU,這對于具有較少GPU資源的企業(yè)而言非常具有吸引力,也帶來了成本上的節(jié)省。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • amd
    amd
    +關(guān)注

    關(guān)注

    25

    文章

    5500

    瀏覽量

    134645
  • 加速器
    +關(guān)注

    關(guān)注

    2

    文章

    807

    瀏覽量

    38090
  • 超級計(jì)算機(jī)
    +關(guān)注

    關(guān)注

    2

    文章

    464

    瀏覽量

    42030
收藏 人收藏

    評論

    相關(guān)推薦

    AMD將DeepSeek-V3模型集成至Instinct MI300X GPU

    AMD近日宣布了一項(xiàng)重要進(jìn)展,成功將全新的DeepSeek-V3模型集成到其Instinct MI300X GPU上。這一舉措標(biāo)志著AMDAI
    的頭像 發(fā)表于 02-06 09:41 ?70次閱讀

    AMD集成DeepSeek-V3模型至Instinct MI300X GPU

    。 據(jù)悉,DeepSeek-V3模型AMD針對AI推理應(yīng)用進(jìn)行深度優(yōu)化的成果。通過集成到Instinct MI300X GPU,AMD旨在
    的頭像 發(fā)表于 02-05 13:58 ?94次閱讀

    GPU是如何訓(xùn)練AI模型

    AI模型的訓(xùn)練過程中,大量的計(jì)算工作集中在矩陣乘法、向量加法和激活函數(shù)等運(yùn)算上。這些運(yùn)算正是GPU所擅長的。接下來,AI部落小編帶您了解GPU
    的頭像 發(fā)表于 12-19 17:54 ?242次閱讀

    AMD發(fā)布10億參數(shù)開源AI模型OLMo

    AMD公司近日宣布了一項(xiàng)重大進(jìn)展,推出了首個完全開放的10億參數(shù)語言模型系列——AMD OLMo。這一舉措為開發(fā)者和研究人員提供了強(qiáng)大的AI研究工具,有助于推動
    的頭像 發(fā)表于 11-12 18:08 ?507次閱讀

    為什么ai模型訓(xùn)練要用gpu

    GPU憑借其強(qiáng)大的并行處理能力和高效的內(nèi)存系統(tǒng),已成為AI模型訓(xùn)練不可或缺的重要工具。
    的頭像 發(fā)表于 10-24 09:39 ?431次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽

    1章 從TOP500和MLPerf看算力芯片格局 1.1科學(xué)算力最前沿TOP500 1.2 AI算力新標(biāo)準(zhǔn) 第2章 高性能 CPU 流水線概覽 2.1什么是指令 2.2 流水線與MIPS 2.3
    發(fā)表于 10-15 22:08

    三星首度引入AMD MI300X,緩解AI GPU短缺

    三星電子近日斥資約270億韓元(約合1.42億元人民幣),購買了AMD Instinct MI300X加速器。這一舉措標(biāo)志著三星電子首次引入英偉達(dá)品牌的AI GPU,以應(yīng)對企業(yè)內(nèi)部算
    的頭像 發(fā)表于 10-10 17:15 ?602次閱讀

    AMD EPYC 4004系列處理器成為中小型企業(yè)的信賴選擇

    AMD宣布推出AMD EPYC(霄龍) 4004系列處理器,該系列處理器以全新且經(jīng)過成本優(yōu)化的產(chǎn)品補(bǔ)充了現(xiàn)有AMD EPYC服務(wù)器
    的頭像 發(fā)表于 09-20 15:30 ?380次閱讀

    AMD全新處理器擴(kuò)大數(shù)據(jù)中心CPU的領(lǐng)先地位

    在Computex 2024 開幕主題演講上,AMD 詳細(xì)介紹了全新的 CPU、NPU 和 GPU 領(lǐng)先架構(gòu),為從數(shù)據(jù)中心到個人電腦的端到端 AI 基礎(chǔ)架構(gòu)帶來強(qiáng)大算力。
    的頭像 發(fā)表于 09-19 11:01 ?594次閱讀

    AMD推出全新AMD銳龍和EPYC處理器,擴(kuò)大數(shù)據(jù)中心和PC領(lǐng)域領(lǐng)先地位

    ——下一代?AMD EPYC?處理器將擴(kuò)大數(shù)據(jù)中心?CPU?的領(lǐng)先地位 ——全新?AMD?銳龍?AI 300?系列筆記本電腦和?
    的頭像 發(fā)表于 06-04 19:21 ?1046次閱讀
    <b class='flag-5'>AMD</b>推出全新<b class='flag-5'>AMD</b>銳龍和<b class='flag-5'>EPYC</b>處理器,擴(kuò)大數(shù)據(jù)中心和PC領(lǐng)域領(lǐng)先地位

    為什么跑AI往往用GPU而不是CPU

    GPU的能力,并且支持的GPU數(shù)量越多,就代表其AI性能越強(qiáng)大。那么問題來了,為什么是GPU而不是CPU?
    的頭像 發(fā)表于 04-24 08:27 ?2097次閱讀
    為什么跑<b class='flag-5'>AI</b>往往用<b class='flag-5'>GPU</b>而不是<b class='flag-5'>CPU</b>?

    AI訓(xùn)練,為什么需要GPU?

    隨著由ChatGPT引發(fā)的人工智能熱潮,GPU成為了AI模型訓(xùn)練平臺的基石,甚至是決定性的算力底座。為什么GPU能力壓CPU,成為炙手可熱
    的頭像 發(fā)表于 04-24 08:05 ?1075次閱讀
    <b class='flag-5'>AI</b>訓(xùn)練,為什么需要<b class='flag-5'>GPU</b>?

    AMD EPYC 8004系列處理器優(yōu)勢介紹

    AMD EPYC 8004系列處理器就是專為單路平臺設(shè)計(jì)的高能效處理器,它體積小巧,非常適合空間和功率有限的部署環(huán)境。
    發(fā)表于 04-15 11:30 ?412次閱讀
    <b class='flag-5'>AMD</b> <b class='flag-5'>EPYC</b> 8004系列處理器優(yōu)勢介紹

    國產(chǎn)GPUAI模型領(lǐng)域的應(yīng)用案例一覽

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近一年多時(shí)間,隨著大模型的發(fā)展,GPUAI領(lǐng)域的重要性再次凸顯。雖然相比英偉達(dá)等國際大廠,國產(chǎn)GPU起步較晚、聲勢較小。不過近幾年,國內(nèi)不少
    的頭像 發(fā)表于 04-01 09:28 ?4131次閱讀
    國產(chǎn)<b class='flag-5'>GPU</b>在<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>領(lǐng)域的應(yīng)用案例一覽

    AMD EPYC處理器:AI推理能力究竟有多強(qiáng)?

    如今,AMD EPYC處理器已經(jīng)成為最常被選擇用于AI推理的服務(wù)器平臺,尤其是第四代Genoa EPYC 9004系列,執(zhí)行AI推理的能力又
    發(fā)表于 03-15 09:47 ?570次閱讀
    六合彩开奖时间| 博彩太阳城| 百家乐冯氏坐庄法| 百家乐官网关键词| 大发888真钱游戏| 百家乐在线投注系统| 百家乐官网庄闲和游戏机| 锦州合声棋牌下载| 谁会玩百家乐的玩法技巧和规则 | 鑫鼎国际| 太阳城音乐广场| 互博百家乐现金网| 百家乐官网怎样捉住长开| 新浪棋牌竞技风暴| 百家乐送钱平台| 百家乐赌场群| 火命与金命做生意| 杨氏百家乐官网必胜公式| 沙洋县| 澳门博彩公司| 大发888问题缺少组件| 申请百家乐会员送彩金| 百家乐官网骗局视频| 网络百家乐官网公式打法| 百家乐官网庄闲规则| 百家乐平台| 娱乐城大全| 大发888 这类平台| 威尼斯人娱乐成| 真博百家乐的玩法技巧和规则 | 蓝盾百家乐官网赌场| 林甸县| 嵊州市| 百家乐详解| 88利来| 红桃k娱乐城备用网址| 棋牌网站| 百家乐官网现场新全讯网| 关于百家乐官网概率的书| 怎样看百家乐官网牌| 百家乐官网庄闲和概率|