吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為什么FPGA成為數(shù)據(jù)中心尖端技術(shù)

FPGA設(shè)計論壇 ? 來源:FPGA設(shè)計論壇 ? 作者:FPGA設(shè)計論壇 ? 2022-03-25 09:45 ? 次閱讀

我們知道,FPGA的頻率一般只有幾百MHz,而CPU的頻率卻高達(dá)數(shù)GHz。那么,有不少網(wǎng)友心中就有一個疑問:“為什么FPGA主頻比CPU慢,但卻可以用來幫CPU做加速?”。

今天,EDN就和大家系統(tǒng)性地討論下這個問題。

將FPGA主頻與CPU相比不妥實

在開始之前,首先要明確一點,將FPGA的主頻與CPU比較,實際是風(fēng)馬牛不相及的問題。FPGA和CPU是兩種完全不同的器件,前者是專用,是硬件編程,而后者是通用,是軟件編程。

為什么FPGA成為數(shù)據(jù)中心尖端技術(shù)

不同體系結(jié)構(gòu)性能和靈活性的比較。(圖片來源:《如何評價微軟在數(shù)據(jù)中心使用 FPGA 代替?zhèn)鹘y(tǒng) CPU 的做法?》)

表面上看,F(xiàn)PGA的時鐘頻率要低;對于通用計算任務(wù),F(xiàn)PGA設(shè)計貌似不如CPU設(shè)計。但是實際上,單個FPGA的并行度卻比CPU要高得多。FPGA的行為是確定性的,用作硬件加速器沒有時間片、線程或資源沖突的問題。它始終以完全相同的速度執(zhí)行一件事。因此,如果需要低延遲,那么FPGA就可能是最佳選擇。

為什么FPGA成為數(shù)據(jù)中心尖端技術(shù)

計算密集型任務(wù),CPU、GPU、FPGA、ASIC 的數(shù)量級比較(以16位整數(shù)乘法為例,數(shù)字僅為數(shù)量級的估計)(圖片來源:《如何評價微軟在數(shù)據(jù)中心使用 FPGA 代替?zhèn)鹘y(tǒng) CPU 的做法?》)

FPGA并行計算機(jī)制

如知乎網(wǎng)友young cc所言,雖然CPU主頻很高,但其是通用處理器,做某個特定運算(如信號處理,圖像處理)可能需要很多個時鐘周期。而FPGA可以通過編程重組電路,直接生成專用電路。加上電路并行性,可能做這個特定運算只需要一個時鐘周期。

舉例來說,CPU主頻為3GHz,F(xiàn)PGA主頻為200MHz。若做某個特定運算,CPU需要30個時鐘周期,而FPGA只需一個,那么耗時情況是:

CPU:30/3GHz =10ns;

FPGA:1/200MHz =5ns。

可以看到,F(xiàn)PGA做這個特定運算速度比CPU塊,能幫助加速。

另外,CPU的主頻是加過流水線之后的。比如是15級流水線,則第一條指令執(zhí)行了15個時鐘周期后才能出結(jié)果。

但是,使用FPGA也不一定總能做加速。

例如,知乎網(wǎng)友Evan172就表示,使用FPGA做加速,只是在某些強(qiáng)計算和數(shù)據(jù)處理的方面,因為其硬件電路并行運行和有很多DSP硬核資源供調(diào)用的特點,可以工作得更出色。

FPGA本身也只是輔助角色,起控制的還是CPU本身,所以FPGA并不能代替CPU,只是在完成一件大任務(wù)的過程中將某部分任務(wù)分解給FPGA可以更好地一起完成任務(wù)。在這過程中也會有額外的開銷產(chǎn)生,在某些場合,可能用了FPGA而效果更差也是有的。

另外,通常說的使用FPGA加速比CPU和GPU省電,是指在完成同樣的任務(wù)下,F(xiàn)PGA耗費的電力比起CPU和GPU更少一些。這是相對而言的,并不是說FPGA本身就一定省電。

一個有趣的例子:數(shù)組加法計算

知乎用戶doing舉了一個很有趣的例子。他指出,假設(shè)用FPGA完整實現(xiàn)了CPU,然后再跑軟件的話,的確比CPU慢。問題是FPGA不會那么干,它會直指問題本質(zhì),解決問題。

例如,有兩個數(shù)組,其中有256個32位數(shù)。現(xiàn)在要把它們對應(yīng)相加變成一個數(shù)組,用CPU寫最快大概是這個樣子:

r[0] = a[0] + b[0];

r[1] = a[1] + b[1];

r[255] = a[255] + b[255];

當(dāng)然也可能會這么寫(在分支預(yù)測準(zhǔn)確,指令緩存不大的情況下可能更快):

for (int i = 0; i < 255; i++)

r[i] = a[i] + b[i];

對FPGA來說,也可以用上面相同的寫法,不同在于:

CPU是一個一個加法計算,而FPGA排好邏輯電路,在一個時鐘周期內(nèi)計算完畢。就算CPU主頻比FPGA快100倍也趕不上啊。話說后來CPU大量的增加SIMD指令,就有點這個意思,不過這相當(dāng)于提供庫函數(shù),沒那么靈活。

FPGA的并行是真并行,CPU完全沒得比。CPU如果想并行最多也就是讓多個核并行,但是對于大部分算法實現(xiàn)來說,如上例,多個核之間的同步調(diào)度開銷遠(yuǎn)遠(yuǎn)大于計算開銷,就算多個核之間的調(diào)用開銷可以做的很小,一般CPU也就那幾個核,而FPGA只要門足夠,想并行幾路就可以并行幾路。

所以在做可并行的計算密集型任務(wù)時,比如信號處理,網(wǎng)絡(luò)傳輸?shù)鹊菷PGA可以幫上忙;但是如果做常見的以串行為主的任務(wù),F(xiàn)PGA的確遠(yuǎn)遠(yuǎn)比不上CPU。如果要類比的話,有點像似GPU和CPU之間的關(guān)系。

“當(dāng)年寫Verilog的時候,我就想如果CPU里面自帶一塊FPGA,應(yīng)用程序程序可以在初始化期間直接燒一段代碼下去,那豈不是很爽。后來,有了能寫shader的3D顯卡...”

為什么FPGA成為數(shù)據(jù)中心尖端技術(shù)?

最后再討論一個話題,就是為什么FPGA一直是數(shù)據(jù)中心領(lǐng)域最尖端的技術(shù)?

有人可能認(rèn)為,再大的問題(算力)都可以通過堆CPU核心來解決。那么,假設(shè)有一臺強(qiáng)大的48核服務(wù)器,即使使用非常高端的FPGA,也很難達(dá)到相同的吞吐量。而且,F(xiàn)PGA硬件設(shè)計還需要由強(qiáng)大的團(tuán)隊來完成,非常燒錢。

這時,如果把機(jī)會成本和能源效率兩者考慮進(jìn)去,好處就開始顯現(xiàn)出來了。

首先來看能源效率。假設(shè)這臺48核服務(wù)器的功耗為400W并且發(fā)熱嚴(yán)重,那么就會對數(shù)據(jù)中心運營不利——能耗和散熱是數(shù)據(jù)中心運營的兩項最大支出。而將FPGA連接起來只執(zhí)行一項任務(wù),就可以實現(xiàn)很高的能效而開銷極低。通過正確的設(shè)計,可以在實現(xiàn)低功耗的同時獲得高吞吐量。

其次,機(jī)會成本(這個問題不太明顯)。系統(tǒng)中的CPU內(nèi)核數(shù)量就那么多。購買新的內(nèi)核并且安裝需要花很長時間,而且最好是將通用CPU內(nèi)核保留用于通用任務(wù)(例如虛擬機(jī)訂閱)。每個CPU核賣不出去就會燒錢。

當(dāng)有任務(wù)大量占用CPU時間(例如AI推理)時,F(xiàn)PGA就成為了不錯的選擇。

一個有關(guān)微軟Project Catapult項目當(dāng)中FPGA的趣事

當(dāng)年,微軟必應(yīng)團(tuán)隊在其Project Catapult項目中發(fā)現(xiàn),在啟用FPGA時,CPU的總體利用率實際上略有上升。所有的人都感到困惑,因為從直覺來看FPGA應(yīng)該要減少CPU負(fù)載。但是后來他們發(fā)現(xiàn),數(shù)據(jù)中心的業(yè)務(wù)流量達(dá)到了原來的2倍!由于效率提高,流量實現(xiàn)了兩倍的負(fù)載均衡。由此可見FPGA的強(qiáng)大之處。

總結(jié)

維基百科的相關(guān)詞條提到兩點:FPGA的優(yōu)勢在于其并行特性,有時對于某些應(yīng)用而言可以使速度明顯變快;可以使用FPGA來對算法中的某些部分加速,也可以在FPGA和通用處理器之間共享部分計算。

綜上,F(xiàn)PGA有兩個優(yōu)點:FPGA并行度遠(yuǎn)超CPU;CPU是通用電路,F(xiàn)PGA是定制電路。但是也有兩個缺點:開發(fā)周期長;并不是所有東西都適合FPGA。

原文標(biāo)題:為什么FPGA主頻比CPU慢,但卻可以用來幫CPU加速?

文章出處:【微信公眾號:FPGA設(shè)計論壇】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • FPGA
    +關(guān)注

    關(guān)注

    1630

    文章

    21798

    瀏覽量

    606059
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    10905

    瀏覽量

    213033
  • 頻率
    +關(guān)注

    關(guān)注

    4

    文章

    1535

    瀏覽量

    59391

原文標(biāo)題:為什么FPGA主頻比CPU慢,但卻可以用來幫CPU加速?

文章出處:【微信號:gh_9d70b445f494,微信公眾號:FPGA設(shè)計論壇】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    數(shù)據(jù)中心子系統(tǒng)的組成

    本帖最后由 bestups365 于 2011-11-11 10:21 編輯 數(shù)據(jù)中心的主要組成部分共有如下11個。(1)物理結(jié)構(gòu)數(shù)據(jù)中心的物理結(jié)構(gòu)就是能夠安裝數(shù)據(jù)中心并保護(hù)其免受環(huán)境條件
    發(fā)表于 11-11 10:16

    易飛揚寄望2018年通過數(shù)據(jù)中心市場增長考驗

    數(shù)據(jù)中心的爆發(fā)性需求并不對每一個光器件公司受益。相反,這一市場充滿了結(jié)構(gòu)性變數(shù)和長期耐力的考驗。因為技術(shù)擴(kuò)散,過去的時間在中國開一家傳統(tǒng)技術(shù)的光器件公司已經(jīng)非常容易。基于供應(yīng)鏈和行業(yè)分工,開一家光器件
    發(fā)表于 01-03 09:36

    走向綠色數(shù)據(jù)中心的7種手段

    熱量指南。其中許多重點是優(yōu)化內(nèi)部設(shè)備以實現(xiàn)最佳資源利用,包括降低冷卻功耗。  3.使用通道遏制:這是一種防止數(shù)據(jù)中心供應(yīng)側(cè)冷空氣與排氣側(cè)熱風(fēng)混合的技術(shù)。它涉及使用物理障礙并顯著提高冷卻效率。  4.
    發(fā)表于 08-16 15:35

    2019北京國際數(shù)據(jù)中心技術(shù)設(shè)備展覽會

    數(shù)據(jù)中心展,據(jù)中心技術(shù)展,據(jù)中心設(shè)備展,北京數(shù)據(jù)中心展,北京據(jù)中心
    發(fā)表于 09-06 17:09

    2019北京數(shù)據(jù)中心展覽會

    2019北京國際數(shù)據(jù)中心技術(shù)設(shè)備展覽會2019 The 8th China (Shanghai) International Energy Saving Technology
    發(fā)表于 09-25 11:26

    數(shù)據(jù)中心市場的十大趨勢

    毫不夸張地說,技術(shù)是以光速發(fā)展的。要跟上云數(shù)據(jù)中心市場的步伐,把握這些變化十分重要。下面是需要了解的十大趨勢。1.按需訪問云數(shù)據(jù)中心主要用于存儲信息并提供災(zāi)難恢復(fù)功能。但是,隨著移動應(yīng)用和物聯(lián)網(wǎng)
    發(fā)表于 12-31 22:23

    技術(shù)引導(dǎo)數(shù)據(jù)中心向板上光通信聚攏

    傳輸(2-10km)——這一結(jié)論目前還來自于我的技術(shù)猜思——我希望這一溯因思維的結(jié)論是正確的。我們把數(shù)據(jù)中心內(nèi)的連接稱為互連,我們把數(shù)據(jù)中心外的連接成為傳輸。
    發(fā)表于 10-26 16:47

    2020第十二屆北京國際數(shù)據(jù)中心技術(shù)設(shè)備展覽會

    2020第十二屆北京國際數(shù)據(jù)中心技術(shù)設(shè)備展覽會2020 the 12th beijing international data center technology equipment
    發(fā)表于 01-03 10:28

    未來數(shù)據(jù)中心與光模塊發(fā)展假設(shè)

    數(shù)據(jù)中心網(wǎng)絡(luò)成本的比重也在逐步提升,已達(dá)到6-7成左右,光模塊的升級勢必要跟隨數(shù)據(jù)中心的發(fā)展共同演進(jìn)。數(shù)據(jù)中心未來發(fā)展的四個假設(shè)高性能計算自從高性能計算(HPC)成為開放云服務(wù)以來,人
    發(fā)表于 08-07 10:27

    數(shù)據(jù)中心太耗電怎么辦

    ??????摘要:其實對于節(jié)能,傳統(tǒng)技術(shù)也是做了“十二分”的努力。但是在技術(shù)不斷演進(jìn)的情況下,傳統(tǒng)節(jié)能技術(shù)還是存在問題,如何破?本文分享自華為云社區(qū)《數(shù)據(jù)中心節(jié)能?來試試華為NAIE
    發(fā)表于 06-30 06:27

    數(shù)據(jù)中心是什么

    、結(jié)構(gòu)的世界進(jìn)入到不確定和非結(jié)構(gòu)的世界中,它將和交通、網(wǎng)絡(luò)通訊一樣逐漸成為現(xiàn)代社會基礎(chǔ)設(shè)施的一部分,進(jìn)而對很多產(chǎn)業(yè)都產(chǎn)生了積極影響。不過數(shù)據(jù)中心的發(fā)展不能僅憑經(jīng)驗,還要真正的結(jié)合實踐,促使數(shù)據(jù)中心發(fā)揮
    發(fā)表于 07-12 07:10

    如何去提高數(shù)據(jù)中心的運營效率呢

    現(xiàn)如今,盡管IT業(yè)界的各種新興技術(shù)可能正發(fā)生著各種突飛猛進(jìn)的快速變化,但每家數(shù)據(jù)中心仍然需要依賴電力資源的消耗來維持其運行能力。故而,數(shù)據(jù)中心運營商們?nèi)匀恍枰ㄟ^更新電源使用、冷卻和電氣設(shè)計方案,來
    發(fā)表于 09-09 06:14

    什么是數(shù)據(jù)中心

    數(shù)據(jù)中心是企業(yè)用來容納其關(guān)鍵業(yè)務(wù)應(yīng)用程序和信息的物理設(shè)施。隨著它們的發(fā)展,重要的是要長期考慮如何保持它們的可靠性和安全性。什么是數(shù)據(jù)中心數(shù)據(jù)中心通常被稱為單個事物,但實際上它們由許多技...
    發(fā)表于 09-15 06:46

    東芝展示企業(yè)級存儲產(chǎn)品與解決方案,推動數(shù)據(jù)中心產(chǎn)業(yè)的發(fā)展

    2020年9月15-16日,由開放數(shù)據(jù)中心委員會(ODCC)主辦的“開放數(shù)據(jù)中心峰會”在北京國際會議中心拉下帷幕。大會旨在圍繞數(shù)據(jù)中心尖端熱點技術(shù)
    的頭像 發(fā)表于 09-17 15:29 ?3230次閱讀

    數(shù)據(jù)中心為什么要部署FPGA

    FPGA 芯片在數(shù)據(jù)中心領(lǐng)域主要用于硬件加速,在云服務(wù)器廠商中已有廣泛部署。數(shù)據(jù)中心使用 FPGA 芯片代替?zhèn)鹘y(tǒng)的 CPU 方案后,處理其自定義算法時可實現(xiàn)顯著的加速效果。因此近年來,
    發(fā)表于 11-16 09:55 ?932次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b>為什么要部署<b class='flag-5'>FPGA</b>?
    百家乐官网如何计算| 十六浦娱乐城官网| 24山方位| 百家乐官网有方式赢钱吗| 大发888备用地址| 百家乐网上赌博网| 百家乐官网羸钱法| 百家乐乐翻天| 做生意人的风水| 百家乐官网庄闲和各| 柞水县| 大发888老l| 什么是百家乐的大路| 百家乐官网怎么玩才会赢钱| 砀山县| 德州扑克发牌规则| 新百家乐的玩法技巧和规则 | 免费百家乐官网规律| 德州扑克游戏网站| 怎么赢百家乐的玩法技巧和规则| 彩会百家乐游戏| 网上赌百家乐官网的玩法技巧和规则| 免费百家乐官网娱乐城| 大发888娱乐场下载iypu rd | 百家乐官网游戏卡通| 迪威百家乐官网现场| 瑞博国际娱乐| 大发888捕鱼| 最新百家乐的玩法技巧和规则| 百家乐有多少局| 博九百家乐官网的玩法技巧和规则 | 蓝盾百家乐官网平台租用| 莲花县| 壹贰博网址| 沈阳娱网棋牌官方下载| 威尼斯人娱乐城 老品牌值得您信赖| 百家乐的注码技巧| 做生意布局风水| 名仕百家乐官网的玩法技巧和规则| 玩百家乐官网秘诀| 百家乐官网如何投注技巧|