常聽人說AI對存儲性能提出了新需求,那么AI對存儲有怎樣的需求呢?
人工智能全流程中,涉及數(shù)據(jù)的采集、數(shù)據(jù)的預(yù)處理、模型訓(xùn)練、模型部署等環(huán)節(jié),跟以往操作差異最大的在于訓(xùn)練環(huán)節(jié),為此,有外媒動手做了一個評測。結(jié)果顯示,在訓(xùn)練環(huán)節(jié),高性能存儲設(shè)備對于性能的提升完全沒有幫助。
測試架構(gòu)是這樣的,一臺戴爾PowerEdge R740xd服務(wù)器,有兩塊至強(qiáng)黃金6130 CPU,256GB DRAM內(nèi)存,用它來運行byteLAKE的AI測試,測試的變量是三款SSD,一個是鎧俠SAS 口的PX04S,一個是三星的983ZET,還有一個是英特爾傲騰900P。
鎧俠SAS口 PX04S SSD
三星PCIe卡983ZET
英特爾傲騰900P
測試中分析了機(jī)器學(xué)習(xí)在訓(xùn)練階段的性能表現(xiàn),測試程序用的是byteLAKE的EWA Gurad,它是一個實時監(jiān)測模型,該模型包括一個輸入層,22個卷積層,5個池化層,2個路由層,還有一個探測層。
測試優(yōu)劣的評判標(biāo)準(zhǔn)是時間,就是做5000個Epoch所耗費的時間,每換一次SSD就進(jìn)行一次測試,測試結(jié)果如下。
鎧俠 98小時 24分
三星 98小時 44分
英特爾 98小時 42分
明顯可見,本地的SSD對性能幾乎沒有影響,換了不同性能的SSD,既有SAS口的,也有PCIe口的,既有NAND SSD也有機(jī)遇3D Xpoint的SSD,最終性能表現(xiàn)都差不多。
在數(shù)據(jù)的獲取時,SSD會有優(yōu)勢,但在計算環(huán)節(jié),對SSD的要求并不高,那是不是說明CPU的訓(xùn)練能力不夠,導(dǎo)致瓶頸呢?
為了進(jìn)一步測試,在服務(wù)器里加入來了一塊英偉達(dá)T4顯卡,然后再跑一下測試。
鎧俠 4h 30分鐘
三星 4小時 28分鐘
Intel 4小時 27分鐘
GPU的加速效果還是非常明顯的,提升了22倍,計算性能提升來的話,SSD的性能差異是否明顯呢?從數(shù)據(jù)來看,顯然還是沒什么影響。
測試結(jié)果發(fā)現(xiàn),高性能的存儲并沒有提升AI訓(xùn)練階段的性能,由于AI模型的復(fù)雜結(jié)構(gòu)限制,機(jī)器學(xué)習(xí)訓(xùn)練的時間要遠(yuǎn)遠(yuǎn)高于數(shù)據(jù)載入的時間。雖然英偉達(dá)T4顯卡加速了機(jī)器學(xué)習(xí)的速度,但并沒有讓SSD發(fā)揮優(yōu)勢,
當(dāng)然,想要看具體某個零部件對于系統(tǒng)性能影響的話還需要許多細(xì)致的工作,比如,換一個AI框架,換別的零部件什么的。這一測試其實是有意義的,可以讓我們找出有利于性能提升的部分,把錢花在刀刃上。
責(zé)任編輯:pj
-
服務(wù)器
+關(guān)注
關(guān)注
12文章
9303瀏覽量
86061 -
AI
+關(guān)注
關(guān)注
87文章
31513瀏覽量
270330 -
人工智能
+關(guān)注
關(guān)注
1796文章
47666瀏覽量
240281
發(fā)布評論請先 登錄
相關(guān)推薦
英特爾帶您解鎖云上智算新引擎
英特爾成都基地擴(kuò)容,強(qiáng)化服務(wù)器芯片產(chǎn)能
美國多IP服務(wù)器和美國多服務(wù)器有什么區(qū)別
AMD數(shù)據(jù)中心業(yè)務(wù)首超英特爾,Nvidia異軍突起
英特爾宣布擴(kuò)容成都封裝測試基地
英特爾擴(kuò)容在成都的封裝測試基地
英特爾調(diào)降明年AI服務(wù)器芯片出貨目標(biāo)
英特爾21152和PCI2250的區(qū)別
![<b class='flag-5'>英特爾</b>21152和PCI2250的<b class='flag-5'>區(qū)別</b>](https://file.elecfans.com/web1/M00/D9/4E/pIYBAF_1ac2Ac0EEAABDkS1IP1s689.png)
浪潮信息元腦?服務(wù)器率先支持英特爾?至強(qiáng)?6處理器
![浪潮信息元腦?<b class='flag-5'>服務(wù)器</b>率先支持<b class='flag-5'>英特爾</b>?至強(qiáng)?6處理<b class='flag-5'>器</b>](https://file1.elecfans.com//web2/M00/EC/71/wKgZomZiuIGAN4eoAAECsirLhlM133.jpg)
英特爾CEO:AI時代英特爾動力不減
寧暢B5000 G5多節(jié)點服務(wù)器采用第五代英特爾至強(qiáng)可擴(kuò)展處理器
![寧暢B5000 G5多節(jié)點<b class='flag-5'>服務(wù)器</b>采用第五代<b class='flag-5'>英特爾</b>至強(qiáng)可擴(kuò)展處理<b class='flag-5'>器</b>](https://file1.elecfans.com/web2/M00/E9/86/wKgZomZUArWAQRJVAAAVFLMHKWY574.png)
全新 μATX 服務(wù)器載板為英特爾 Ice Lake D 處理器系列產(chǎn)品提供更多可擴(kuò)展性
![全新 μATX <b class='flag-5'>服務(wù)器</b>載板為<b class='flag-5'>英特爾</b> Ice Lake D 處理<b class='flag-5'>器</b>系列產(chǎn)品提供更多可擴(kuò)展性](https://file1.elecfans.com/web2/M00/C5/44/wKgZomX72hyAbLCXAARnV7idoZs657.jpg)
第五代英特爾至強(qiáng)處理器,AI特化的通用服務(wù)器CPU
![第五代<b class='flag-5'>英特爾</b>至強(qiáng)處理<b class='flag-5'>器</b>,AI特化的通用<b class='flag-5'>服務(wù)器</b>CPU](https://file1.elecfans.com/web2/M00/C5/96/wKgaomX2-1qAFwdqAAYypEYQ1_g752.png)
![](https://file1.elecfans.com/web2/M00/C2/CA/wKgaomXe7j6ANGaHAAWN2L7mdBA367.png)
評論