電子發(fā)燒友App
創(chuàng)作
發(fā)文章
發(fā)帖 
提問 
發(fā)資料
發(fā)視頻資料介紹
基于數(shù)據(jù)并行化的異步隨機(jī)梯度下降（ASGD）算法由于需要在分布式計算節(jié)點之間頻繁交換梯度數(shù)據(jù)，從而影響算法執(zhí)行效率。提出基于分布式編碼的同步隨機(jī)梯度下降（SSGD）算法，利用計算任務(wù)的冗余分發(fā)策略對每個節(jié)點的中間結(jié)果傳輸時間進(jìn)行量化以減少單一批次訓(xùn)練時間，并通過數(shù)據(jù)傳輸編碼策略的分組數(shù)據(jù)交換模式降低節(jié)點間的數(shù)據(jù)通信總量。實驗結(jié)果表明，當(dāng)配置合適的超參數(shù)時，與SSGD和ASGD算法相比，該算法在深度神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)分布式訓(xùn)練中平均減少了5397%、26.89%和39，11%、26.37%的訓(xùn)練時間，從而證明其能有效降低分布式集群的通信負(fù)載并保證神經(jīng)網(wǎng)絡(luò)的訓(xùn)練精確度。
下載該資料的人也在下載
下載該資料的人還在閱讀
更多 >
- PyTorch教程12.5之小批量隨機(jī)梯度下降
- PyTorch教程12.4之隨機(jī)梯度下降
- MapReduce框架下分布式編碼計算容錯算法 2次下載
- 輕量級分布式機(jī)器學(xué)習(xí)系統(tǒng)及算法 16次下載
- 一種更安全的分布式一致性算法選舉機(jī)制 9次下載
- 結(jié)合網(wǎng)絡(luò)推演和失效檢測算法的航電分布式顯控 13次下載
- 一種分布式網(wǎng)絡(luò)掃描架構(gòu)和任務(wù)調(diào)度算法 19次下載
- 快速在線分布式對偶平均優(yōu)化算法 5次下載
- 隨機(jī)并行梯度下降圖像匹配方法性能研究及優(yōu)化_李松洋 0次下載
- 隨機(jī)梯度估值在盲均衡算法中的影響
- WMSN的分布式視頻編碼技術(shù)研究 24次下載
- 多徑信道下的異步分布式線性卷積空時編碼
- 分布式認(rèn)知無線網(wǎng)絡(luò)中的頻譜接入凸規(guī)劃算法
- 基于DSP的分布式并行遺傳算法
- 基于混沌置亂預(yù)處理的分布式視頻編碼
- 【技術(shù)分享】EtherCAT 分布式時鐘簡介 746次閱讀
- 鴻蒙分布式相機(jī)“踩坑”分享 1910次閱讀
- 如何緩解DDoS(分布式拒絕服務(wù))導(dǎo)致的性能下降 1499次閱讀
- 如何通過分布式數(shù)據(jù)管理實現(xiàn)多臺設(shè)備間的數(shù)據(jù)同步更新 3638次閱讀
- 適用于分布式MIMO系統(tǒng)中的時間頻率同步算法研究 2833次閱讀
- 利用NI VeriStand 2010實現(xiàn)分布式同步系統(tǒng)的設(shè)計 3437次閱讀
- 分布式光纖傳感器原理_分布式光纖傳感器的應(yīng)用 8835次閱讀
- 機(jī)器學(xué)習(xí)優(yōu)化算法中梯度下降,牛頓法和擬牛頓法的優(yōu)缺點詳細(xì)介紹 5.1w次閱讀
- 講解隨機(jī)梯度下降、類別數(shù)據(jù)編碼、Vowpal Wabbit機(jī)器學(xué)習(xí)庫 6308次閱讀
- 淺談分布式塊存儲的元數(shù)據(jù)服務(wù)設(shè)計 4951次閱讀
- 梯度下降算法及其變種：批量梯度下降，小批量梯度下降和隨機(jī)梯度下降 2.1w次閱讀
- 機(jī)器學(xué)習(xí)中梯度下降法的過程 3435次閱讀
- 機(jī)器學(xué)習(xí)：隨機(jī)梯度下降和批量梯度下降算法介紹 9009次閱讀
- 一種基于分布式算法的低通FIR濾波器 3282次閱讀
- 深度解讀分布式存儲技術(shù)之分布式剪枝系統(tǒng) 1861次閱讀
上傳資料賺積分下載排行
本周
- 1山景DSP芯片AP8248A2數(shù)據(jù)手冊
- 1.06 MB | 532次下載 | 免費
- 2RK3399完整板原理圖（支持平板，盒子VR）
- 3.28 MB | 339次下載 | 免費
- 3TC358743XBG評估板參考手冊
- 1.36 MB | 330次下載 | 免費
- 4DFM軟件使用教程
- 0.84 MB | 295次下載 | 免費
- 5元宇宙深度解析—未來的未來-風(fēng)口還是泡沫
- 6.40 MB | 227次下載 | 免費
- 6迪文DGUS開發(fā)指南
- 31.67 MB | 194次下載 | 免費
- 7元宇宙底層硬件系列報告
- 13.42 MB | 182次下載 | 免費
- 8FP5207XR-G1中文應(yīng)用手冊
- 1.09 MB | 178次下載 | 免費
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費
- 2555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33566次下載 | 免費
- 3接口電路圖大全
- 未知 | 30323次下載 | 免費
- 4開關(guān)電源設(shè)計實例指南
- 未知 | 21549次下載 | 免費
- 5電氣工程師手冊免費下載(新編第二版pdf電子書)
- 0.00 MB | 15349次下載 | 免費
- 6數(shù)字電路基礎(chǔ)pdf(下載)
- 未知 | 13750次下載 | 免費
- 7電子制作實例集錦 下載
- 未知 | 8113次下載 | 免費
- 8《LED驅(qū)動電路設(shè)計》 溫德爾著
- 0.00 MB | 6656次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935054次下載 | 免費
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537798次下載 | 免費
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420027次下載 | 免費
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費
- 6電路仿真軟件multisim 10.0免費下載
- 340992 | 191187次下載 | 免費
- 7十天學(xué)會AVR單片機(jī)與C語言視頻教程 下載
- 158M | 183279次下載 | 免費
- 8proe5.0野火版下載(中文版免費下載)
- 未知 | 138040次下載 | 免費
工商網(wǎng)監(jiān)
評論