鷺島論壇
數據智能系列講座第4期
「預訓練的基礎模型下的持續學習」
10月30日(周三) 20:00
精彩開播
期待與您云相聚,共襄學術盛宴!
| 直播信息
報告題目
預訓練的基礎模型下的持續學習
報告簡介
雖然近年來神經網絡,特別是預訓練的基礎模型研究得到了廣泛的應用,但其仍然主要依賴于在大量樣本上的批量式訓練。
本報告將探討實現模型的增量式訓練,針對深度神經網絡在增量式學習新任務時所面臨的"災難性遺忘"問題,介紹如何在預訓練的基礎模型上進行連續學習,包括基于重放的遺忘抑制機制、基于模型高效微調的連續學習框架,以及連續學習在計算機視覺上任務上的應用和部署等。
報告嘉賓
洪曉鵬
哈爾濱工業大學教授
特邀主持
黃禮泊
中國科學院計算技術研究所
特別研究助理
講座時間
2024年10月30日(周三)2010
講座環節及流程
?講座環節:
① 5 分鐘主持人進行主題與嘉賓介紹
②55分鐘報告嘉賓講座環節
③ 10分鐘互動問答環節
?講座流程:
① 19:45 開芯會視頻號上線,歡迎觀眾朋友提前進入直播間候場
② 20:00 主持人開場
③ 20:05 主講嘉賓開始講座,持續55min
注:【在講座過程中歡迎觀眾朋友通過各直播平臺進行提問工作人員將收集和整理問題】
③ 21:00主持人根據工作團隊整理的問題與嘉賓進行問答互動,持續10min
講座形式
視頻號、B站、電子發燒友、蔻享學術等多平臺同步直播
點擊預約精彩不容錯過!
直播海報
報告嘉賓
洪曉鵬
哈爾濱工業大學教授, IEEE資深會員。歷任芬蘭Oulu大學博士后、科研型副教授(Docent)和西安交通大學特聘研究員。斯坦福大學全球前2%頂尖科學家年度榜單入選者。已在頂級國際和國內刊物和國際會議上發表文章80余篇,相關工作見諸美國《麻省理工技術評論》等技術媒體專文報道。2次獲得領域內國際權威期刊和會議的優秀論文獎,5次帶隊獲得國際評測冠軍。作為負責人主持了國家重點研發計劃課題、國家自然科學基金、芬蘭信息學會博士后基金等10余個項目。多次受邀擔任ACM MM 、 AAAI/IJCAI的領域主席或資深程序委員以及CVIU和IVC等國際主流期刊的編委。中國圖像與圖形學學會情感計算與理解專業委員會副秘書長,黑龍江省計算機學會學術工作委員會副主任、獎勵工作委員會秘書長。目前的研究領域包括:多模態目標感知、深度連續學習、智能決策與任務分配等。
主持嘉賓
黃禮泊
博士,中國科學院計算技術研究所特別研究助理。主要研究領域為機器學習理論和深度學習應用,尤其是無監督學習、持續學習、最優化理論等方面的研究。在包括IEEE Transactions系列、AAAI、ICLR、CVPR、NeurIPS等國內外期刊和會議上發表論文20余篇。作為負責人承擔國家領域預研課題、國家公派留學基金、北京市自然科學基金青年基金等多個項目。
-
神經網絡
+關注
關注
42文章
4779瀏覽量
101172 -
數據
+關注
關注
8文章
7140瀏覽量
89581 -
模型
+關注
關注
1文章
3312瀏覽量
49226
發布評論請先 登錄
相關推薦
明晚開播 |開源芯片系列講座第26期:奕斯偉RISC-V GCC工具鏈實踐分享
![明晚開播 |開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>26<b class='flag-5'>期</b>:奕斯偉RISC-V GCC工具鏈實踐分享](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
直播預約 |開源芯片系列講座第26期:奕斯偉RISC-V GCC工具鏈實踐分享
![<b class='flag-5'>直播</b><b class='flag-5'>預約</b> |開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>26<b class='flag-5'>期</b>:奕斯偉RISC-V GCC工具鏈實踐分享](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
《具身智能機器人系統》第7-9章閱讀心得之具身智能機器人與大模型
圣誕特輯 |開源芯片系列講座第25期:RISC-V架構在高性能領域的進展與挑戰
![圣誕特輯 |開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>25<b class='flag-5'>期</b>:RISC-V架構在高性能領域的進展與挑戰](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
直播預約 |開源芯片系列講座第25期:RISC-V架構在高性能領域的進展與挑戰
![<b class='flag-5'>直播</b><b class='flag-5'>預約</b> |開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>25<b class='flag-5'>期</b>:RISC-V架構在高性能領域的進展與挑戰](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
開源芯片系列講座第24期:基于SRAM存算的高效計算架構
![開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>24<b class='flag-5'>期</b>:基于SRAM存算的高效計算架構](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
直播預約 |開源芯片系列講座第24期:SRAM存算一體:賦能高能效RISC-V計算
![<b class='flag-5'>直播</b><b class='flag-5'>預約</b> |開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>24<b class='flag-5'>期</b>:SRAM存算一體:賦能高能效RISC-V計算](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
開源芯片系列講座第22期:異步電路機制為RISC-V處理器賦能
![開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>22<b class='flag-5'>期</b>:異步電路機制為RISC-V處理器賦能](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
直播預告 |開源芯片系列講座第22期:異步電路機制為RISC-V處理器賦能
![<b class='flag-5'>直播</b>預告 |開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>22<b class='flag-5'>期</b>:異步電路機制為RISC-V處理器賦能](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
預訓練模型的基本原理和應用
開源芯片系列講座第21期:RISC-V IP創新為本土帶來獨特價值
![開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>21<b class='flag-5'>期</b>:RISC-V IP創新為本土帶來獨特價值](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
直播預告 |開源芯片系列講座第21期:RISC-V IP創新為本土帶來獨特價值
![<b class='flag-5'>直播</b>預告 |開源芯片<b class='flag-5'>系列講座</b><b class='flag-5'>第</b>21<b class='flag-5'>期</b>:RISC-V IP創新為本土帶來獨特價值](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
評論