英特爾開發的 FPGA AI 套件旨在減少使用英特爾 CPU、英特爾 SoC FPGA 和英特爾 FPGA 創建功能強大的異構 AI 深度學習 (DL) 推理系統所需的工作量。
該套件支持 FPGA 設計人員、機器學習工程師和軟件開發人員高效創建和優化 AI 推理平臺,以達到性能、功耗和成本俱佳的目標。
英特爾 FPGA AI 套件中集成的實用程序加快了基于 FPGA 的 AI 推理引擎的開發速度。數據科學家和工程師可以從任何熟悉的行業框架(如 TensorFlow 和 PyTorch)開始訓練和收斂推理模型,然后可以使用英特爾 分發版 OpenVINO 工具包通過簡化邏輯和降低內存占用率來優化推理模型的性能和功耗。
請注意,該優化是在 CPU 和 FPGA 的異構組合中執行的。隨后,英特爾 FPGA AI 套件會進一步優化最終設計的 FPGA 部分。經優化的設計會使用英特爾 Quartus Prime 軟件直接輸入到強大且經過驗證的 FPGA 開發流程中。
Stryker公司的研發團隊在評估英特爾FPGA AI 套件后得出以下結論:
●英特爾 FPGA AI 套件和 OpenVINO 工具包非常易用。借助這些工具, Stryker 能夠開發出更為優化的用于深度學習推理的 FPGA IP。該推理 IP 已使用英特爾QuartusPrime 軟件成功集成到了英特爾 FPGA 中。與套件一起提供的設計示例也使團隊能夠快速評估不同圖像源的不同算法。
●英特爾 FPGA AI 套件和 OpenVINO 工具包使數據科學家和 FPGA 工程師能夠無縫協作,為醫療應用開發更好的深度學習推理模型。
您可以使用英特爾 分發版 OpenVINO 工具包和英特爾 FPGA AI 套件開發推理系統,服務于從 DL 增強型嵌入式系統一直到在多個 FPGA 加速的服務器上運行的高級數據中心應用工作負載。
如果您想開發用于檢測、分類、分割或相關任務的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特爾 FPGA AI 套件來實現;如果您想在使用 FPGA 編碼或解碼視頻或者在處理計算機視覺圖像的同時有效傳輸視頻流,也可以使用英特爾 分發版 OpenVINO 工具包和英特爾 FPGA AI 套件。可以說,FPGA 特別適合這種預處理和后處理。
如果您沒有自己的推理模型供訓練使用,但又迫不及待地想涉足深度學習領域,可以利用英特爾 分發版 OpenVINO 工具包,因為工具包中有面向廣泛使用的神經網絡的預訓練推理模型,您可以先從這些模型入手。
圖1 顯示的是基于這套工具的推理系統開發流程。
圖1 英特爾 FPGA AI 套件開發流程
英特爾 FPGA AI 套件目前可支持英特爾 Agilex FPGA、英特爾 Cyclone 10 GX FPGA 和英特爾 Arria 10 FPGA,并提供了未來支持更多英特爾 FPGA 的路線圖。當然,這些工具背后還有很多英特爾的在線支持。
審核編輯 :李倩
-
FPGA
+關注
關注
1630文章
21798瀏覽量
606037 -
英特爾
+關注
關注
61文章
10009瀏覽量
172340 -
機器學習
+關注
關注
66文章
8441瀏覽量
133087
原文標題:解析丨英特爾? FPGA AI 套件搭配?OpenVINO? 工具包,助力創建異構推理系統
文章出處:【微信號:英特爾FPGA,微信公眾號:英特爾FPGA】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
使用英特爾哪吒開發套件部署YOLOv5完成透明物體目標檢測
![使用<b class='flag-5'>英特爾</b>哪吒開發<b class='flag-5'>套件</b>部署YOLOv5完成透明物體目標檢測](https://file1.elecfans.com/web2/M00/0D/3E/wKgaomdEQQmAcfF4AAB6yHq2BWc795.png)
英特爾CEO:AI時代英特爾動力不減
華擎推出AI QuickSet軟件,支持英特爾銳炫Arc A系列顯卡
研揚攜手英特爾,聯合舉辦創AI百城行(武漢站):用OpenVINO?賦能AI于邊緣計算平臺
![研揚攜手<b class='flag-5'>英特爾</b>,聯合舉辦創<b class='flag-5'>AI</b>百城行(武漢站):用<b class='flag-5'>OpenVINO</b>?賦能<b class='flag-5'>AI</b>于邊緣計算平臺](https://file1.elecfans.com/web2/M00/05/CE/wKgaombVKhiAMbl0AABbnxMaT6U646.png)
英特爾澎湃動力驅動商用AI PC,打造AI+時代的新質生產工具
英特爾宣布AI PC加速計劃新增兩項AI舉措
為何高端FPGA都非常重視軟件
【轉載】英特爾開發套件“哪吒”快速部署YoloV8 on Java | 開發者實戰
![【轉載】<b class='flag-5'>英特爾</b>開發<b class='flag-5'>套件</b>“哪吒”快速部署YoloV8 on Java | 開發者實戰](https://file1.elecfans.com/web2/M00/04/E0/wKgZombVIV-AW0slAAEH1ZLR7Gc388.png)
評論