邊緣智能是自問世以來最具顛覆性的創新之一 的物聯網 （IoT）。雖然物聯網產生了數十億的智能， 連接設備為基于 AI 傳輸無數 TB 的傳感器數據 云計算，另一場革命正在進行中：機器學習（ML） 邊緣設備。隨著越來越多的智能遷移到網絡邊緣，恩智浦 通過提供成本、性能和功耗優化來擁抱這一趨勢 處理解決方案，推動 ML 技術跨多個市場 應用程序，為最終用戶提供增強安全性的好處， 更好的隱私和更低的延遲。

開發 ML、深度學習和神經網絡應用程序傳統上具有 是數據科學家和人工智能專家的領域。但這種情況正在改變 更多的 ML 工具和技術已經可用于抽象出一些 開發機器學習應用程序的復雜性。一個恰當的例子是 恩智浦的eIQ（“邊緣智能”）ML開發環境。eIQ 提供 全面的工作流工具集、推理引擎、神經網絡 （NN） 編譯器、優化的庫和技術，可簡化和加速 ML 面向所有技能水平的用戶進行開發，從嵌入式開發人員開始 在他們的第一個深度學習項目中，向專注于高級對象的專家介紹 檢測、分類、異常檢測或語音識別解決方案。

eIQ ML 軟件于 2018 年推出，現已發展到支持系統級 面向恩智浦 i.MX 系列的應用和ML算法支持，來自 低功耗 i.MX RT交叉微控制器（MCU）到多核 i.MX 8和 i.MX 基于 Arm Cortex-M 和 Cortex-A 內核的 8M 應用處理器。

幫助ML開發人員提高工作效率，更熟練地掌握恩智浦 i.MX 8個處理平臺，我們顯著擴展了eIQ軟件 環境，包括新的 eIQ 工具包工作流工具、基于 GUI 的 eIQ 門戶 開發環境和 DeepViewRT?推理引擎 針對 i.MX 和 i.MX RT 設備進行了優化。

圖1.eIQ 工具包和 eIQ 門戶功能的高級演示 和工作流程。

讓我們仔細看看這些強大的 eIQ 新增功能如何 軟件環境可以幫助簡化 ML 開發，提高生產力， 并為開發人員提供更多選擇和更大的靈活性。

eIQ 工具包：為每個人啟用“ML”

考慮到機器學習、神經網絡和深度的潛在復雜性 學習應用程序 - 以及 ML 開發人員的不同需求 - 一個簡單的 “一刀切”工具不是答案。更好的方法是提供 全面而靈活的工具包，可擴展以滿足技能和需求 ML 開發人員的經驗水平。為此，我們添加了強大的 易于使用的 eIQ 工具包適用于 eIQ ML 開發環境，支持 開發人員導入數據集和模型以及訓練、修剪、量化、驗證 并在恩智浦 i.MX 8M系列中部署神經網絡模型和ML工作負載 的應用處理器和 i.MX RT 分頻 MCU 產品組合。是否 是開始您的第一個 ML 項目的嵌入式開發人員，精通 數據科學家或 AI 專家，您將找到合適的工具包功能 匹配您的技能水平并簡化您的 ML 項目。

圖2.eIQ 門戶提供了一個數據集策展人來幫助您注釋和 組織所有訓練數據。

eIQ 工具包提供簡單的工作流程和 ML 應用程序 例子。該工具包還提供了一個直觀的、基于 GUI 的開發選項 使用 eIQ 門戶和使用命令行主機工具的選項，如果 你更喜歡。如果您想利用現成的開發解決方案或 需要恩智浦或我們值得信賴的專業服務和支持 合作伙伴，該工具包可讓您輕松訪問我們不斷增長的選項列表 來自Au-Zone Technologies等公司的eIQ Marketplace。

圖3.eIQ 門戶提供了一種方便的模型驗證方法和 測量精度。

使用 eIQ 門戶，您可以輕松創建、優化、調試、轉換和 導出ML模型，以及從TensorFlow，ONNX導入數據集和模型 和 PyTorch ML 框架。您可以使用您的數據訓練模型 “自帶數據”（BYOD） 流程，從預訓練數據庫中進行選擇 模型或使用“自帶模型”（BYOM） 導入預訓練模型 流，例如Au-Zone技術的高級檢測模型。通過遵循簡單的 BYOM 過程，您可以使用 基于公共或私有云的工具，然后將模型傳輸到eIQ 在適當的硅優化推理引擎上運行的工具包。

圖4.eIQ 門戶為 BYOM 和 BYOD 提供了一種靈活的方法。

目標圖形級分析功能為開發人員提供運行時 微調和優化系統參數、運行時性能、 用于在 i.MX 設備上執行的內存使用情況和神經網絡架構。

加速恩智浦最新的eIQ推理引擎

機器學習開發項目的核心是推理引擎 – ML 應用程序的運行時組件。除了支持 使用各種基于社區的開源推理引擎進行推理 針對 Glow、ONNX 和 TensorFlow Lite 等 i.MX 設備和 MCU 進行了優化，我們 已將 DeepViewRT 推理引擎添加到我們的 eIQ ML 軟件開發中 環境。

DeepViewRT與我們的合作伙伴Au-Zone Technologies合作開發，是一種專有的推理引擎，可提供穩定，更長的時間 術語供應商維護的解決方案，補充了基于社區的開放解決方案 推理引擎。

圖5.DeepViewRT 為 ML 應用程序提供了穩定、生產就緒且靈活的推理引擎。

DeepViewRT推理引擎可作為恩智浦MCUXpresso的中間件提供。 適用于Linux的SDK和Yocto BSP發布?基于操作系統的開發。

審核編輯：郭婷