AI移動終端應該具有如下特征:從系統架構上來看，應同時滿足在硬件層具備AI加速單元。軟件層支持專用移動終端推理框架，交互層支持攝像頭、傳感器、觸屏、語音等多種感知方式，且從業務功能和應用場景來看，應搭載基于計算機視覺、自然語言處理等技術的應用，能通過收集和分析各類交互信息、感知用戶使用習慣來優化系統資源配置，經云側或移動終端進行學習處理，提升使用效率，降低系統功耗，同時能夠結合場景的數據分析和用戶行為感知為使用者提供更“智慧化”和個性化的服務。
基于這些技術特點，智能手機、平板電腦等移動終端需要有區別于傳統智能終端的全面的AI處理能力來進行支持。從底層芯片、操作系統到上層應用，AI移動終端功能拓撲結構相比于傳統的智能終端存在較大差異。我們將AI移動終端從技術架構上分為四層，分別是應用層、框架層、驅動層和硬件層(見圖2-1)。應用層通過調用推理框架提供的應用程序接口（API）。

移動終端推理框架和硬件層的AI加速芯片是這個技術架構中的核心要素，移動終端推理框架將深度神經網絡轉換為可在端側芯片上執行的機器指令，AI芯片則為推理框架提供有針對性地優化過的指令集，從底層賦予推理框架更高的性能。
需要指出的是，目前的A紅終端市場中，底層硬件使用異構架構，各廠家的芯片和技術架構并不完全相同，軟件框架也尚無統一的標準和接口。所以本章給出的架構圖是一個基于AI移動終端的通用技術架構圖，它概括了當前大部分AI移動終端的通用組件，但各廠家的AI技術架構間存在一定差異，這種差異會在之后的各章中詳細介紹。