Palm使用的手寫識別系統Graffiti靈感來自Hawkins曾學習的一種與大腦有關的數學——1987年夏天，一家名為Nestor的公司展示了一種能識別手寫文字的神經網絡，要價100萬美元，“他們在神經網絡規則上大作文章，將它吹噓成一項重大突破，但我覺得手寫識別問題可以通過另一種更簡單、傳統的方法解決。兩天后，我設計出一種速度更快，體積更小，使用更靈活的手寫識別器。”

　　生物神經網絡

　　終于“掙到點錢”的Hawkins將自己的研究方向全面轉向神經科學，2002年他建立了非盈利的科學研究機構Redwood Center for Theoretical Neuroscience，2005年建立了Numenta繼續他的研究。此前一年，他出版了《On Intelligence》，向大眾介紹大腦和智能理論。書中他提出了“記憶-預測”框架（Memory-prediction framework）——大腦的新皮質、海馬體和丘腦聯合匹配感官輸入，存儲記憶模式，并將這個過程如何用于預測。進而根據這一生物學框架發展出了HTM（Hierarchical Temporal Memory）機器學習模型。Hawkins將其稱為“生物神經網絡”（Biological Neural Network），與之對應的，他將Deep Learning為代表的神經網絡稱為“簡單神經網絡”（Simple Neural Network）。

　　圖2 Graffiti手勢

　　“大腦以稀疏分布表示（sparse distributed representations，SDR）表征信息，我相信未來所有智能機器都將基于SDR。而現有機器學習技術卻無法將SDR加入其中，因為SDR是構建其他一切的基礎。生物神經也遠比‘簡單神經網絡’復雜得多。而作為生物神經網絡的一種，HTM已能從數據流中學習結構，做出預測和發現異常，還能從未標記的數據中連續學習?！盚awkins這樣解釋“生物神經網絡”的獨特之處，他還覺得目前人工智能對認知功能被分割了——分為語音，視覺，自然語言等領域，而人腦是具有綜合性的認知系統。目前的圖像識別需要上千萬張照片的收集歸類，才能讓機器“認出”貓，但人腦善于捕捉和認知流動的信息，也不需要大數據的支持。