吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

PyTorch 1.0:一個框架實現AI從研究到生產的全過程

DPVg_AI_era ? 來源:未知 ? 作者:李倩 ? 2018-05-04 10:13 ? 次閱讀

今天,Facebook正式公布PyTorch 1.0,這個新的框架將PyTorch 0.4與Caffe2合并,并整合ONNX格式,讓開發者可以無縫地將AI模型從研究轉到生產,而無需處理遷移。

今天,Facebook正式公布PyTorch 1.0,這是將基于Python的PyTorch與Caffe2合并的一個新版本的框架,讓開發者可以無縫地將AI模型從研究轉到生產,而無需處理遷移。

“現在,你只需要使用PyTorch 1.0,就可以在一個框架中無縫地進行從研究到生產的全部過程,而不需要為訓練/研究和生產分別選擇框架?!盕acebook發言人在F8大會上說。

Facebook去年與微軟合作推出開放神經網絡交換(ONNX)格式,這是一個用于表示深度學習模型的標準,旨在使不同框架之間的移動更加簡單?,F在,Facebook已經將ONNX整合到PyTorch 1.0中,使模型能夠與其他框架進行互操作,并且開發人員可以“混合搭配”。

Facebook還表示,將統一PyTorch 0.4和Caffe2的代碼庫,以創建一個統一的框架,支持多種功能,包括高效的圖形模式執行、分析、移動部署等。

PyTorch 1.0將在未來幾個月內發布,據悉,微軟計劃在Azure中支持該框架,亞馬遜也將在其云產品中支持PyTorch 1.0。

PyTorch官方博客介紹了PyTorch 1.0的更多細節:

生產性:在PyTorch 1.0中,你的代碼可以繼續按原樣運行,我們沒有對現有的API做任何大更改。如果你不需要優化或導出模型,則不必使用這些新功能,也不會有任何缺點。此外,可以逐步使用traced或@script模塊/函數。

JIT編譯器:使用torch.jit編譯器將模型導出到非Python環境,并提高其性能。對于不包含循環和if語句的網絡,trace是非侵入式的,并且足夠穩健,可以處理各種編碼風格;對于主要使用控制流的模型(如RNN),我們的解決方案是腳本模式(@script)。

優化和導出:Caffe2 / ONNX中模型的python-free表示

后端:我們正在替換(或重構)后端ATen庫,以整合來自Caffe2的功能和優化。

Timeline:我們的目標是在今年夏天推出PyTorch 1.0。

PyTorch 1.0:一個框架實現AI從研究到生產的全過程

AI的開發從研究到生產的過程,涉及多個步驟和工具,這使得測試新方法、部署它們,以及迭代以提高準確性和性能都非常耗時而且復雜。為了幫助加速和優化這個過程,我們推出PyTorch 1.0。

PyTorch 1.0采用了Caffe2和ONNX的模塊化、面向生產的功能,并將它們與PyTorch現有的靈活的、側重于研究的設計結合起來,為各種AI項目提供從研究原型到生產部署的快速、無縫的路徑。

使用PyTorch 1.0,AI開發人員可以通過在命令式執行模式和聲明式執行模式之間無縫切換的混合前端進行快速實驗和性能優化。PyTorch 1.0中的技術已經為Facebook的許多產品和服務提供支持,包括每天執行60億次的文本翻譯。

PyTorch 1.0將在未來幾個月內推出,并將包含一系列工具、庫、預訓練的模型和各個開發階段的數據集,使社區能夠大規模地快速創建和部署新的AI創新。

從研究到生產的路徑

PyTorch的命令式前端通過其靈活且高效的編程模型實現了更快速的原型設計和實驗。PyTorch的第一個版本是在一年前推出的,它的快速、高效和支持動態圖等先進AI模型的能力使其迅速成為廣受AI研究人員歡迎的重要開發工具。PyTorch的下載量已經超過110萬次,是ArXiv上個月引用量第二大的深度學習框架。例如,加州大學伯克利分校的計算機科學家將PyTorch的動態圖功能用于他們的CycleGAN image-to-image轉換的工作。

CycleGAN的PyTorch實現

盡管當前版本的PyTorch為AI的研究和開發提供了很大的靈活性,但由于它與Python的緊密結合,在生產規模上的性能有時是一個挑戰。我們經常需要將研究代碼(訓練腳本或訓練模型 )翻譯成Caffe2的圖形模式表示,以便在生產規模上運行。Caffe2的基于圖形的執行程序允許開發者利用先進的優化方式,例如圖形轉換、高效的內存重用以及緊密的硬件接口集成。

Caffe2項目是兩年前推出的,目的是使我們的生產AI工具標準化,現在它已經在Facebook服務器和世界范圍超過10億部手機上運行神經網絡,跨越8代iPhone和6代Android CPU架構。今天,Caffe2每天在各種大小模型提供超過200萬億次的預測,并優化生產性能。

從PyTorch遷移到Caffe2以進行生產,以前這是一個手動的過程,耗時多且容易出錯。為了解決這個問題,我們與主要的硬件和軟件公司合作創建了ONNX(開放式神經網絡交換),這是一種表示深度學習模式的開放式格式。借助ONNX,開發人員可以在不同框架之間共享模型,例如,導出使用PyTorch構建的模型并將其導入Caffe2。

我們已經使用這些工具(PyTorch,Caffe2和ONNX)來構建和部署Translate,這個工具現在可以對Facebook上48種最常用語言的進行翻譯。在VR方面,這些工具對于將Oculus的新研究部署到生產中至關重要。

但是,盡管這三種不同工具的組合是有效的,但仍然存在手工步驟復雜、耗費時間長等問題。因此,僅僅是將這些工具組合還無法像我們期待的那樣無縫地將AI的研究創新帶入生產過程。

在一個框架中統一研究和生產的能力

PyTorch 1.0將即時模式和圖形執行模式融合在一起,為生產的研究和性能優化提供了靈活性。更具體地說,PyTorch 1.0不是強制開發者重寫整個代碼以實現優化或從Python遷移,而是提供了一個混合的前端,使開發者能夠在用于原型制作的即時模式和用于生產的圖形執行模式之間無縫地共享大部分代碼。

此外,ONNX本身被加入到PyTorch 1.0中作為一種模型輸出格式,這使得PyTorch 1.0中的模型可與其他AI框架進行互操作。ONNX還可用作加速運行時間或硬件特定庫的集成接口。這使得開發人員可以完全自由地混合和匹配最佳的AI框架和工具,而無需采用資源密集型的定制工程。Facebook將支持ONNX的新特征和功能,ONNX仍然是一種強大的開放格式,同時也是使用PyTorch 1.0進行開發的重要組成部分。

構建一個端到端的深度學習系統

除了PyTorch 1.0之外,Facebook還開源了多個AI工具,包括Translate——一個PyTorch語言庫,用于快速、靈活的神經機器翻譯;以及下一代ELF——一個綜合的AI推理應用游戲平臺。開發人員還可以利用Glow這樣機器學習編譯器,可以加速不同硬件平臺上的框架性能;還可以使用Tensor Comprehensions這種自動生成高級數學運算的高效GPU代碼的工具。Facebook也開源了其他庫,如Detectron,支持對象檢測研究,涵蓋了邊界框和對象實例分割輸出。

Facebook推出一個AI開發者網站,列舉了所有這些開源工具:

facebook.ai/developers

在接下來的幾個月中,我們將重構并統一Caffe2和PyTorch 0.4框架的代碼庫。最終將形成一個統一的框架,支持高效的圖形模式執行,包括profiling,移動部署,廣泛的vendor集成等。與ONNX等其他開放式AI計劃一樣,我們也與其他公司和社區合作,為更多開發者提供這些加速研究的生產能力。首先,微軟計劃在他們的Azure云和開發者產品中支持PyTorch 1.0,包括Azure機器學習服務和數據科學虛擬機;Amazon Web Services目前支持最新版本的PyTorch,針對P3 GPU實例進行了優化,并計劃在其云產品發布后不久支持 PyTorch 1.0,其中包括其深度學習AMI(Amazon Machine Image)。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31536

    瀏覽量

    270344
  • Facebook
    +關注

    關注

    3

    文章

    1429

    瀏覽量

    55001
  • 深度學習
    +關注

    關注

    73

    文章

    5516

    瀏覽量

    121553
  • pytorch
    +關注

    關注

    2

    文章

    808

    瀏覽量

    13365

原文標題:PyTorch 1.0 正式公開,Caffe2并入PyTorch實現AI研究和生產一條龍

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    PyTorch深度學習開發環境搭建指南

    PyTorch作為種流行的深度學習框架,其開發環境的搭建對于深度學習研究者和開發者來說至關重要。在Windows操作系統上搭建PyTorch
    的頭像 發表于 07-16 18:29 ?1280次閱讀

    紅豆Cat 1開源 項目四: 0-1設計款TCP版本DTU產品的軟硬件全過程

    定義、硬件設計分析、軟件設計分析,并詳細講解單功能點功能模塊的驗證過程和測試驗證方法。通過學習本內容,初學者可以在 1-2 天內完成款 Cat 1 DTU產品的開發全過程,快速提升
    的頭像 發表于 07-12 14:43 ?388次閱讀
    紅豆Cat 1開源 項目四: <b class='flag-5'>從</b>0-1設計<b class='flag-5'>一</b>款TCP版本DTU產品的軟硬件<b class='flag-5'>全過程</b>

    紅豆Cat 1開源 項目三: 0-1設計款HTTP版本RTU 支持GNSS 產品的軟硬件全過程

    、硬件設計分析、軟件設計分析,并詳細講解單功能點功能模塊的驗證過程和測試驗證方法。通過學習本內容,初學者可以在 1-2 天內完成款 Cat 1 產品的開發全過程,快速提升物聯網產品
    的頭像 發表于 07-12 14:31 ?356次閱讀
    紅豆Cat 1開源 項目三: <b class='flag-5'>從</b>0-1設計<b class='flag-5'>一</b>款HTTP版本RTU 支持GNSS 產品的軟硬件<b class='flag-5'>全過程</b>

    紅豆Cat 1開源 項目二: 0-1設計款MQTT版本DTU 支持GNSS 產品的軟硬件全過程

    的軟硬件定義、硬件設計分析、軟件設計分析,并詳細講解單功能點功能模塊的驗證過程和測試驗證方法。通過學習本內容,初學者可以在 1-2 天內完成款 Cat 1 DTU產品的開發全過程,
    的頭像 發表于 07-12 14:30 ?390次閱讀
    紅豆Cat 1開源 項目二: <b class='flag-5'>從</b>0-1設計<b class='flag-5'>一</b>款MQTT版本DTU 支持GNSS 產品的軟硬件<b class='flag-5'>全過程</b>

    pytorch中有神經網絡模型嗎

    處理、語音識別等領域取得了顯著的成果。PyTorch開源的深度學習框架,由Facebook的AI
    的頭像 發表于 07-11 09:59 ?814次閱讀

    紅豆Cat 1開源 項目0-1設計款TCP版本RTU 支持Modbus+GNSS 產品的軟硬件全過程

    的軟硬件定義、硬件設計分析、軟件設計分析,并詳細講解單功能點功能模塊的驗證過程和測試驗證方法。通過學習本內容,初學者可以在 1-2 天內完成款 Cat 1 產品的開發全過程,快速提
    的頭像 發表于 07-10 17:36 ?500次閱讀
    紅豆Cat 1開源 項目<b class='flag-5'>一</b>: <b class='flag-5'>從</b>0-1設計<b class='flag-5'>一</b>款TCP版本RTU 支持Modbus+GNSS 產品的軟硬件<b class='flag-5'>全過程</b>

    PyTorch神經網絡模型構建過程

    PyTorch,作為廣泛使用的開源深度學習庫,提供了豐富的工具和模塊,幫助開發者構建、訓練和部署神經網絡模型。在神經網絡模型中,輸出層是尤為關鍵的部分,它負責將模型的預測結果以合適的形式輸出。以下將詳細解析
    的頭像 發表于 07-10 14:57 ?566次閱讀

    tensorflow和pytorch哪個更簡單?

    PyTorch更簡單。選擇TensorFlow還是PyTorch取決于您的具體需求和偏好。如果您需要易于使用、靈活且具有強大社區支持的框架
    的頭像 發表于 07-05 09:45 ?979次閱讀

    tensorflow和pytorch哪個好

    :2015年由Google Brain團隊發布。 語言支持 :主要使用Python,也支持C++、Java等。 設計哲學 :TensorFlow是端的機器學習平臺,支持
    的頭像 發表于 07-05 09:42 ?774次閱讀

    解讀PyTorch模型訓練過程

    PyTorch作為開源的機器學習庫,以其動態計算圖、易于使用的API和強大的靈活性,在深度學習領域得到了廣泛的應用。本文將深入解讀PyTorch模型訓練的
    的頭像 發表于 07-03 16:07 ?1164次閱讀

    PyTorch的特性和使用方法

    使用Python重新寫了很多內容,使其更加靈活易用。它不僅是擁有自動求導功能的深度神經網絡框架,還可以看作是加入了GPU支持的Num
    的頭像 發表于 07-02 14:27 ?651次閱讀

    TensorFlow與PyTorch深度學習框架的比較與選擇

    深度學習作為人工智能領域的重要分支,在過去十年中取得了顯著的進展。在構建和訓練深度學習模型的過程中,深度學習框架扮演著至關重要的角色。TensorFlow和
    的頭像 發表于 07-02 14:04 ?1076次閱讀

    精準毫米:H9激光切管機鋁材切割與打孔全過程解析

    H9激光切管機在鋁材切割與打孔的全過程包括設定參數、啟動切割、監控質量、完成取件和檢查效果等。H9激光切管機鋁材切割與打孔的全過程可以詳細解析如下:、操作準備檢查H9激光切管機各部件是否齊全,并
    的頭像 發表于 06-20 11:14 ?749次閱讀
    精準<b class='flag-5'>到</b>毫米:H9激光切管機鋁材切割與打孔<b class='flag-5'>全過程</b>解析

    物聯網與醫療廢物處置全過程電子信息化跟蹤管理系統研究

    與醫療廢物處置全過程電子信息化跟蹤管理系統(以下簡稱“醫廢跟蹤管理系統”)的研發理念、技術構成、功能特性及其在實際應用中的成效,尤其是翼思維醫廢收運管理系統的作業流程。 1. 研發理念與技術構成 醫廢跟蹤管理系統的
    的頭像 發表于 04-01 16:14 ?711次閱讀

    永磁同步電機全速域矢量控制的全過程介紹

    直都想知道永磁同步電機的轉速零增加到極限這個過程會發生什么,這篇文章介紹下永磁同步電機全速域矢量控制的全過程,即電機的轉速從零開始逐漸
    的頭像 發表于 03-15 09:29 ?1556次閱讀
    永磁同步電機全速域矢量控制的<b class='flag-5'>全過程</b>介紹
    全讯网一码353788| 德州扑克学校| 百家乐模拟游戏下载| 大发888网址| 誉博百家乐327589| 做生意的风水摆件| 网站百家乐官网假| 百家乐官网2号技术打法| 美乐门娱乐| 六合彩今天开什么| 德州扑克发牌规则| 真人游戏 role/play| sz全讯网新2xb112| 大发888娱乐城赢钱| 广州百家乐赌城| 现场百家乐电话投注| 百家乐注册平台排名| 开心8百家乐现金网| 百家乐加牌规则| 龙博百家乐官网的玩法技巧和规则| bet365扑克| 镇巴县| 门头沟区| 浩博百家乐官网娱乐城| 摩纳哥百家乐官网娱乐城| 百家乐官网游戏机出千| 百家乐官网庄闲当哪个好| 百家乐官网翻天粤qvod| 网络百家乐官网打揽| 百家乐官网视| 百家乐玩法百科| 赤壁百家乐娱乐城| 威尼斯人娱乐城官网| 盛大69棋牌游戏| 嵊州市| 百家乐官网游戏下载| 百家乐官网赌博分析网| 澳门百家乐官网心| 大发888真钱娱乐游戏| 百家乐永利娱乐场| 百家乐玩法教学视频|