吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

對比Keras和PyTorch四個方面的不同

DPVg_AI_era ? 來源:lq ? 2019-06-29 09:20 ? 次閱讀

Keras和PyTorch變得極為流行,主要原因是它們比TensorFlow更容易使用。本文對比了Keras和PyTorch四個方面的不同,讀者可以針對自己的任務來選擇。

對于許多科學家、工程師和開發人員來說,TensorFlow是他們的第一個深度學習框架。但indus.ai公司機器學習工程師George Seif認為,TF并不是非常的用戶友好。

相比TF,Seif認為Keras和PyTorch比TensorFlow更易用,已經獲得了巨大的普及。

Keras本身不是框架,而是一個位于其他Deep Learning框架之上的高級API。目前它支持TensorFlow,Theano和CNTK。Keras是迄今為止啟動和運行最快最簡單的框架。定義神經網絡是直觀的,使用功能性API允許人們將層定義為函數。

而PyTorch像Keras一樣,它也抽象了深度網絡編程的大部分混亂部分。PyTorch介于Keras和TensorFlow之間,比Keras擁有更靈活、更好的控制力,與此同時用戶又不必做任何瘋狂的聲明式編程。

深度學習練習者整天都在爭論應該使用哪個框架。接下來我們將通過4個不同方面,來對比Keras和PyTorch,最終初學者會明白應該選誰。

用于定義模型的類與函數

Keras提供功能性API來定義深度學習模型。神經網絡被定義為一組順序函數,功能定義層1的輸出是功能定義層2的輸入,例如下面demo代碼:

img_input = layers.Input(shape=input_shape)x = layers.Conv2D(64, (3, 3), activation='relu')(img_input)x = layers.Conv2D(64, (3, 3), activation='relu')(x)x = layers.MaxPooling2D((2, 2), strides=(2, 2))(x)

而PyTorch將網絡設置為一個類,擴展了Torch庫中的torch.nn.Module,PyTorch允許用戶訪問所有Python的類功能而不是簡單的函數調用。與Keras類似,PyTorch提供了層作為構建塊,但由于它們位于Python類中,因此它們在類的__init __()方法中引用,并由類的forward()方法執行。例如下面demo代碼:

class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.conv1 = nn.Conv2d(3, 64, 3) self.conv2 = nn.Conv2d(64, 64, 3) self.pool = nn.MaxPool2d(2, 2) def forward(self, x): x = F.relu(self.conv1(x)) x = self.pool(F.relu(self.conv2(x))) return xmodel = Net()

所以如果你想更清晰、更優雅地定義網絡,可以選擇PyTorch;如果只是求快好上手,可以選擇Keras。

張量、計算圖與標準陣列

Keras API隱藏了編碼器的許多混亂細節。定義網絡層非常直觀,默認設置已經足以應付大部分情況,不需要涉及到非常底層的內容。

而當你真正觸達到更底層的TensorFlow代碼時,同時你也獲得了隨之而來的最具有挑戰性的部分:你需要確保所有矩陣乘法都排成一行。哦對了,甚至別指望打印出圖層的一個輸出,因為你只會在終端上打印出一個漂亮的Tensor定義。

相比起來,PyTorch在這些方面就做的更讓人欣慰一些。你需要知道每個層的輸入和輸出大小,但這很快就能掌握。同時你也不必處理構建一個無法在調試中看到的抽象計算圖。

PyTorch的另一個優勢是可以在Torch Tensors和Numpy陣列之間來回切換。而反觀TF,如果需要實現自定義的東西,在TF張量和Numpy陣列之間來回轉換可能會很麻煩,需要開發人員對TensorFlow會話有充分的了解。

PyTorch上這種操作實際上要簡單得多。你只需要知道兩個操作:一個將Torch Tensor(一個Variable對象)切換到Numpy,另一個反過來。

當然,如果不需要實現任何花哨的東西,那么Keras會做得很好,因為你不會遇到任何TensorFlow路障。

訓練模型

在Keras上訓練模型非常容易!一個簡單的.fit()走四方。下面是demo代碼:

history = model.fit_generator( generator=train_generator, epochs=10, validation_data=validation_generator)

但在PyTorch中訓練模型就費點事了,包括幾個步驟:

在每批訓練開始時初始化梯度

運行正向傳遞模式

運行向后傳遞

計算損失并更新權重

for epoch in range(2): # loop over the dataset multiple times running_loss = 0.0 for i, data in enumerate(trainloader, 0): # Get the inputs; data is a list of [inputs, labels] inputs, labels = data # (1) Initialise gradients optimizer.zero_grad() # (2) Forward pass outputs = net(inputs) loss = criterion(outputs, labels) # (3) Backward loss.backward() # (4) Compute the loss and update the weights optimizer.step()

你看看,就運行個訓練就得這么多步驟!

我想這樣你總能意識到發生了什么。同時,由于這些模型訓練步驟在訓練不同模型時基本保持不變,因此非常不必要。

控制CPUGPU模式

如果安裝了tensorflow-gpu,默認情況下在Keras中啟用并完成使用GPU。然后,如果希望將某些操作移動到CPU,則可以使用單行操作。

with tf.device('/cpu:0'): y = apply_non_max_suppression(x)

在PyTorch就得費點勁,你必須為每個Torch張量和numpy變量明確啟用GPU。如果在CPU和GPU之間來回切換以進行不同的操作,就會使代碼變得混亂并且容易出錯。

例如,要將我們以前的模型轉移到GPU上運行,我們必須執行以下操作:

# Get the GPU devicedevice = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")# Transfer the network to GPUnet.to(device)# Transfer the inputs and labels to GPUinputs, labels = data[0].to(device), data[1].to(device)

在GPU這塊,Keras憑借其簡潔和漂亮的默認設置贏得了勝利。

選擇框架的建議

Seif通常給出的建議是從Keras開始,畢竟又快、又簡單、又好用!你甚至可以執行自定義圖層和損失函數的操作,而無需觸及任何一行TensorFlow。

但如果你確實開始深入了解深層網絡中更細粒度的方面,或者正在實現非標準的東西,那么PyTorch就是首選庫。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 深度學習
    +關注

    關注

    73

    文章

    5516

    瀏覽量

    121553
  • keras
    +關注

    關注

    2

    文章

    20

    瀏覽量

    6096
  • pytorch
    +關注

    關注

    2

    文章

    808

    瀏覽量

    13363

原文標題:深度學習框架如何選?4大場景對比Keras和PyTorch

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    esd,mcu和adc復位問題的必須要注意的四個方面!

    esd,mcu和adc復位問題的必須要注意的四個方面https://bbs.elecfans.com/jishu_1450674_1_1.html
    發表于 11-28 16:58

    印制電路板設計四個方面的要求

      對于印制電路板的設計要求,通常要從正確性、可靠性、工藝性、經濟性四個方面進行考慮。制板要求不同,加工復雜程度也就不同。因此,要根據產品的性質、所處的階段(研制、試制、生產),相應地制定印制電路板的設計要求。
    發表于 09-04 16:11

    S32G-GoldVip上的Pytorch和Tensorflow如何啟用?

    大家好,我想在 Goldbox 上運行我的 ML 模型,我看到 Goldvip 有一可用的庫 eIQ Auto,它提供內部使用 Tensorflow 的 Pytorch/Keras 2.x,請幫助我了解這些庫在哪里可用以及如何
    發表于 03-30 07:05

    TCO在CRT方面的對比

    TCO在CRT方面的對比 隨著時間的發展,原有的TCO99標準已經難以適應新的LCD、PDP等采用新式顯示技術的顯示器。于是TCO聯盟開始制定最新的TCO03標準,
    發表于 12-26 17:06 ?852次閱讀

    TCO在LCD方面的對比

    TCO在LCD方面的對比 隨著時間的發展,原有的TCO99標準已經難以適應新的LCD、PDP等采用新式顯示技術的顯示器。于是TCO聯盟開始制定最新的TCO03標準,
    發表于 12-26 17:10 ?905次閱讀

    總結了區塊鏈技術的四個方面來了解區塊鏈

    是的,區塊鏈是正經技術,對于這個技術,頗多贊美之詞。但是,在贊美之余,我還是想潑幾杯冷水。區塊鏈很美,但也有美中不足之處,我大致總結了四個方面
    的頭像 發表于 01-22 15:48 ?6166次閱讀

    2018年智能鎖行業的問題大致總結為以下四個方面

    最近,對智能鎖行業進行了年終調研,根據企業的反應,智能鎖行業的問題大致總結為以下四個方面
    發表于 01-02 10:07 ?1110次閱讀

    高頻PCB設計中,工程師需考慮四個方面帶來的干擾問題并給解決方案

    在高頻PCB設計中,工程師需要考慮電源噪聲、傳輸線干擾、耦合、電磁干擾(EMI)四個方面的干擾問題。接下來,我們結合工作中的實踐,給出有效的解決方案。
    的頭像 發表于 07-18 08:55 ?3633次閱讀

    四個方面解讀PCB射頻電路基礎特性及重要因素

    此處將從射頻界面、小的期望信號、大的干擾信號、相鄰頻道的干擾四個方面解讀射頻電路大基礎特性,并給出了在 PCB 設計過程中需要特別注意的重要因素。
    發表于 08-07 14:42 ?954次閱讀

    無錫市集成電路產業四個方面的特點

    半導體行業協會常務副理事長于燮康用“乘風破浪”來概括無錫市集成電路產業發展所取得的成績。 于燮康總結了無錫市集成電路產業四個方面的特點。 ? 一是,產業規模實力厚實,處于國內“第一軍團”。無錫市集成電路產業起步于二十世紀八十年代,
    的頭像 發表于 02-05 15:59 ?1.1w次閱讀

    四個方面區分MPK和CBB電容資料下載

    電子發燒友網為你提供四個方面區分MPK和CBB電容資料下載的電子資料下載,更有其他相關的電路圖、源代碼、課件教程、中文資料、英文資料、參考設計、用戶指南、解決方案等資料,希望可以幫助到廣大的電子工程師們。
    發表于 03-27 08:44 ?23次下載
    <b class='flag-5'>四個</b><b class='flag-5'>方面</b>區分MPK和CBB電容資料下載

    四個方面看SoC 設計資料下載

    電子發燒友網為你提供四個方面看SoC 設計資料下載的電子資料下載,更有其他相關的電路圖、源代碼、課件教程、中文資料、英文資料、參考設計、用戶指南、解決方案等資料,希望可以幫助到廣大的電子工程師們。
    發表于 04-27 08:43 ?8次下載
    <b class='flag-5'>四個</b><b class='flag-5'>方面</b>看SoC 設計資料下載

    物聯網技術在四個方面的應用趨勢分析

      iGS320基于超低功耗 u-blox M10 標準精密 GNSS 平臺,通過同時跟蹤多達四個 GNSS 星座的衛星,提供最大覆蓋范圍和可靠的定位精度。
    的頭像 發表于 05-30 16:52 ?1405次閱讀

    示波器經常說“四個部分”是哪四個部分?

    在學習使用示波器之前,了解示波器的結構很重要,畢竟知己知彼,方能百戰百勝嘛!安泰維修記得在很早之前就聽過很多“你要先去了解示波器的四個部分”、“在學習之前你要先弄懂示波器那四個部分再去學……”等
    的頭像 發表于 10-19 17:03 ?1916次閱讀
    示波器經常說“<b class='flag-5'>四個</b>部分”是哪<b class='flag-5'>四個</b>部分?

    提升駕駛體驗的四個技術趨勢

    提升駕駛體驗的四個技術趨勢
    發表于 11-01 08:27 ?0次下載
    提升駕駛體驗的<b class='flag-5'>四個</b>技術趨勢
    百家乐官网赢的方法| 高额德州扑克视频| 足彩大赢家| 缅甸百家乐官网赌博有假吗| 柬埔寨百家乐官网的玩法技巧和规则| 百家乐注册下注平台| 天博百家乐的玩法技巧和规则| 太阳城娱乐城下载| 百家乐官网现金游戏注册送彩金| 百家乐注册平台排名| 威尼斯人娱乐场棋牌| 百家乐官网视频看不到| 华盛顿百家乐官网的玩法技巧和规则 | 泰来百家乐导航| 大发888网| 百家乐官网连跳趋势| 百家乐国际娱乐场| 武定县| 百家乐趋势图怎么看| tt真人娱乐城| 百家乐赌博机原理| 澳门赌球网| 真人百家乐是骗局| 福建省| 百家乐多少钱| 网络百家乐官网赌博视频| 真人百家乐国际第一品牌| 澳门百家乐官网威尼斯| 路劲太阳城业主论坛| 百家乐官网大西洋城v| 大发888娱乐下载网址| 百家乐官网那个娱乐城信誉好| 888达人| 百家乐投注网站是多少| 云鼎娱乐城优惠| 百家乐手机游戏下载| 百家乐官网视频打麻将| 大发888玩哪个| 百家乐娱乐人物| 东方太阳城招聘| 做生意人的风水|