圖像的卷積和池化操作,卷積操作( 四 )


一個例子是使用 ResNet-152 作為教師模型來幫助訓練 ResNet-50 。5.4 混合訓練在混合訓練(mixup)中,每次我們隨機抽樣兩個樣本 (x_i,y_i) 和 (x_j,y_j) 。然后我們通過這兩個樣本的加權線性插值構建一個新的樣本:其中 λ∈[0,1] 是從 Beta(α, α) 分布提取的隨機數 。
在混合訓練中,我們只使用新的樣本 (x hat, y hat) 。5.5 實驗結果表 6:通過堆疊訓練改進方法,得到的 ImageNet 驗證準確率 ?;€模型為第 3 節所描述的 。6 遷移學習6.1 目標檢測表 8:在 Pascal VOC 上評估各種預訓練基礎網絡的 Faster-RCNN 性能 。6.2 語義分割表 9:在 ADE20K 上評估各種基礎網絡的 FCN 性能 。
如何理解卷積神經網絡里卷積過濾器的深度問題?

圖像的卷積和池化操作,卷積操作


我們通??吹降木矸e過濾器示意圖是這樣的:(圖片來源:cs231n)這其實是把卷積過濾器“壓扁”了,或者說“拍平”了 。比如,上圖中粉色的卷積過濾器是3x3x3,也就是長3寬3深3,但是示意圖中卻畫成二維——這是省略了深度(depth) 。實際上,卷積過濾器是有深度的,深度值和輸入圖像的深度相同 。也正因為卷積過濾器的深度和輸入圖像的深度相同,因此,一般在示意圖中就不把深度畫出來了 。
如果把深度也畫出來,效果大概就是這樣:(圖片來源:mlnotebook)如前所述,卷積過濾器的深度和輸入圖像的深度相同,都是3 。順便說下,輸入圖像深度為3,是因為輸入圖像是彩色圖像,深度為3,分別為R、G、B值 。作為對比,灰度圖像的卷積過濾器是這樣的(真2D):(圖片來源:mlnotebook)總之,卷積過濾器的深度和輸入數據的深度保持一致就可以了 。

推薦閱讀