1.全連接層參數(shù)設(shè)置

之前的文章我們已經(jīng)講過什么是卷積、什么是池化、什么是激活函數(shù)，今天終于進入CNN的末尾了——全連接層（Fully Connected Layer）我們已經(jīng)占領(lǐng)了敵方高地，就差最后一下，堅持住，馬上就victory了。

2.全連接層有什么用

全連接層就是將最后一層卷積得到的特征圖（矩陣）展開成一維向量，并為分類器提供輸入。最開始看到這個全連接層，我就很是疑問：它是怎么做的呢？舉個列子：

3.全連接層計算方珠法

我們輸入一個 28×2828\times28 的灰度圖像，經(jīng)過卷積層和池化層輸出20個 12×1212\times12 的圖像，然后通過了一個全連接層變成了 1×1001\times100 的向量這是怎么做到的呢？很簡單，。

4.全連接層如何進行分類

可以理解為在中間做了一次卷積我們用一個12x12x20的filter 去卷積激活函數(shù)的輸出，得到的結(jié)果就是一個fully connected layer 的一個神經(jīng)元的輸出，這個輸出就是一個值因為我們有100個神經(jīng)元，所以輸出一個。

5.全連接層計算公式

1×1001\times100 的向量我們實際就是用一個12x12x20x100的卷積層去卷積激活珠函數(shù)的輸出，最終得到1×1001\times100 的向量【全連接層的作用】：全連接層在整個網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)中起到“分類器”的作用。

6.全連接層的缺點

如果說卷積層、池化層和激活函數(shù)等操作是將原始數(shù)據(jù)映射到隱層特征空間的話（特征提取+選擇的過程），全連接層則起到將學到的特征表示映射到樣本的標記空間的作用換句話說，就是把特征整合到一起（高度提純特征），方便交給最后的分類器或者回歸。

7.全連接層 attention

【全連接層存在的問題】：參數(shù)冗余（僅全連接層參數(shù)就可占整個網(wǎng)絡(luò)參數(shù)80%左右），降低了訓練的速度，容易過擬合CNN（帶有FC層）輸入圖片尺寸是固定的原因：全連接層要求固定的輸入維度（如40珠96）CNN支持任意尺寸輸入圖像的方法：。

8.全連接層工作原理

（1）使用全局平均池化層或卷積層替換FC層（2）在卷積層和FC層之間加入空間金字塔池化