卷積神經(jīng)網(wǎng)絡(luò)原理，假設(shè)面試官什么都不懂詳細(xì)解釋cnn的原理

來源：整理時(shí)間：2023-08-18 18:54:38 編輯：智能門戶手機(jī)版

本文目錄一覽

1，假設(shè)面試官什么都不懂詳細(xì)解釋cnn的原理
2，什么是卷積神經(jīng)網(wǎng)絡(luò)為什么它們很重要
3，全卷積神經(jīng)網(wǎng)絡(luò)中的crop層有什么用處以及是如何實(shí)現(xiàn)的
4，如何更好的理解分析深度卷積神經(jīng)網(wǎng)絡(luò)
5，卷積神經(jīng)網(wǎng)絡(luò)為什么具有扭曲和旋轉(zhuǎn)不變性
6，為什么有圖卷積神經(jīng)網(wǎng)絡(luò)

1，假設(shè)面試官什么都不懂詳細(xì)解釋cnn的原理

卷積神經(jīng)網(wǎng)絡(luò)是近年發(fā)展起來，并引起廣泛重視的一種高效識(shí)別方法。20世紀(jì)60年代，Hubel和Wiesel在研究貓腦皮層中用于局部敏感和方向選擇的神經(jīng)元時(shí)發(fā)現(xiàn)其獨(dú)特的網(wǎng)絡(luò)結(jié)構(gòu)可以有效地降低反饋神經(jīng)網(wǎng)絡(luò)的復(fù)雜性，繼而提出了卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks-簡稱CNN）。CNN主要用來識(shí)別位移、縮放及其他形式扭曲不變性的二維圖形。由于CNN的特征檢測層通過訓(xùn)練數(shù)據(jù)進(jìn)行學(xué)習(xí)，所以在使用CNN時(shí)，避免了顯示的特征抽取，而隱式地從訓(xùn)練數(shù)據(jù)中進(jìn)行學(xué)習(xí)；再者由于同一特征映射面上的神經(jīng)元權(quán)值相同，所以網(wǎng)絡(luò)可以并行學(xué)習(xí)，這也是卷積網(wǎng)絡(luò)相對(duì)于神經(jīng)元彼此相連網(wǎng)絡(luò)的一大優(yōu)勢。卷積神經(jīng)網(wǎng)絡(luò)以其局部權(quán)值共享的特殊結(jié)構(gòu)在語音識(shí)別和圖像處理方面有著獨(dú)特的優(yōu)越性，其布局更接近于實(shí)際的生物神經(jīng)網(wǎng)絡(luò)，權(quán)值共享降低了網(wǎng)絡(luò)的復(fù)雜性，特別是多維輸入向量的圖像可以直接輸入網(wǎng)絡(luò)這一特點(diǎn)避免了特征提取和分類過程中數(shù)據(jù)重建的復(fù)雜度。

我是來看評(píng)論的

假設(shè)面試官什么都不懂詳細(xì)解釋cnn的原理

2，什么是卷積神經(jīng)網(wǎng)絡(luò)為什么它們很重要

卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network,CNN）是一種前饋神經(jīng)網(wǎng)絡(luò)，它的人工神經(jīng)元可以響應(yīng)一部分覆蓋范圍內(nèi)的周圍單元，對(duì)于大型圖像處理有出色表現(xiàn)。[1] 它包括卷積層(alternating convolutional layer)和池層(pooling layer)。卷積神經(jīng)網(wǎng)絡(luò)是近年發(fā)展起來，并引起廣泛重視的一種高效識(shí)別方法。20世紀(jì)60年代，Hubel和Wiesel在研究貓腦皮層中用于局部敏感和方向選擇的神經(jīng)元時(shí)發(fā)現(xiàn)其獨(dú)特的網(wǎng)絡(luò)結(jié)構(gòu)可以有效地降低反饋神經(jīng)網(wǎng)絡(luò)的復(fù)雜性，繼而提出了卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks-簡稱CNN）。現(xiàn)在，CNN已經(jīng)成為眾多科學(xué)領(lǐng)域的研究熱點(diǎn)之一，特別是在模式分類領(lǐng)域，由于該網(wǎng)絡(luò)避免了對(duì)圖像的復(fù)雜前期預(yù)處理，可以直接輸入原始圖像，因而得到了更為廣泛的應(yīng)用。 K.Fukushima在1980年提出的新識(shí)別機(jī)是卷積神經(jīng)網(wǎng)絡(luò)的第一個(gè)實(shí)現(xiàn)網(wǎng)絡(luò)。隨后，更多的科研工作者對(duì)該網(wǎng)絡(luò)進(jìn)行了改進(jìn)。其中，具有代表性的研究成果是Alexander和Taylor提出的“改進(jìn)認(rèn)知機(jī)”，該方法綜合了各種改進(jìn)方法的優(yōu)點(diǎn)并避免了耗時(shí)的誤差反向傳播。

什么是卷積神經(jīng)網(wǎng)絡(luò)為什么它們很重要

3，全卷積神經(jīng)網(wǎng)絡(luò)中的crop層有什么用處以及是如何實(shí)現(xiàn)的

1.卷積神經(jīng)網(wǎng)絡(luò)簡介卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network,CNN）是一種前饋神經(jīng)網(wǎng)絡(luò)，它的人工神經(jīng)元可以響應(yīng)一部分覆蓋范圍內(nèi)的周圍單元，對(duì)于大型圖像處理有出色表現(xiàn)。[1] 它包括卷積層(alternating convolutional layer)和池層(pooling layer)。卷積神經(jīng)網(wǎng)絡(luò)是近年發(fā)展起來，并引起廣泛重視的一種高效識(shí)別方法。20世紀(jì)60年代，Hubel和Wiesel在研究貓腦皮層中用于局部敏感和方向選擇的神經(jīng)元時(shí)發(fā)現(xiàn)其獨(dú)特的網(wǎng)絡(luò)結(jié)構(gòu)可以有效地降低反饋神經(jīng)網(wǎng)絡(luò)的復(fù)雜性，繼而提出了卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks-簡稱CNN）?，F(xiàn)在，CNN已經(jīng)成為眾多科學(xué)領(lǐng)域的研究熱點(diǎn)之一，特別是在模式分類領(lǐng)域，由于該網(wǎng)絡(luò)避免了對(duì)圖像的復(fù)雜前期預(yù)處理，可以直接輸入原始圖像，因而得到了更為廣泛的應(yīng)用。 K.Fukushima在1980年提出的新識(shí)別機(jī)是卷積神經(jīng)網(wǎng)絡(luò)的第一個(gè)實(shí)現(xiàn)網(wǎng)絡(luò)。隨后，更多的科研工作者對(duì)該網(wǎng)絡(luò)進(jìn)行了改進(jìn)。其中，具有代表性的研究成果是Alexander和Taylor提出的“改進(jìn)認(rèn)知機(jī)”，該方法綜合了各種改進(jìn)方法的優(yōu)點(diǎn)并避免了耗時(shí)的誤差反向傳播。

全卷積神經(jīng)網(wǎng)絡(luò)中的crop層有什么用處以及是如何實(shí)現(xiàn)的

4，如何更好的理解分析深度卷積神經(jīng)網(wǎng)絡(luò)

用局部連接而不是全連接，同時(shí)權(quán)值共享。局部連接的概念參考局部感受域，即某個(gè)視神經(jīng)元僅考慮某一個(gè)小區(qū)域的視覺輸入，因此相比普通神經(jīng)網(wǎng)絡(luò)的全連接層（下一層的某一個(gè)神經(jīng)元需要與前一層的所有節(jié)點(diǎn)連接），卷積網(wǎng)絡(luò)的某一個(gè)卷積層的所有節(jié)點(diǎn)只負(fù)責(zé)前層輸入的某一個(gè)區(qū)域（比如某個(gè)3*3的方塊）。這樣一來需要訓(xùn)練的權(quán)值數(shù)相比全連接而言會(huì)大大減少，進(jìn)而減小對(duì)樣本空間大小的需求。權(quán)值共享的概念就是，某一隱藏層的所有神經(jīng)元共用一組權(quán)值。這兩個(gè)概念對(duì)應(yīng)卷積層的話，恰好就是某個(gè)固定的卷積核。卷積核在圖像上滑動(dòng)時(shí)每處在一個(gè)位置分別對(duì)應(yīng)一個(gè)“局部連接”的神經(jīng)元，同時(shí)因?yàn)椤皺?quán)值共享”的緣故，這些神經(jīng)元的參數(shù)一致，正好對(duì)應(yīng)同一個(gè)卷積核。順便補(bǔ)充下，不同卷積核對(duì)應(yīng)不同的特征，比如不同方向的邊（edge）就會(huì)分別對(duì)應(yīng)不同的卷積核。激活函數(shù)f(x)用ReLU的話避免了x過大梯度趨于0（比如用sigmoid）而影響訓(xùn)練的權(quán)值的情況（即Gradient Vanishing）。同時(shí)結(jié)果會(huì)更稀疏一些。池化之后（例如保留鄰域內(nèi)最大或采納平均以舍棄一些信息）一定程度也壓制了過擬合的情況。綜述總體來說就是重復(fù)卷積-relu 來提取特征，進(jìn)行池化之后再作更深層的特征提取，實(shí)質(zhì)上深層卷積網(wǎng)絡(luò)的主要作用在于特征提取。最后一層直接用softmax來分類（獲得一個(gè)介于0~1的值表達(dá)輸入屬于這一類別的概率）。

5，卷積神經(jīng)網(wǎng)絡(luò)為什么具有扭曲和旋轉(zhuǎn)不變性

除非是做了數(shù)據(jù)增強(qiáng)，要不然卷積神經(jīng)網(wǎng)絡(luò)幾乎不具有扭曲和旋轉(zhuǎn)不變性能稍微起點(diǎn)作用的max_polling，但是也只有小范圍的扭曲和旋轉(zhuǎn)不變性。

卷積神經(jīng)網(wǎng)絡(luò)有以下幾種應(yīng)用可供研究：1、基于卷積網(wǎng)絡(luò)的形狀識(shí)別物體的形狀是人的視覺系統(tǒng)分析和識(shí)別物體的基礎(chǔ)，幾何形狀是物體的本質(zhì)特征的表現(xiàn)，并具有平移、縮放和旋轉(zhuǎn)不變等特點(diǎn)，所以在模式識(shí)別領(lǐng)域，對(duì)于形狀的分析和識(shí)別具有十分重要的意義，而二維圖像作為三維圖像的特例以及組成部分，因此二維圖像的識(shí)別是三維圖像識(shí)別的基礎(chǔ)。2、基于卷積網(wǎng)絡(luò)的人臉檢測卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)的人臉檢測方法不同，它是通過直接作用于輸入樣本，用樣本來訓(xùn)練網(wǎng)絡(luò)并最終實(shí)現(xiàn)檢測任務(wù)的。它是非參數(shù)型的人臉檢測方法，可以省去傳統(tǒng)方法中建模、參數(shù)估計(jì)以及參數(shù)檢驗(yàn)、重建模型等的一系列復(fù)雜過程。本文針對(duì)圖像中任意大小、位置、姿勢、方向、膚色、面部表情和光照條件的人臉。3、文字識(shí)別系統(tǒng)在經(jīng)典的模式識(shí)別中，一般是事先提取特征。提取諸多特征后，要對(duì)這些特征進(jìn)行相關(guān)性分析，找到最能代表字符的特征，去掉對(duì)分類無關(guān)和自相關(guān)的特征。然而，這些特征的提取太過依賴人的經(jīng)驗(yàn)和主觀意識(shí)，提取到的特征的不同對(duì)分類性能影響很大，甚至提取的特征的順序也會(huì)影響最后的分類性能。同時(shí)，圖像預(yù)處理的好壞也會(huì)影響到提取的特征。

你說呢...

6，為什么有圖卷積神經(jīng)網(wǎng)絡(luò)

本質(zhì)上說，世界上所有的數(shù)據(jù)都是拓?fù)浣Y(jié)構(gòu)，也就是網(wǎng)絡(luò)結(jié)構(gòu)，如果能夠把這些網(wǎng)絡(luò)數(shù)據(jù)真正的收集、融合起來，這確實(shí)是實(shí)現(xiàn)了AI智能的第一步。所以，如何利用深度學(xué)習(xí)處理這些復(fù)雜的拓?fù)鋽?shù)據(jù)，如何開創(chuàng)新的處理圖數(shù)據(jù)以及知識(shí)圖譜的智能算法是AI的一個(gè)重要方向。深度學(xué)習(xí)在多個(gè)領(lǐng)域的成功主要?dú)w功于計(jì)算資源的快速發(fā)展（如 GPU）、大量訓(xùn)練數(shù)據(jù)的收集，還有深度學(xué)習(xí)從歐幾里得數(shù)據(jù)（如圖像、文本和視頻）中提取潛在表征的有效性。但是，盡管深度學(xué)習(xí)已經(jīng)在歐幾里得數(shù)據(jù)中取得了很大的成功，但從非歐幾里得域生成的數(shù)據(jù)已經(jīng)取得更廣泛的應(yīng)用，它們需要有效分析。如在電子商務(wù)領(lǐng)域，一個(gè)基于圖的學(xué)習(xí)系統(tǒng)能夠利用用戶和產(chǎn)品之間的交互以實(shí)現(xiàn)高度精準(zhǔn)的推薦。在化學(xué)領(lǐng)域，分子被建模為圖，新藥研發(fā)需要測定其生物活性。在論文引用網(wǎng)絡(luò)中，論文之間通過引用關(guān)系互相連接，需要將它們分成不同的類別。自2012年以來，深度學(xué)習(xí)在計(jì)算機(jī)視覺以及自然語言處理兩個(gè)領(lǐng)域取得了巨大的成功。假設(shè)有一張圖，要做分類，傳統(tǒng)方法需要手動(dòng)提取一些特征，比如紋理，顏色，或者一些更高級(jí)的特征。然后再把這些特征放到像隨機(jī)森林等分類器，給到一個(gè)輸出標(biāo)簽，告訴它是哪個(gè)類別。而深度學(xué)習(xí)是輸入一張圖，經(jīng)過神經(jīng)網(wǎng)絡(luò)，直接輸出一個(gè)標(biāo)簽。特征提取和分類一步到位，避免了手工提取特征或者人工規(guī)則，從原始數(shù)據(jù)中自動(dòng)化地去提取特征，是一種端到端（end-to-end）的學(xué)習(xí)。相較于傳統(tǒng)的方法，深度學(xué)習(xí)能夠?qū)W習(xí)到更高效的特征與模式。圖數(shù)據(jù)的復(fù)雜性對(duì)現(xiàn)有機(jī)器學(xué)習(xí)算法提出了重大挑戰(zhàn)，因?yàn)閳D數(shù)據(jù)是不規(guī)則的。每張圖大小不同、節(jié)點(diǎn)無序，一張圖中的每個(gè)節(jié)點(diǎn)都有不同數(shù)目的鄰近節(jié)點(diǎn)，使得一些在圖像中容易計(jì)算的重要運(yùn)算（如卷積）不能再直接應(yīng)用于圖。此外，現(xiàn)有機(jī)器學(xué)習(xí)算法的核心假設(shè)是實(shí)例彼此獨(dú)立。然而，圖數(shù)據(jù)中的每個(gè)實(shí)例都與周圍的其它實(shí)例相關(guān)，含有一些復(fù)雜的連接信息，用于捕獲數(shù)據(jù)之間的依賴關(guān)系，包括引用、朋友關(guān)系和相互作用。最近，越來越多的研究開始將深度學(xué)習(xí)方法應(yīng)用到圖數(shù)據(jù)領(lǐng)域。受到深度學(xué)習(xí)領(lǐng)域進(jìn)展的驅(qū)動(dòng)，研究人員在設(shè)計(jì)圖神經(jīng)網(wǎng)絡(luò)的架構(gòu)時(shí)借鑒了卷積網(wǎng)絡(luò)、循環(huán)網(wǎng)絡(luò)和深度自編碼器的思想。為了應(yīng)對(duì)圖數(shù)據(jù)的復(fù)雜性，重要運(yùn)算的泛化和定義在過去幾年中迅速發(fā)展。

首先搞清楚機(jī)器學(xué)習(xí)以及卷積神經(jīng)網(wǎng)絡(luò)概念。其實(shí)卷積神經(jīng)網(wǎng)絡(luò)是機(jī)器學(xué)習(xí)中的一種算法。主要用于圖像特征提取。而機(jī)器學(xué)習(xí)主要指統(tǒng)計(jì)機(jī)器學(xué)習(xí)。而機(jī)器學(xué)習(xí)有三個(gè)要素：1、模型2、策略3、算法，cnn屬于一種算法。所以沒有什么優(yōu)于的說法。