Python lstm 當(dāng)特征數(shù)過大時(shí)，門的輸出(輸入，忘記，輸出)的維數(shù)與細(xì)胞狀態(tài)的維數(shù)一致。門(輸入、遺忘、輸出)輸出的維數(shù)與單元狀態(tài)的維數(shù)一致，也就是說，三個(gè)門的輸出分別控制受控向量(cellinput，cell(t1)，cell(t))中的元素。

時(shí)間序列模型時(shí)間序列預(yù)測分析是利用某一事件過去的特征來預(yù)測該事件未來的特征。這是一種相對復(fù)雜的預(yù)測建模問題。與回歸分析模型不同，時(shí)間序列模型依賴于事件的順序，將相同大小的值輸入到模型中產(chǎn)生的結(jié)果在改變順序后是不同的。舉個(gè)栗子:根據(jù)某只股票近兩年的每日股價(jià)數(shù)據(jù)猜測接下來一周的股價(jià)變化；根據(jù)近兩年每周想在一家店消費(fèi)的人數(shù)，預(yù)測下周來店人數(shù)等。RNN和LSTM模型時(shí)間序列模型最常用和最有力的工具是遞歸神經(jīng)網(wǎng)絡(luò)(recursive neural network，

用Python LSTM訓(xùn)練時(shí)，特征太多可能導(dǎo)致漸變爆炸。這時(shí)，有幾種方法可以處理這個(gè)問題:1。漸變裁剪:漸變裁剪可以限制漸變的范圍，避免漸變爆炸。該方法可以在每次訓(xùn)練迭代中修改優(yōu)化器的“clipvalue”或“clipnorm”的參數(shù)，以控制梯度。2.權(quán)重約束:權(quán)重約束可以限制權(quán)重的范圍，也可以阻止網(wǎng)絡(luò)生成和學(xué)習(xí)相似特征。

3.數(shù)據(jù) Normalization:特征間的差異過大也會導(dǎo)致LSTM網(wǎng)絡(luò)訓(xùn)練梯度的爆炸。因此，在訓(xùn)練前有必要對數(shù)據(jù)進(jìn)行規(guī)范化?？梢允褂脷w一化方法或縮放方法來歸一化數(shù)據(jù)。4.減少特征的數(shù)量:在梯度爆炸的情況下，考慮減少特征的數(shù)量。可以使用PCA(主成分分析)等一些常用的特征選擇方法，也可以單獨(dú)使用特征包裝 瓶頸法進(jìn)一步提取特征。

LSTM的三個(gè)門輸出數(shù)字和向量。門(輸入、遺忘、輸出)輸出的維數(shù)與單元狀態(tài)的維數(shù)一致。也就是說，三個(gè)門的輸出分別控制受控向量(cellinput，cell(t1)，cell(t))中的元素。LSTM的三個(gè)門輸出數(shù)字和向量。門(輸入、遺忘、輸出)輸出的維數(shù)與單元狀態(tài)的維數(shù)一致。

比如細(xì)胞狀態(tài)的維數(shù)是1，那么受控向量(cellinput，cell(t1)，cell(t))的維數(shù)也是1，所以三個(gè)門的輸出都是01之間的數(shù)(使用sigmoid激活函數(shù))；如果細(xì)胞狀態(tài)的維數(shù)是n，那么受控向量(cellinput，cell(t1)，cell(t))的維數(shù)都是n，那么三個(gè)門的輸出都是01之間的向量(選擇sigmoid激活函數(shù))，門輸出向量的維數(shù)都是n..

讓我盡可能用簡單的語言解釋一下我的觀點(diǎn)(假設(shè)你已經(jīng)大致知道什么是深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò):大型數(shù)據(jù)和高性能計(jì)算。在今天的互聯(lián)網(wǎng)時(shí)代，神經(jīng)網(wǎng)絡(luò)有了前所未有的“更深入”的可能性，并且發(fā)明了許多新方法(DenoiseAutoencoder，圖像識別等，幾年后，人們發(fā)現(xiàn)。3、拋磚引玉，在這個(gè)框架下。