神經(jīng)網(wǎng)絡(luò)的魯棒性精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)的魯棒性主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經(jīng)網(wǎng)絡(luò)的魯棒性范文

關(guān)鍵詞：液壓泵軸承 故障 診斷

軸承的平均使用壽命是10000小時(shí)，大于此就需要更換新的；滾柱表面變色或者有劃痕，也要更換。更換下來(lái)的軸承應(yīng)注意型號(hào)和英文字母，但沒(méi)有儀器是無(wú)法檢測(cè)出軸承的游隙柱塞泵軸承一般采用大載荷容量軸承，更換時(shí)候最好購(gòu)買原廠家規(guī)格的產(chǎn)品，但若換為另一品牌，并且保持載荷容量和軸承的精度等級(jí)，需要請(qǐng)教對(duì)軸承有經(jīng)驗(yàn)的人員查表更換。

一、液壓泵軸承故障的特征提取

在機(jī)械系統(tǒng)中，有故障就會(huì)引起系統(tǒng)的附加振動(dòng)。振動(dòng)信號(hào)很適合進(jìn)行故障診斷，因?yàn)樗前S富信息的動(dòng)態(tài)信號(hào)，但若固有信號(hào)或外界干擾對(duì)故障信號(hào)的干擾很大，那么關(guān)鍵是要從振動(dòng)信號(hào)中提取有用信號(hào)。

(1)振動(dòng)的平均能量特征

假定在液壓泵泵體上的振動(dòng)加速信號(hào)為：a(t)={a1(t), a2(t),...， an(t)}，它是故障信號(hào)以泵體傳輸后的信號(hào)。

振動(dòng)信號(hào)的有效值由特征參數(shù)代表，反映振動(dòng)的平均能量。根據(jù)統(tǒng)計(jì)學(xué)理論，振動(dòng)的時(shí)域信息可以通過(guò)振動(dòng)的均方根反映：

(2)振動(dòng)信號(hào)的峰值特征

反映振動(dòng)信號(hào)中周期性脈動(dòng)的特征量，峰值特征量為Pp=max{a(t)}。

(3)倒譜包絡(luò)特征

設(shè)為故障激勵(lì)信號(hào)f(t)，傳輸通道的脈沖響應(yīng)為h(t)，由傅里葉變換得：

，變換得：

其中，τ稱為倒頻率，(τ)為倒頻譜。

由上得出故障激勵(lì)信號(hào)特性和傳遞通道的特性被分離，故障激勵(lì)信號(hào)與傳遞通道信號(hào)一般在不同的倒頻區(qū)，突出故障振動(dòng)信號(hào)的特性。

當(dāng)軸承滾柱及流動(dòng)面的內(nèi)、外環(huán)滾道上出現(xiàn)損傷，滾道的表面受到破壞，根據(jù)摩擦學(xué)理論，每當(dāng)滾子滾過(guò)損傷點(diǎn)，都會(huì)產(chǎn)生一次振動(dòng)。選用以上抗干擾能力強(qiáng)的特征為故障診斷特征參數(shù)，可以克服軸承故障信號(hào)較弱且容易被液壓泵固有振動(dòng)淹沒(méi)的困難。

二、集成BP網(wǎng)絡(luò)進(jìn)行故障診斷的原理

求解問(wèn)題的領(lǐng)域特征決定了神經(jīng)網(wǎng)絡(luò)的組織結(jié)構(gòu)，為了減少故障診斷系統(tǒng)的復(fù)雜性和網(wǎng)絡(luò)學(xué)習(xí)時(shí)間，將故障診斷知識(shí)集合分解為若干子集合。每個(gè)邏輯上獨(dú)立的子集合再分解為幾個(gè)規(guī)則子集，每個(gè)規(guī)則子集是一個(gè)邏輯上獨(dú)立的子網(wǎng)絡(luò)的映射，通過(guò)規(guī)則子集間的聯(lián)系、子網(wǎng)絡(luò)的權(quán)系矩陣來(lái)組織網(wǎng)絡(luò)。獨(dú)立地運(yùn)用BP學(xué)習(xí)算法在各個(gè)子網(wǎng)絡(luò)分別進(jìn)行學(xué)習(xí)訓(xùn)練。由于分解后的子網(wǎng)絡(luò)變得規(guī)模小了，所以使訓(xùn)練時(shí)間大為減少。

利用集成BP網(wǎng)絡(luò)對(duì)液壓泵軸承故障診斷的信息處理能力，即BP算法和神經(jīng)元的非線性機(jī)理特性，如圖1所示。

圖1BP網(wǎng)絡(luò)故障診斷示意圖

圖2中每一個(gè)子網(wǎng)絡(luò)由BP算法各自學(xué)習(xí)，學(xué)習(xí)后的結(jié)果最后集成到控制網(wǎng)絡(luò)。BP子網(wǎng)絡(luò)的學(xué)習(xí)算法如下：

圖2集成BP網(wǎng)絡(luò)示意圖

將能量特征、幅值特征和倒譜包絡(luò)特征每一個(gè)特征參數(shù)值的映射到神經(jīng)網(wǎng)絡(luò)輸入輸出層的單個(gè)節(jié)點(diǎn)上，進(jìn)行正則變換，則：

xi=0.8(x-xmin)/(xmax-xmin)+0.1

為了避免Sigmoid函數(shù)輸出值極端化，比如學(xué)習(xí)無(wú)法收斂的問(wèn)題，則需要把特征參數(shù)正則到(0.1，0.9)之間，得到每個(gè)神經(jīng)元的加權(quán)值和閾值：

其中，i代表前一層，j代表當(dāng)前層，wij代表連接權(quán)值，cj代表當(dāng)前節(jié)點(diǎn)的閾值，fj代表輸出。而對(duì)于軸承故障診斷系統(tǒng)，若選取6個(gè)特征參數(shù)，即內(nèi)滾道和滾柱的振動(dòng)能量、振動(dòng)峰及倒譜包絡(luò)，則：

子網(wǎng)絡(luò)輸出層有一個(gè)節(jié)點(diǎn)，集成BP網(wǎng)絡(luò)輸出有多個(gè)節(jié)點(diǎn)，可以用集成BP網(wǎng)絡(luò)的輸出節(jié)點(diǎn)組合，表示一種狀態(tài)，從而對(duì)多故障診斷與識(shí)別。

三、神經(jīng)網(wǎng)絡(luò)魯棒性的研究

第2篇：神經(jīng)網(wǎng)絡(luò)的魯棒性范文

關(guān)鍵詞：卷積神經(jīng)網(wǎng)絡(luò)；自動(dòng)編碼器；非監(jiān)督訓(xùn)練；多尺度分塊；目標(biāo)識(shí)別

中圖分類號(hào)：TP391.41文獻(xiàn)標(biāo)志碼：A英文標(biāo)題

0引言

對(duì)圖像中目標(biāo)的精確和魯棒識(shí)別是模式識(shí)別及人工智能領(lǐng)域的核心內(nèi)容，在道路監(jiān)控、戰(zhàn)場(chǎng)偵察、精確打擊等領(lǐng)域中有著重要的作用和廣泛的前景。近年來(lái)，隨著深度神經(jīng)網(wǎng)絡(luò)成為機(jī)器學(xué)習(xí)新的熱點(diǎn)，基于卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）的圖像識(shí)別算法因其較強(qiáng)的魯棒性和突出的識(shí)別率被學(xué)術(shù)界和工業(yè)界所重視。

Alex等[1]提出基于大型深層CNN的自然圖像識(shí)別算法，在ImageNet數(shù)據(jù)集上取得了很高的識(shí)別率；Dan等[2]提出了基于多核的CNN，并采用GPU并行運(yùn)算的方法在三維NORB數(shù)據(jù)集上取得了很好的識(shí)別效果。以上算法雖然都取得了較高的目標(biāo)識(shí)別率，但是由于算法采用有監(jiān)督的訓(xùn)練方式，需要大量標(biāo)簽數(shù)據(jù)對(duì)網(wǎng)絡(luò)權(quán)重進(jìn)行調(diào)整，當(dāng)數(shù)據(jù)量較小時(shí)會(huì)導(dǎo)致模型前幾層網(wǎng)絡(luò)無(wú)法得到充分訓(xùn)練，故只能針對(duì)含標(biāo)簽數(shù)據(jù)較多的大型數(shù)據(jù)集。針對(duì)此問(wèn)題，目前主流的解決方法是采用特征提取算法對(duì)CNN的濾波器集進(jìn)行非監(jiān)督的預(yù)訓(xùn)練。文獻(xiàn)[3]采用稀疏編碼提取訓(xùn)練圖像的基函數(shù)作為CNN的初始濾波器；文獻(xiàn)[4]將獨(dú)立成分分析（Independent Component Analysis，ICA）應(yīng)用于CNN的預(yù)訓(xùn)練階段，利用ICA訓(xùn)練濾波器集合，使識(shí)別率得到了一定提高。然而無(wú)論是稀疏編碼還是ICA，其特征提取的效果都比較一般，應(yīng)用于預(yù)訓(xùn)練階段對(duì)算法識(shí)別率的提升也比較有限。所以如何更好地選擇濾波器的預(yù)訓(xùn)練算法仍是十分困難的問(wèn)題。

除了預(yù)訓(xùn)練外，影響CNN識(shí)別率和魯棒性的關(guān)鍵參數(shù)還有濾波器的尺寸和下采樣層的采樣間隔。濾波器尺寸反映了CNN對(duì)輸入圖像局部特征的提取情況，文獻(xiàn)[5]證明濾波器尺寸對(duì)最終識(shí)別結(jié)果有很大影響，并給出了單層條件下相對(duì)最優(yōu)的濾波器尺寸。下采樣層主要負(fù)責(zé)對(duì)特征進(jìn)行模糊，從而獲得平移、尺度等不變性。采樣間隔反映了模糊的程度，間隔越大模糊越嚴(yán)重，模糊后的特征保持的全局空間信息就越少。文獻(xiàn)[6]證明當(dāng)采樣間隔較小時(shí)，即使經(jīng)過(guò)2次卷積和2次最大下采樣（maxpooling），網(wǎng)絡(luò)輸出的激活值仍能重構(gòu)出與原始輸入看似相同的圖案。然而下采樣間隔過(guò)小會(huì)導(dǎo)致不變性喪失，過(guò)大則會(huì)損失大量細(xì)節(jié)信息，兩者均會(huì)導(dǎo)致識(shí)別率的下降。

針對(duì)以上問(wèn)題，本文提出基于多尺度分塊卷積神經(jīng)網(wǎng)絡(luò)（MultiScale Convolutional Neural Network， MSCNN）的圖像目標(biāo)識(shí)別算法。首先利用稀疏自動(dòng)編碼器（Sparse AutoEncoder，SAE）對(duì)卷積神經(jīng)網(wǎng)絡(luò)的濾波器進(jìn)行非監(jiān)督預(yù)訓(xùn)練，通過(guò)最小化重構(gòu)誤差獲得待識(shí)別圖像的隱層表示，進(jìn)而學(xué)習(xí)得到含有訓(xùn)練數(shù)據(jù)統(tǒng)計(jì)特性的濾波器集合，預(yù)訓(xùn)練效果相比ICA更好。其次提出多尺度分塊的方法構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)，為了增加魯棒性并減小下采樣對(duì)特征表示的影響，對(duì)輸入圖像進(jìn)行多尺度分塊形成多個(gè)通路，并設(shè)計(jì)相應(yīng)尺寸的濾波器進(jìn)行卷積運(yùn)算，將不同通路下采樣后的輸出進(jìn)行融合從而形成新的特征，輸入softmax分類器完成圖像目標(biāo)的識(shí)別。最后通過(guò)大量實(shí)驗(yàn)對(duì)比MSCNN算法與經(jīng)典算法在通用圖像識(shí)別任務(wù)中的識(shí)別率和魯棒性差異，從而驗(yàn)證算法的有效性。

4仿真實(shí)驗(yàn)及分析

本文使用STL10公開數(shù)據(jù)集以及從全色波段的QuiekBird遙感衛(wèi)星和GoogleEarth軟件中截取的遙感飛機(jī)圖像數(shù)據(jù)集進(jìn)行測(cè)試實(shí)驗(yàn)，將所有圖片變?yōu)?4×64像素的RGB圖。選擇STL10數(shù)據(jù)集的原因是因?yàn)槠浜胁话瑯?biāo)簽的訓(xùn)練集，可用于本文的非監(jiān)督預(yù)訓(xùn)練算法，且圖像中包含更多類內(nèi)變化。STL10共10類目標(biāo)，本文選用其中的4類目標(biāo)進(jìn)行實(shí)驗(yàn)。選擇遙感飛機(jī)圖像數(shù)據(jù)則是為了驗(yàn)證本文算法在遙感圖像解譯方面的可用性。該數(shù)據(jù)集包含5類遙感飛機(jī)，共400幅。實(shí)驗(yàn)時(shí)隨機(jī)選取遙感飛機(jī)圖像庫(kù)中50%的圖像作為訓(xùn)練樣本，其余作為測(cè)試樣本。本文的實(shí)驗(yàn)環(huán)境為CPU2.8GHz、內(nèi)存3GB的計(jì)算機(jī)，實(shí)現(xiàn)算法的軟件為Matlab（2011a）。

4.1算法識(shí)別率對(duì)比測(cè)試

MSCNN的各通路尺寸參數(shù)設(shè)置如圖4所示，每個(gè)通道使用300個(gè)濾波器，濾波器初始值按照不同通道感受野大小利用稀疏自動(dòng)編碼器預(yù)訓(xùn)練得到。編碼器設(shè)定為3層，稀疏參數(shù)ρ設(shè)定為0.05，訓(xùn)練周期為400。卷積神經(jīng)網(wǎng)絡(luò)的下采樣方式采用最大下采樣（max pooling）。

按照上述參數(shù)設(shè)置，通路1輸出特征維度為2700，通路2輸出特征維度為4800，通路3輸出特征維度為4800，MSCNN輸出特征維度總共為12300。所有算法的訓(xùn)練周期均為50。傳統(tǒng)CNN參數(shù)設(shè)定與通路1參數(shù)設(shè)定相同，同樣使用300個(gè)濾波器，濾波器初始值通過(guò)隨機(jī)初始化得到。輸出特征維度為2700。實(shí)驗(yàn)結(jié)果如表1所示。

從表1可看出，加入LCN的CNN較未加入的CNN對(duì)兩種數(shù)據(jù)集的識(shí)別率有一定的提高，說(shuō)明了加入LCN對(duì)目標(biāo)識(shí)別率是有一定的貢獻(xiàn)的；在兩種數(shù)據(jù)集上MSCNN相比原始CNN都擁有更高的識(shí)別率。MSCNN通路1雖然參數(shù)設(shè)置與CNN相同，但在相同訓(xùn)練周期下識(shí)別率較加入LCN的CNN又有一定提高，說(shuō)明了非監(jiān)督預(yù)訓(xùn)練對(duì)識(shí)別率提高的有效性。對(duì)于STL10數(shù)據(jù)集，可看出通路2的識(shí)別率在3個(gè)通路中最高，通路3則最低，這是因?yàn)橥?輸入的圖像尺寸最小，而STL10類內(nèi)變化很大且目標(biāo)不全在圖像中心，故識(shí)別率有所下降。通路之間進(jìn)行兩兩累加后識(shí)別率都有所提高，在3個(gè)通路共同作用時(shí)識(shí)別率最高，達(dá)到83.5%。對(duì)于遙感飛機(jī)圖像集而言，可看出3個(gè)通路中通路2的識(shí)別率最高，這是因?yàn)檫b感飛機(jī)圖像集均為飛機(jī)圖像，不同類別之間的全局特征差異并不明顯，而局部特征更能表示不同的飛機(jī)類別。通路3由于輸入尺寸較小，識(shí)別率稍有下降。同樣的，不同通路之間的疊加都讓識(shí)別率有所提升，最終MSCNN三通路特征融合后的識(shí)別率達(dá)到了96.5%，完全滿足對(duì)于可見光遙感圖像目標(biāo)識(shí)別的需求。

從表1還可看出，本文算法在3個(gè)通路CNN的情況下的識(shí)別率較1個(gè)通路或2個(gè)通路的CNN的識(shí)別率高，由此可以推斷3個(gè)通路CNN所提取的特征具有較強(qiáng)的泛化能力和魯棒性。此外3個(gè)通道能夠兼顧不同的尺度，使模型能提取到尺度不同的特征。

4.2算法魯棒性實(shí)驗(yàn)

為驗(yàn)證MSCNN的魯棒性，在數(shù)據(jù)集中選取不同類別的圖像對(duì)其進(jìn)行平移、尺度、旋轉(zhuǎn)變換，然后計(jì)算MSCNN輸出的第一層全連接特征與圖像變換后輸出特征之間的歐氏距離，根據(jù)距離的大小可以衡量輸出特征對(duì)于目標(biāo)變化的魯棒性，歐氏距離越小就說(shuō)明特征對(duì)于目標(biāo)變化越不敏感，魯棒性就越好。對(duì)于STL10選取四類目標(biāo)進(jìn)行實(shí)驗(yàn)，對(duì)比算法為CNN；對(duì)于遙感飛機(jī)圖像集隨機(jī)選取10幅進(jìn)行實(shí)驗(yàn)，并取距離的平均值，對(duì)比算法為ICA和CNN。測(cè)試結(jié)果如圖6～7所示。

圖6中虛線表示傳統(tǒng)CNN算法得到的結(jié)果，實(shí)線則表示MSCNN得到的結(jié)果，從圖6可看出：無(wú)論是面對(duì)平移、尺度還是旋轉(zhuǎn)變換，MSCNN算法最終輸出的特征向量變化率均小于CNN算法，證明其魯棒性要好于CNN。

從圖7也可看出：本文算法對(duì)于遙感飛機(jī)圖像集的平移、尺度、旋轉(zhuǎn)均表現(xiàn)出良好的魯棒性，相比而言ICA提取的特征魯棒性較差，目標(biāo)圖像微小的變化就導(dǎo)致了特征較大的改變。本文算法魯棒性較好首先是因?yàn)镸SCNN采用非監(jiān)督的預(yù)訓(xùn)練方式，訓(xùn)練得到的濾波器含有更多圖像不變性特征；其次是因?yàn)镸SCNN采用多尺度輸入，小塊圖像輸入在一定程度上相當(dāng)于另一種局部特征，這些特征相比全尺寸輸入擁有更好的不變性；最后是MSCNN采用了局部對(duì)比度標(biāo)準(zhǔn)化，對(duì)于亮度變化較大和存在噪聲的目標(biāo)圖像魯棒性明顯增強(qiáng)。

另外，本文算法采用了多通路多尺度分塊的方法，必然會(huì)使網(wǎng)絡(luò)參數(shù)增加，從而會(huì)使訓(xùn)練時(shí)間比較耗時(shí)；但在測(cè)試階段，輸入樣本的計(jì)算僅包含一些簡(jiǎn)單的卷積和下采樣，算法復(fù)雜度并沒(méi)有因?yàn)橥ǖ赖脑黾佣黾樱虼嗽跍y(cè)試階段的實(shí)時(shí)性較傳統(tǒng)的CNN并沒(méi)有太大變化。

5結(jié)語(yǔ)

本文提出了MSCNN算法在卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上通過(guò)非監(jiān)督預(yù)訓(xùn)練濾波器的方法解決傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)前幾層無(wú)法得到有效訓(xùn)練的問(wèn)題。針對(duì)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)對(duì)于復(fù)雜背景圖像識(shí)別率不高的問(wèn)題，利用多尺度輸入圖像增加局部不變信息，利用不同尺寸濾波器卷積搭配不同下采樣間隔的方法在獲得特征不變性的同時(shí)不至于喪失目標(biāo)的細(xì)節(jié)信息，有效提升了識(shí)別率和魯棒性。與經(jīng)典算法的對(duì)比實(shí)驗(yàn)結(jié)果表明：該方法能夠有效識(shí)別可見光自然圖像和遙感圖像，并對(duì)平移、尺度和旋轉(zhuǎn)變換具有較強(qiáng)的魯棒性。

參考文獻(xiàn)：

[1]

ALEX K， ILYA S， HINTON G E. ImageNet classification with deep convolutional neural networks[EB/OL]. [20150210]. http：//papers.nips.cc/paper/4824imagenetclassificationwithdeepconvolutionalneuralnetworks.pdf.

[2]

DAN C， UELI M， JURGEN S. Multicolumn deep neural networks for image classification[C]// Proceedings of the 2012 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway， NJ： IEEE， 2012： 3642-3649.

[3]

KAVUKCUOGLU K， SERMANET P， BOUREAU Y， et al. Learning convolutional feature hierarchies for visual recognition[EB/OL]. [20150210]. http：//cs.nyu.edu/～ylan/files/publi/koraynips10.pdf.

[4]

KAVUKCUOGLU K， RABZATO M， FERGUS R， et al. Learning invariant features through topographic filter maps[C]// IEEE Conference on Computer Vision and Pattern Recognition. Piscataway， NJ： IEEE， 2009： 1605-1612.

[5]

COATES A， LEE H， NG A Y. An analysis of singlelayer networks in unsupervised feature learning[C]// Proceedings of the 14th International Conference on Artificial Intelligence and Statistics. Piscataway， NJ： IEEE， 2011： 215-223.

[6]

ZEILER M D， FERGUS， R. Visualizing and understanding convolutional neural networks [C]// ECCV 2014： Proceedings of the 13th European Conference on Computer Vision. Berlin： Springer， 2014： 818-833.

[7]

BALDI P， LU ZHIQIN. Complexvalued autoencoders [J]. Neural Networks， 2012， 33：136-147.

[8]

HAYKIN S.神經(jīng)網(wǎng)絡(luò)與機(jī)器學(xué)習(xí)[M].3版.申富饒， 徐燁， 鄭俊， 譯. 北京： 機(jī)械工業(yè)出版社， 2011：81-89.（HAYKIN S. Neural Networks and Learning Machines[M]. 3rd ed. SHEN F R， XU Y， ZHENG J， translated. Beijing： China Machine Press， 2011：81-89.

[10]

LECUN Y， BOTTOU L， BENGIO Y. Gradientbased learning applied to document recognition [J]. Proceedings of the IEEE， 1998， 86（11）： 2278-2324.

[11]

DERMANET P， LECUN Y. Traffic sign recognition with multiscale convolutional networks [C]// Proceedings of the 2011 International Joint Conference on Neural Networks. Piscataway， NJ： IEEE， 2011： 2809-2813.

[12]

GONG Y C， WANG L W， GUO R Q， et al. Multiscale orderless pooling of deep convolutional activation features[C]// ECCV 2014： Proceedings of the 13th European Conference on Computer Vision. Piscataway， NJ： IEEE， 2014： 392-407.

[13]

JARRETT K， KAVUKCUOGLU K， RANZATO M， et al. What is the best multistage for object architecture？[C]// Proceedings of the 2009 IEEE 12th International Conference on Computer Vision. Piscataway， NJ： IEEE， 2009： 2146-2153.

[14]

BOUVRIE J. Notes on convolutional neural networks [EB/OL]. [20150210]. http：//math.duke.edu/～jvb/papers/cnn_tutorial.pdf.

Background

This work is partially supported by the National Natural Science Foundation of China （61372167， 61379104）.

ZHANG Wenda， born in 1991， M. S. candidate. His research interests include pattern recognition and artificial intelligence.

第3篇：神經(jīng)網(wǎng)絡(luò)的魯棒性范文

為降低神經(jīng)網(wǎng)絡(luò)的冗余連接及不必要的計(jì)算代價(jià)，將量子免疫克隆算法應(yīng)用于神經(jīng)網(wǎng)絡(luò)的優(yōu)化過(guò)程，通過(guò)產(chǎn)生具有稀疏度的權(quán)值來(lái)優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。算法能夠有效刪除神經(jīng)網(wǎng)絡(luò)中的冗余連接和隱層節(jié)點(diǎn)，并同時(shí)提高神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效率、函數(shù)逼近精度和泛化能力。該算法已應(yīng)用于秦始皇帝陵博物院野外文物安防系統(tǒng)。經(jīng)實(shí)際檢驗(yàn)，算法提高了目標(biāo)分類概率，降低了誤報(bào)率。

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；量子免疫克隆算法；目標(biāo)分類；冗余連接；網(wǎng)絡(luò)優(yōu)化

中圖分類號(hào)： TP273

文獻(xiàn)標(biāo)志碼：A

Quantum-inspired clonal algorithm based method for optimizing neural networks

Abstract：

In order to reduce the redundant connections and unnecessary computing cost， quantum-inspired clonal algorithm was applied to optimize neural networks. By generating neural network weights which have certain sparse ratio， the algorithm not only effectively removed redundant neural network connections and hidden layer nodes， but also improved the learning efficiency of neural network， the approximation of function accuracy and generalization ability. This method had been applied to wild relics security system of Emperor Qinshihuangs mausoleum site museum， and the results show that the method can raise the probability of target classification and reduce the false alarm rate.

Key words：

neural network； quantum-inspired clonal algorithm； target classification； redundant connection； network optimization

0 引言

神經(jīng)網(wǎng)絡(luò)已經(jīng)被廣泛地應(yīng)用于模式分類、函數(shù)逼近、信號(hào)預(yù)測(cè)等各種領(lǐng)域，是近年來(lái)的研究熱點(diǎn)之一[1-2]。在應(yīng)用過(guò)程中，研究人員發(fā)現(xiàn)，當(dāng)神經(jīng)網(wǎng)絡(luò)的規(guī)模過(guò)大會(huì)產(chǎn)生連接數(shù)量冗余大、計(jì)算代價(jià)過(guò)高的問(wèn)題，降低了大規(guī)模神經(jīng)網(wǎng)絡(luò)的實(shí)用性。針對(duì)此問(wèn)題，研究人員提出了多種方法在保持神經(jīng)網(wǎng)絡(luò)的前提下優(yōu)化神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)權(quán)值。Leung等[3-4]改進(jìn)了傳統(tǒng)的遺傳算法（Genetic Algorithm， GA）并將其應(yīng)用于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和權(quán)值優(yōu)化過(guò)程，利用遺傳算法的快速收斂性來(lái)提高神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速度，其缺點(diǎn)在于當(dāng)目標(biāo)函數(shù)維數(shù)過(guò)大時(shí)容易陷入局部最優(yōu)。Xiao等[5]使用混合優(yōu)點(diǎn)（Hybrid Good Point， HGP）優(yōu)化前向神經(jīng)網(wǎng)絡(luò)的參數(shù)和結(jié)構(gòu)，避免權(quán)值陷入局部最優(yōu)，但其對(duì)網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化沒(méi)有達(dá)到最優(yōu)。Shu等[6]提出正交模擬褪火（Orthogonal Simulated Annealing， OSA）算法， 使用褪火算法和正交算法的優(yōu)點(diǎn)來(lái)同時(shí)優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)，其算法收斂速度快、魯棒性好，缺點(diǎn)則在于計(jì)算代價(jià)較大。杜文莉等[7]提出了使用量子差分進(jìn)化（Cooperative Quantum Differential Evolution， CQGADE）算法來(lái)優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值，使用量子遺傳算法優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)和隱層節(jié)點(diǎn)數(shù)，算法綜合了量子遺傳算法和量子差分算法的優(yōu)點(diǎn)，收斂速度快，但其缺點(diǎn)在于需要同時(shí)協(xié)同兩種算法的優(yōu)化結(jié)果，算法復(fù)雜度較高，且容易陷入局部最優(yōu)。Tsai等[8]提出混合田口遺傳算法（Hybrid Taguchi Genetic Algorithm， HTGA），將傳統(tǒng)的GA與Taguchi方法結(jié)合起來(lái)，使得算法具有魯棒性好、收斂性快等優(yōu)點(diǎn)，但其缺點(diǎn)在于獲得最優(yōu)解的計(jì)算代價(jià)較大。

量子免疫克隆算法[9-12]（Quantum-inspired Immune Clonal Algorithm， QICA）也稱為量子遺傳算法（Quantum Genetic Algorithm， QGA），其將量子搜索機(jī)制和免疫算法克隆選擇原理相結(jié)合，利用量子編碼的疊加性和隨機(jī)性構(gòu)造抗體，利用遺傳算法的克隆操作產(chǎn)生原始種群和克隆子群實(shí)現(xiàn)種群擴(kuò)張，使搜索空間擴(kuò)大，提高了局部搜索能力；同時(shí)借助全干擾交叉操作避免陷入局部最優(yōu)。QICA采用了多狀態(tài)量子比特編碼方式和通用的量子旋轉(zhuǎn)門操作， 引入動(dòng)態(tài)調(diào)整旋轉(zhuǎn)角機(jī)制和量子交叉[11]。QICA在組合優(yōu)化問(wèn)題中具有良好的表現(xiàn)。

針對(duì)上述問(wèn)題，提出了使用量子克隆免疫算法對(duì)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和連接權(quán)值同時(shí)進(jìn)行優(yōu)化，通過(guò)產(chǎn)生具有一定稀疏度的連接權(quán)值對(duì)網(wǎng)絡(luò)隱層數(shù)量和連接權(quán)值進(jìn)行優(yōu)化，提高了算法的效率和收斂速度，避免了算法陷入局部最優(yōu)。

1 帶開關(guān)權(quán)值的神經(jīng)網(wǎng)絡(luò)模型

在經(jīng)典的神經(jīng)網(wǎng)絡(luò)理論中，網(wǎng)絡(luò)結(jié)構(gòu)在初始化后便不再變動(dòng)，僅通過(guò)權(quán)值的變化來(lái)計(jì)算產(chǎn)生結(jié)果，這種算法增加了神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)復(fù)雜性，在實(shí)際應(yīng)用中增加了計(jì)算結(jié)果的代價(jià)。Leung等[3-4]提出了帶開關(guān)權(quán)值的神經(jīng)網(wǎng)絡(luò)，通過(guò)調(diào)整開關(guān)的通斷就能調(diào)整神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和連接數(shù)量，從而減少計(jì)算代價(jià)。帶開關(guān)權(quán)值的神經(jīng)網(wǎng)絡(luò)模型如圖1所示[7]。

2.2 權(quán)值計(jì)算及優(yōu)化方法

根據(jù)量子克隆免疫理論，將神經(jīng)網(wǎng)絡(luò)權(quán)值計(jì)算及優(yōu)化過(guò)程分為以下四個(gè)過(guò)程。

2.2.1 權(quán)值抗體初始化

量子克隆免疫算法是基于量子計(jì)算和遺傳算法組成的，其抗體的編碼方式采用量子比特編碼。一個(gè)抗體中的量子位的狀態(tài)是不確定的，可以為0或1，其狀態(tài)表示為式（5）：

3.1 算法復(fù)雜度分析

量子克隆免疫算法的實(shí)質(zhì)是通過(guò)量子理論的隨機(jī)特性提供豐富的種群數(shù)量，并通過(guò)使用遺傳算法對(duì)種群進(jìn)行淘汰和進(jìn)化，因此其算法的復(fù)雜度等于種群生成算法的復(fù)雜度：假設(shè)神經(jīng)網(wǎng)絡(luò)有x個(gè)輸入，其隱層節(jié)點(diǎn)數(shù)量為N，輸出為y，則網(wǎng)絡(luò)中的輸入與隱層節(jié)點(diǎn)間的連接權(quán)值ω的數(shù)量為：x*N，隱層節(jié)點(diǎn)與輸出層的連接權(quán)值v的數(shù)量為：N*y。種群生成需要對(duì)所有節(jié)點(diǎn)進(jìn)行權(quán)值初始化，并將隨機(jī)位置的n（nN）個(gè)節(jié)點(diǎn)的權(quán)值設(shè)置為0， 其算法復(fù)雜度為O（n2）。而克隆免疫算法在種群克隆及抗體選擇過(guò)程中使用遺傳算法，因此其算法的復(fù)雜度與傳統(tǒng)遺傳算法相同，其算法復(fù)雜度也為O（n2）。因此，使用量子免疫克隆的神經(jīng)網(wǎng)絡(luò)優(yōu)化算法的復(fù)雜度為O（n2）。

3.2 非線性函數(shù)逼近

選取復(fù)雜交互非線性函數(shù)（Complicated Interaction Function，CIF）：

其中0

選取樣本700組，其中500組用于訓(xùn)練，其余200組用于檢測(cè)性能。神經(jīng)網(wǎng)絡(luò)的初始隱層神經(jīng)元設(shè)置為20個(gè)，初始網(wǎng)絡(luò)結(jié)構(gòu)為：2-20-1，初始連接權(quán)值為隨機(jī)值。在此條件下驗(yàn)證不同稀疏度條件下對(duì)CIF的二維逼近效果如圖3所示。

圖3顯示隨著稀疏度的不斷降低，神經(jīng)網(wǎng)絡(luò)的逼近能力有所減弱，逼近誤差則逐漸增大。這主要是因?yàn)樯窠?jīng)網(wǎng)絡(luò)中的連接權(quán)值數(shù)量降低，造成神經(jīng)網(wǎng)絡(luò)的適應(yīng)性差。具體逼近效果見表2。

從表2中可以看出，隱層節(jié)點(diǎn)數(shù)量直接影響著神經(jīng)網(wǎng)絡(luò)的性能。高稀疏度條件下的計(jì)算量大，但逼近精度高；低稀疏度條件下的計(jì)算量小，但逼近精度較差。實(shí)驗(yàn)表明當(dāng)稀疏度大于0.6時(shí)，算法的逼近精度高于90%，優(yōu)化后的網(wǎng)絡(luò)具有較好的非線性逼近能力。當(dāng)神經(jīng)網(wǎng)絡(luò)隱層節(jié)點(diǎn)數(shù)量低于12時(shí)逼近精度大幅下降，說(shuō)明此時(shí)神經(jīng)網(wǎng)絡(luò)處理信息的能力也隨之大幅減弱，隱層節(jié)點(diǎn)的最合適的數(shù)量為12～14個(gè)，這也符合文獻(xiàn)[14]的實(shí)驗(yàn)結(jié)果。

圖4為不同稀疏度下，算法適應(yīng)度的收斂情況?？梢钥闯隽孔涌寺∶庖咚惴ň哂泻芎玫氖諗刻匦?，算法收斂速度很快，能夠在很短的進(jìn)化次數(shù)內(nèi)收斂至極值，且稀疏度越低，神經(jīng)網(wǎng)絡(luò)的連接權(quán)值數(shù)量越少，算法收斂速度越低，最優(yōu)適應(yīng)度越差。

表3為相同條件下，不同算法的最優(yōu)計(jì)算結(jié)果，包括目標(biāo)分類的準(zhǔn)確度、隱藏層節(jié)點(diǎn)數(shù)量等。可以看出，當(dāng)稀疏度高于0.8時(shí)，本文算法收斂性和適應(yīng)度均優(yōu)于混沌粒子群（Chaotic Particle Swarm Optimization，CPSO）[15]、粒子群優(yōu)化算法（Particle Swarm Optimization，PSO）[16]、混合田口遺傳算法[Hybrid Taguchi-Genetic Algorithm，HTGA][8]等其他算法，說(shuō)明算法具有很好的收斂速度、尋優(yōu)精度和魯棒性。

3.3 微地震信號(hào)目標(biāo)分類

實(shí)驗(yàn)場(chǎng)地選擇在秦始皇兵馬俑博物館內(nèi)K9901號(hào)坑旁。所有傳感器節(jié)點(diǎn)沿公路一側(cè)直線部署，距離公路1m左右。可能產(chǎn)生地震波的活動(dòng)物體包括人員行走、機(jī)動(dòng)車和挖掘活動(dòng)。將采集到的微地震信號(hào)進(jìn)行濾波、分幀、特征提取等處理后輸入至神經(jīng)網(wǎng)絡(luò)進(jìn)行模式識(shí)別。

系統(tǒng)對(duì)傳感器采集到的數(shù)據(jù)進(jìn)行分幀，并使用功率譜二次分析[17]算法對(duì)其進(jìn)行處理，最后將經(jīng)過(guò)預(yù)處理的數(shù)據(jù)輸入至神經(jīng)網(wǎng)絡(luò)對(duì)其進(jìn)行分類。根據(jù)其活動(dòng)特點(diǎn)，將輸出目標(biāo)分為三類：人員活動(dòng)、挖掘活動(dòng)以及機(jī)動(dòng)車輛活動(dòng)。傳感器采集到的三類活動(dòng)的經(jīng)典波形如圖5所示。

表6中給出了算法的最優(yōu)計(jì)算結(jié)果，包括不同稀疏度條件下神經(jīng)網(wǎng)絡(luò)的隱藏層節(jié)點(diǎn)數(shù)量、最優(yōu)適應(yīng)度以及分類準(zhǔn)確率等?？梢钥闯觯惴軌蛴行p少冗余的隱藏層節(jié)點(diǎn)數(shù)量，并降低節(jié)點(diǎn)連接數(shù)量。算法的稀疏度越高，其適應(yīng)度越好，其分類的準(zhǔn)確性越好，但稀疏度高帶來(lái)的則是計(jì)算代價(jià)增大、計(jì)算復(fù)雜度增加。當(dāng)稀疏度低于0.7時(shí)，算法的適應(yīng)度變差，目標(biāo)的識(shí)別率為90%，在實(shí)際應(yīng)用過(guò)程中帶來(lái)了誤判率較高的問(wèn)題，降低了實(shí)用性。因此在秦始皇帝陵博物院野外文物安防系統(tǒng)中使用了稀疏度為0.7的算法對(duì)模式識(shí)別的神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化。

4 結(jié)語(yǔ)

本文提出了基于量子免疫克隆算法的神經(jīng)網(wǎng)絡(luò)優(yōu)化算法，該算法在訓(xùn)練神經(jīng)網(wǎng)絡(luò)優(yōu)化權(quán)值的同時(shí)刪除了冗余連接和多余的隱層節(jié)點(diǎn)，實(shí)現(xiàn)了神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和網(wǎng)絡(luò)權(quán)值的優(yōu)化。通過(guò)經(jīng)典非線性函數(shù)逼近和目標(biāo)識(shí)別檢驗(yàn)，算法能夠有效地優(yōu)化神經(jīng)網(wǎng)絡(luò)，提高神經(jīng)網(wǎng)絡(luò)的優(yōu)化效率，減少計(jì)算復(fù)雜度。使用優(yōu)化后的神經(jīng)網(wǎng)絡(luò)已經(jīng)用于秦始皇帝陵博物院野外文物安防系統(tǒng)中。

參考文獻(xiàn)：

[1] QIAO H， ZHOU Y，SHAO N， et al. Software reliability prediction based on learning vector quantization neutral network[J]. Journal of Computer Applications， 2012，32（05）：1436-1438.）（喬輝，周雁舟，邵楠，等.基于學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)的軟件可靠性預(yù)測(cè)[J].計(jì)算機(jī)應(yīng)用，2012，32（5）：1436-1438.）

[2] PAN Y， DENG Y， ZHANG Q， et al. Deterministic prediction of wavelet neural network model and its application[J]. Journal of Computer Applications，2013， 33（4）：1001-1005.（潘玉民，鄧永紅，張全柱，等.小波神經(jīng)網(wǎng)絡(luò)模型的確定性預(yù)測(cè)及應(yīng)用[J].計(jì)算機(jī)應(yīng)用，2013，33（4）：1001-1005.）

[3] LEUNG H F，LAM H F， LING S F， et al. Tuning of the structure and parameters of neural network using an improved genetic algorithm[C]// Proceedings of the 27th Annual Conference of IEEE Industrial Electronics Society. Piscataway： IEEE，2001：25-30.

[4] LEUNG H F， LAM H F， LING S H， et al. Tuning of the structure and parameters of a neural network using an improved genetic algorithm[J]. IEEE Transactions on Neural Network，2003，14（1）：79-88.

[5] XIAO C， CAI Z， WANG Y， et al. Tuning of the structure and parameters of a neural network using a good points set evolutionary strategy[C]// Proceedings of the 9th International Conference for Young Computer Scientists. Piscataway： IEEE， 2008：1749-1754.

[6] SHU L， HO S Y， HO S J. Tuning the structure and parameters of a neural network using an orthogonal simulated annealing algorithm[C]// Proceedings of the 2009 Joint Conferences on Pervasive Computing. Piscataway： IEEE，2009：789-792.

[7] DU W， ZHOU R， ZHOU L， et al. Cooperative quantum differential evolution algorithm based method for optimizing neural networks[J].Journal of Tsinghua University： Science and Technology， 2012，52（3）：331-335.（杜文莉，周仁，趙亮，等. 基于量子差分進(jìn)化算法的神經(jīng)網(wǎng)絡(luò)優(yōu)化方法[J].清華大學(xué)學(xué)報(bào)：自然科學(xué)版，2012，52（3）：331-335.）

[8] TSAI J， CHOU J， LIU T. Tuning the structure and parameters of a neural network by using hybrid Taguchi-genetic algorithm[J]. IEEE Transactions on Neural Network， 2006，17（1）：69-80.

[9] LI Y， JIAO L. Quantum-inspired immune clonal algorithm and its application[C]// Proceedings of the 2007 International Symposium on Intelligent Signal Processing and Communication Systems. Piscataway： IEEE， 2007：670-673.

[10] JIAO L， LI Y， GONG M，et al. Quantum-inspired immune clonal algorithm for global optimization[J]. IEEE Transactions on Systems， Man and Cybernetics， Part B： Cybernetics， 2008，38（5）：1234-1253.

[11] ZHOU C， QIAN F. Improvement of quantum genetic algorithm and its application[J]. Journal of Computer Applications， 2008，28（2）：286-288.（周傳華，錢峰.改進(jìn)量子遺傳算法及其應(yīng)用[J].計(jì)算機(jī)應(yīng)用， 2008，28（2）：286-288）

[12] ZHOU Q， JIANG S， ZHAO X， et al. Improved quantum genetic algorithm and its application in test data generation[J]. Journal of Computer Applications，2012，32（2）：557-560.（周綺，姜淑娟，趙雪峰，等.改進(jìn)的量子遺傳算法及其在測(cè)試數(shù)據(jù)生成中的應(yīng)用[J].計(jì)算機(jī)應(yīng)用，2012，32（2）：557-560.）

[13] QIAO J，LEE Y G， SCOTT D S， et al. Self-organizing radial basis function network for real-time approximation of continuous-time dynamical systems[J]. IEEE Transactions on Neural Networks，2008，19（3）：460-474.

[14] HAN H， QIAO J， BO Y， et al. On structure design for RBF neural network based on information strength[J]. Acta Automatica Sinica， 2012，38（7）：1083-1090.（韓紅桂，喬俊飛，薄迎春，等.基于信息強(qiáng)度的RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)研究[J].自動(dòng)化學(xué)報(bào)， 2012，38（7）：1083-1090.）

[15] ZHAO L. Fuzzy identification and neural networks learning based on cooperative PSO algorithm[D]. Shanghai： Shanghai Jiao Tong University，2008.（趙亮.基于協(xié)同PSO算法的模糊辨識(shí)與神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)[D].上海：上海交通大學(xué)，2008.）

第4篇：神經(jīng)網(wǎng)絡(luò)的魯棒性范文

關(guān)鍵詞：電力系統(tǒng)；人工智能；模糊控制；神經(jīng)網(wǎng)絡(luò)

引言

伴隨著社會(huì)的不斷進(jìn)步，用戶對(duì)電能的要求也在不斷提高:安全、可靠、優(yōu)質(zhì)、環(huán)保。電力系統(tǒng)在實(shí)際工作中也確實(shí)存在一些技術(shù)難題：首先，電力系統(tǒng)是一種復(fù)雜大系統(tǒng)，系統(tǒng)參數(shù)包含著諸多的不確定因素，并且具有很強(qiáng)的非線性；其次，電力系統(tǒng)應(yīng)當(dāng)具有較強(qiáng)的魯棒性能，以克服系統(tǒng)中的擾動(dòng)，而且系統(tǒng)對(duì)多目標(biāo)尋優(yōu)的控制方法要求也較高；最后，復(fù)雜系統(tǒng)是由多個(gè)子系統(tǒng)相互影響、關(guān)聯(lián)組成，電力系統(tǒng)需要將多個(gè)局部的控制系統(tǒng)相互連接，綜合控制。因此，這一系列尖端的技術(shù)難題需要應(yīng)用更為先進(jìn)的自動(dòng)化控制技術(shù)即智能控制技術(shù)。

1智能控制技術(shù)

控制理論的不斷發(fā)展，為人類帶來(lái)了更加先進(jìn)的自動(dòng)化技術(shù)，使得人們?cè)O(shè)計(jì)的控制系統(tǒng)穩(wěn)定、可靠、智能、高效。典型的智能控制技術(shù)包括：模糊控制、人工神經(jīng)網(wǎng)絡(luò)、專家系統(tǒng)、遺傳算法等。

1.1模糊控制。模糊控制是基于模糊數(shù)學(xué)理論的一種控制方法。傳統(tǒng)的控制理論能夠解決模型明朗、確定的系統(tǒng)的控制問(wèn)題。但當(dāng)面對(duì)類似于電力系統(tǒng)的復(fù)雜、模型不確定、因素多的大系統(tǒng)傳統(tǒng)的控制方法就無(wú)法高效地解決控制問(wèn)題。為了克服上述問(wèn)題，科研人員提出了用模糊數(shù)學(xué)的理論來(lái)解決一些復(fù)雜系統(tǒng)的控制問(wèn)題。模糊控制是一種非線性的控制理論。它采用的是理論與實(shí)際相結(jié)合的方法解決實(shí)際的問(wèn)題。一般模糊控制技術(shù)包含如下幾個(gè)部分：定義變量、模糊化、知識(shí)庫(kù)、邏輯判斷及反模糊化。而其中的邏輯判斷部分運(yùn)用模糊邏輯、模糊推論方法進(jìn)行分析，得到最優(yōu)的模糊控制輸出。

1.2人工神經(jīng)網(wǎng)絡(luò)。人工神經(jīng)網(wǎng)絡(luò)（ArtificialNeuralNetworks，簡(jiǎn)寫為ANNs）也簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)（NNs），此類數(shù)學(xué)模型模仿動(dòng)物神經(jīng)網(wǎng)絡(luò)的組成，進(jìn)行分布式信息處理。通過(guò)調(diào)整系統(tǒng)內(nèi)部的各個(gè)節(jié)點(diǎn)之間的聯(lián)系，最終達(dá)到控制系統(tǒng)的目的。強(qiáng)魯棒性、非線性特性、自組織自學(xué)習(xí)的能力和并行處理能力是人工神經(jīng)網(wǎng)絡(luò)基本特性，受到了人們的普遍關(guān)注。人工神經(jīng)網(wǎng)絡(luò)在工作前先對(duì)控制準(zhǔn)則學(xué)習(xí)，減少系統(tǒng)工作過(guò)程中發(fā)生錯(cuò)誤動(dòng)作的概率。控制的準(zhǔn)確性可以經(jīng)過(guò)學(xué)習(xí)之后逐漸完善，提高系統(tǒng)正確動(dòng)作的權(quán)值。

1.3專家系統(tǒng)。專家系統(tǒng)實(shí)際上是一個(gè)包含著某個(gè)專業(yè)領(lǐng)域內(nèi)的大量人類專家知識(shí)的一種智能計(jì)算機(jī)程序系統(tǒng)。該系統(tǒng)通過(guò)程序模擬人類專家應(yīng)用其豐富的知識(shí)經(jīng)驗(yàn)進(jìn)行分析、解決問(wèn)題的過(guò)程，最終解決復(fù)雜的控制系統(tǒng)的問(wèn)題。專家系統(tǒng)中的知識(shí)庫(kù)是反映系統(tǒng)性能的主要部分，系統(tǒng)在解決問(wèn)題時(shí)是通過(guò)模擬專家的思維來(lái)實(shí)現(xiàn)的。用戶在使用過(guò)程中可以通過(guò)不斷完善專家?guī)靵?lái)提高專家系統(tǒng)的性能。專家系統(tǒng)通過(guò)反復(fù)比對(duì)系統(tǒng)的輸入信息，與專家系統(tǒng)中的知識(shí)庫(kù)的規(guī)則進(jìn)行匹配，最終找到能使數(shù)據(jù)庫(kù)的內(nèi)容與實(shí)際的目標(biāo)的規(guī)則。在改善動(dòng)態(tài)品質(zhì)和提高遠(yuǎn)距離輸電線路能力的問(wèn)題上，盧強(qiáng)等人提出了利用最優(yōu)勵(lì)磁控制手段，研究成果指出：利用最優(yōu)勵(lì)磁控制方式，可以使大型機(jī)組取代古典勵(lì)磁方式。

2智能控制技術(shù)在電力系統(tǒng)的應(yīng)用

2.1模糊控制技術(shù)在繼電保護(hù)領(lǐng)域的應(yīng)用。電力系統(tǒng)中的繼電保護(hù)裝置具有這重要的意義，繼電保護(hù)裝置的可靠工作能使電力系統(tǒng)穩(wěn)定、可靠、安全的運(yùn)行。對(duì)繼電保護(hù)裝置的故障識(shí)別與診斷越來(lái)越嚴(yán)苛，電力系統(tǒng)中龐大復(fù)雜的故障現(xiàn)象，普通的識(shí)別系統(tǒng)無(wú)法準(zhǔn)確及時(shí)地解決問(wèn)題。因此，采用先進(jìn)的人工智能技術(shù)進(jìn)行電力系統(tǒng)的繼電保護(hù)裝置的故障識(shí)別與診斷的工作更加迫切。應(yīng)用模糊控制技術(shù)監(jiān)視電力系統(tǒng)中變壓器的工作狀態(tài)，根據(jù)變壓器的參數(shù)的變化，結(jié)合已知的輸入輸出，利用模糊控制技術(shù)進(jìn)行變壓器的故障診斷。利用最小二乘法的原理將變壓器的一些參數(shù)，例如電介質(zhì)的損耗、泄漏電流、絕緣電阻、變壓器的吸收比等參數(shù)作為模糊控制的輸入。將這些輸入?yún)?shù)通過(guò)一定的規(guī)則進(jìn)行量化，作為模糊輸入的矩陣，再將變壓器的狀態(tài)分為合格、不合格、故障等按照規(guī)則量化得到輸出的模糊矩陣。參考其他一些實(shí)際經(jīng)驗(yàn)中的數(shù)據(jù)作為擴(kuò)展出來(lái)的輸入輸出矩陣，應(yīng)用最小二乘法的迭代運(yùn)算得到輸入與輸出的關(guān)系矩陣。應(yīng)用得出的輸入輸出的關(guān)系矩陣就可以對(duì)一些變壓器的試驗(yàn)信息進(jìn)行分析，診斷。

2.2神經(jīng)網(wǎng)絡(luò)在電力系統(tǒng)故障診斷中的應(yīng)用。在電力系統(tǒng)故障診斷的過(guò)程中，神經(jīng)網(wǎng)絡(luò)將系統(tǒng)的故障報(bào)警信息作為神經(jīng)網(wǎng)絡(luò)的輸入量。神經(jīng)網(wǎng)絡(luò)的輸出是電力系統(tǒng)故障診斷的結(jié)論。應(yīng)先讓神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)，對(duì)其輸入特定的故障報(bào)警，建立一個(gè)全面的故障報(bào)警樣本庫(kù)。通過(guò)樣本庫(kù)不斷對(duì)神經(jīng)網(wǎng)絡(luò)系統(tǒng)進(jìn)行訓(xùn)練，使得系統(tǒng)對(duì)不同的故障報(bào)警輸入產(chǎn)生相應(yīng)的權(quán)重，最終能夠輸出準(zhǔn)確的故障診斷的結(jié)果。神經(jīng)網(wǎng)絡(luò)故障診斷技術(shù)不僅可以應(yīng)用在電網(wǎng)的故障診斷方面，還可以用于電力設(shè)備的故障診斷、電力系統(tǒng)中的變壓器的故障診斷等。神經(jīng)網(wǎng)絡(luò)的算法多種多樣較為常用的有BP神經(jīng)網(wǎng)絡(luò)算法，迭代步長(zhǎng)算法，以及變步長(zhǎng)法等。在輻射型配電系統(tǒng)中采用BP神經(jīng)網(wǎng)絡(luò)，用ANN模擬各個(gè)地區(qū)不同電弧電阻下的故障情況，測(cè)量阻抗量應(yīng)用BP神經(jīng)網(wǎng)絡(luò)判斷電力系統(tǒng)出現(xiàn)的問(wèn)題。該方法能夠有效解決由于電弧引起的測(cè)量阻抗不準(zhǔn)確，導(dǎo)致保護(hù)系統(tǒng)不能正常工作的問(wèn)題。專家系統(tǒng)在電力變壓器其的故障診斷的應(yīng)用電力系統(tǒng)中已經(jīng)有多個(gè)部分在控制過(guò)程中建立出了數(shù)學(xué)模型，但是依然存在一些復(fù)雜的、規(guī)律性不明顯的系統(tǒng)無(wú)法抽象出具體的數(shù)學(xué)模型。這就需要專家系統(tǒng)解決相應(yīng)的問(wèn)題。專家控制系統(tǒng)在電力系統(tǒng)中多用于分辨系統(tǒng)的故障報(bào)警的狀態(tài)，進(jìn)行分析，提出故障的應(yīng)急解決方案以及系統(tǒng)的恢復(fù)控制方案。專家系統(tǒng)中的知識(shí)庫(kù)用于提供解決問(wèn)題的知識(shí)，應(yīng)用推理機(jī)使用該專家的知識(shí)庫(kù)。知識(shí)庫(kù)可以根據(jù)變壓器的不同故障分為多個(gè)子系統(tǒng)，例如油位、負(fù)荷、溫度等。推理機(jī)調(diào)用程序根據(jù)當(dāng)前的狀態(tài)，按照規(guī)定的規(guī)則調(diào)用系統(tǒng)的特定知識(shí)。推理機(jī)調(diào)用知識(shí)庫(kù)中的數(shù)據(jù)時(shí)可以采用正向推理、反向推理、混合推理。經(jīng)過(guò)反復(fù)的匹配直到找出故障的原因，故障原因可能是多個(gè)，將找出的多個(gè)原因組合為一個(gè)相互關(guān)聯(lián)的矩陣。最終實(shí)現(xiàn)了經(jīng)過(guò)專家系統(tǒng)做出的故障診斷分析。

3總結(jié)

人工智能技術(shù)是一項(xiàng)新穎先進(jìn)的技術(shù)。在電力系統(tǒng)中應(yīng)用人工智能技術(shù)是電力自動(dòng)化發(fā)展的必然趨勢(shì)。針對(duì)類似于電力系統(tǒng)的具有非線性、多參數(shù)、不確定因素多的復(fù)雜大系統(tǒng)，人工智能技術(shù)擁有更加優(yōu)越的控制性能。模糊控制、神經(jīng)網(wǎng)絡(luò)、專家系統(tǒng)等控制理論已經(jīng)漸漸的成熟，在生產(chǎn)生活的多個(gè)方面已經(jīng)有了越來(lái)越多的應(yīng)用。經(jīng)過(guò)人工智能技術(shù)的不斷完善，電力系統(tǒng)自動(dòng)化的不斷深入，人工智能對(duì)電力系統(tǒng)的控制會(huì)使電力系統(tǒng)運(yùn)行更穩(wěn)定、更經(jīng)濟(jì)，魯棒性能更優(yōu)越。

參考文獻(xiàn)

[1]朱亮亮,王艷.基于人工智能的電力系統(tǒng)自動(dòng)化控制[J].科技致富向?qū)?2014,09:300.

[2]丘智蔚.基于人工智能的方法對(duì)智能電網(wǎng)進(jìn)行安全改進(jìn)[D].華南理工大學(xué),2014.

[3]馮宗英.配電網(wǎng)狀態(tài)估計(jì)及量測(cè)系統(tǒng)的魯棒性配置研究[D].山東大學(xué),2014.

第5篇：神經(jīng)網(wǎng)絡(luò)的魯棒性范文

Abstract: This paper put forward the scheme of adaptive control performance based on recursive type of wavelet neural network. This algorithm reduces computation, simplifies the control structure, and can control the structural parameters of system as the operation change of servo drive system to improve the performance of servo drive system to the parameters, while also better to improve the steady state performance of the servo drive control system. The simulation results verify the effectiveness and feasibility of the control system plan.

關(guān)鍵詞:感應(yīng)電動(dòng)機(jī);伺服驅(qū)動(dòng)系統(tǒng);自適應(yīng)控制;遞歸型小波神經(jīng)網(wǎng)絡(luò)

Key words: induction motor;servo drive system;adaptive control;recursive type of wavelet neural network

中圖分類號(hào):TM3 文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1006-4311(2010)28-0121-01

0引言

電動(dòng)機(jī)的內(nèi)部參數(shù)具有慢時(shí)變特性,驅(qū)動(dòng)系統(tǒng)易受到外界擾動(dòng),尤其是直線電動(dòng)機(jī)驅(qū)動(dòng)系統(tǒng),電動(dòng)機(jī)轉(zhuǎn)子與負(fù)載之間沒(méi)有輔助的緩沖裝置,外界的干擾影響大,所以在實(shí)際應(yīng)用中,須采用具有較強(qiáng)魯棒性的控制方法。針對(duì)參數(shù)變化特點(diǎn)及不確定的擾動(dòng)性,為了保證系統(tǒng)的魯棒特性,采用滑模的變結(jié)構(gòu)控制在電力傳動(dòng)領(lǐng)域受到了廣泛的應(yīng)用。系統(tǒng)一旦進(jìn)入滑模運(yùn)動(dòng)狀態(tài),對(duì)系統(tǒng)干擾和參數(shù)變化具有完全的自適應(yīng)性及不敏感性。這種新興技術(shù)具有廣闊的應(yīng)用場(chǎng)所,但切換控制作用產(chǎn)生的抖振問(wèn)題還沒(méi)有得到解決,這樣必然會(huì)影響軌跡的跟蹤精度,因而給實(shí)際應(yīng)用帶來(lái)一定問(wèn)題。針對(duì)電動(dòng)機(jī)模型參數(shù)變化和外界的擾動(dòng)對(duì)控制系統(tǒng)的特點(diǎn),在電機(jī)矢量控制的基礎(chǔ)上,提出了基于遞歸型小波神經(jīng)網(wǎng)絡(luò)的自適應(yīng)控制方法。

神經(jīng)網(wǎng)絡(luò)具有在任意精度的逼近復(fù)雜函數(shù)的能力和信息綜合能力等諸多的優(yōu)點(diǎn),在很多領(lǐng)域得到了廣泛的應(yīng)用。神經(jīng)網(wǎng)絡(luò)本身就具有自適應(yīng)和在線學(xué)習(xí)能力,在解決要求很高的非線性和不確定性問(wèn)題方面就有巨大的潛力,所以在伺服驅(qū)動(dòng)領(lǐng)域也受到了很大的關(guān)注。在信號(hào)處理和分析過(guò)程中,小波理論受到了各個(gè)領(lǐng)域的專家和學(xué)者廣泛的關(guān)注研究。小波理論運(yùn)用到神經(jīng)網(wǎng)絡(luò),充分發(fā)揮各自的優(yōu)點(diǎn),進(jìn)而構(gòu)成了小波神經(jīng)網(wǎng)絡(luò),這樣必然會(huì)給神經(jīng)網(wǎng)絡(luò)帶來(lái)新的生命力。神經(jīng)網(wǎng)絡(luò)根據(jù)結(jié)構(gòu)可以分為兩大類:前饋型網(wǎng)絡(luò)和遞歸型神經(jīng)網(wǎng)絡(luò)。在感應(yīng)電動(dòng)機(jī)實(shí)際應(yīng)用中遇到的各種擾動(dòng)有:內(nèi)部參數(shù)的擾動(dòng)、外部負(fù)載的干擾與各種不確定的波動(dòng),運(yùn)用遞歸型小波神經(jīng)網(wǎng)絡(luò)就表現(xiàn)出良好的控制性能。

1基于遞歸型小波神經(jīng)網(wǎng)絡(luò)的自適應(yīng)控制系統(tǒng)

伺服糸統(tǒng)是一種用機(jī)械位置或角度作為控制對(duì)象的自動(dòng)控制系統(tǒng)。交流伺服系統(tǒng)具有良好的性價(jià)比得到了廣泛地應(yīng)用,如需要精確定位的工業(yè)裝備、生產(chǎn)線、木材加工、紡織和印刷等行業(yè)早已經(jīng)成為交流伺服系統(tǒng)的主要應(yīng)用領(lǐng)域。因此在感應(yīng)電動(dòng)機(jī)的轉(zhuǎn)矩與磁鏈解耦的基礎(chǔ)上提出了具有動(dòng)態(tài)性能的神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制方案。本文就是在轉(zhuǎn)矩與磁鏈控制的基礎(chǔ)上,提出的采用神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制器的伺服驅(qū)動(dòng)系統(tǒng)。

在沒(méi)有擾動(dòng)的情況下,運(yùn)用以前的位置速度控制器,就可以得到滿意效果,但是在實(shí)際應(yīng)用中會(huì)遇到不同的擾動(dòng),這中傳統(tǒng)的控制方案就不能得到滿意的控制效果。為了解決這個(gè)問(wèn)題,運(yùn)用遞歸型小波神經(jīng)網(wǎng)絡(luò)控制代替位置速度控制。R為期望運(yùn)行指令;θn為期望的位置;vn為速度軌跡。小波神經(jīng)網(wǎng)絡(luò)參數(shù)訓(xùn)練采用δ和BP算法的學(xué)習(xí)機(jī)制,能量函數(shù)定義如為:

e=r-yJ=e (1)

由于各種反向傳播算法的影響,每層的權(quán)值調(diào)整律用下式來(lái)描述被反向傳播的誤差項(xiàng)

δ=-=-=- (2)

?駐w(N)=-?濁=-(?濁)()

=?濁?啄()(3)

則輸出層權(quán)值調(diào)整迭代方程為

w(N+1)=w(N)+?駐w(N)(4)

2仿真結(jié)果

系統(tǒng)的參數(shù)可以通過(guò)輸入與輸出的數(shù)據(jù),采用最小二乘法等系統(tǒng)辨識(shí)工具估計(jì)出來(lái)。為了說(shuō)明控制方案的可行性,仿真模型參數(shù)的選取如下:Kt=0.5N•m/A

提出的遞歸型小波神經(jīng)網(wǎng)絡(luò)控制器作為異步電動(dòng)機(jī)伺服驅(qū)動(dòng)系統(tǒng)的位置速度控制器,為了說(shuō)明其優(yōu)越性,對(duì)整個(gè)伺服控制系統(tǒng)運(yùn)用MATLAB做了仿真研究,同時(shí)給出了這種控制器與傳統(tǒng)的PID控制器、前饋型的神經(jīng)網(wǎng)絡(luò)控制器仿真結(jié)果的比較分析。

設(shè)被控對(duì)象的近似數(shù)學(xué)模型為:

y(k)=,

所選的輸入信號(hào)為一時(shí)變信號(hào):

rin(k)=[0.4sin(2πt)+0.6sin(3πt)] /30

3結(jié)束語(yǔ)

在感應(yīng)電動(dòng)機(jī)矢量控制的基礎(chǔ)上,針對(duì)感應(yīng)電動(dòng)機(jī)伺服驅(qū)動(dòng)系統(tǒng),提出了用遞歸型小波神經(jīng)網(wǎng)絡(luò)控制器代替?zhèn)鹘y(tǒng)的位置速度PID控制器,其集成了小波與動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的各自優(yōu)點(diǎn),神經(jīng)網(wǎng)絡(luò)的收斂速度大大提高:參數(shù)的在線學(xué)習(xí)機(jī)制采用delta自適應(yīng)律并結(jié)合了BP算法和梯度下降法,學(xué)習(xí)算法簡(jiǎn)單,節(jié)省了大量的計(jì)算量;系統(tǒng)具有很強(qiáng)的自適應(yīng)學(xué)習(xí)能力,當(dāng)被控對(duì)象出現(xiàn)參數(shù)波動(dòng)時(shí),仍能保證跟蹤精度,對(duì)系統(tǒng)外部的負(fù)載擾動(dòng)具有很強(qiáng)的抑制能力。由該控制器組成的控制系統(tǒng)具有良好的魯棒性、良好的穩(wěn)定性、良好的動(dòng)靜態(tài)特性等,仿真結(jié)果驗(yàn)證了其有效性。這些優(yōu)點(diǎn)對(duì)于內(nèi)部參數(shù)變化、非線性耦合及外部擾動(dòng)大的交流伺服驅(qū)動(dòng)系統(tǒng)是一種有效的控制策略。提出的控制策略稍加改動(dòng)很容易推廣到其他的交流伺服驅(qū)動(dòng)系統(tǒng)中。

參考文獻(xiàn):

第6篇：神經(jīng)網(wǎng)絡(luò)的魯棒性范文

Abstract： The artificial neural network has a strong nonlinear mapping ability， has been applied to various fields such as pattern recognition， intelligent control， image processing and time series etc.， in this paper， the heuristic improvement of BP algorithm was proposed aimed at the deficiencies of BP algorithms， and a common type of improvement was introduced aimed at the main drawback of the genetic algorithm through analysis and research on genetic neural network model and its algorithm.

關(guān)鍵詞： BP算法；神經(jīng)網(wǎng)絡(luò)；遺傳算法；改進(jìn)

Key words： BP algorithm；neural network；genetic algorithm；improvement

中圖分類號(hào)：TP39 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1006-4311（2012）34-0209-02

1 BP神經(jīng)網(wǎng)絡(luò)

1.1 BP神經(jīng)網(wǎng)絡(luò)概述 在神經(jīng)網(wǎng)絡(luò)模式識(shí)別系統(tǒng)中，應(yīng)用最廣泛的要算是BP網(wǎng)絡(luò)，它是基于誤差反向傳播算法的一種具有非線性連續(xù)轉(zhuǎn)移函數(shù)的多層前饋網(wǎng)絡(luò)。由于多層前饋網(wǎng)絡(luò)的訓(xùn)練經(jīng)常采用誤差反向傳播算法，人們常把多層前饋網(wǎng)絡(luò)直接稱為BP網(wǎng)絡(luò)。

BP算法可以小結(jié)為以下三個(gè)步驟：

①通過(guò)網(wǎng)絡(luò)輸入反向傳播：

a0=p

am+1=fm+1（Wm+1am+bm+1），m=0，1，…，M-1

a=aM

②通過(guò)網(wǎng)絡(luò)將敏感性反向傳播：

sm=Fm（nm）（Wm+1）Tsm+1，m=M-1，…，2，1

③使用近似均方誤差的BP算法更新權(quán)值和偏置值：

Wm（k+1）=Wm（k）-αsm（am-1）T

bm（k+1）=bm（k）-αsm

1.2 BP神經(jīng)網(wǎng)絡(luò)存在的問(wèn)題 盡管BP網(wǎng)絡(luò)有很多顯著的優(yōu)點(diǎn)，但也存在著一定的局限性。其主要問(wèn)題如下：

①隨著訓(xùn)練樣本維數(shù)的增大，使收斂速度緩慢，從而降低學(xué)習(xí)效率。

②從數(shù)學(xué)角度上看BP算法是一種梯度最速下降法，這就可能出現(xiàn)局部極小值的問(wèn)題，而得不到全局最優(yōu)。

③網(wǎng)絡(luò)中隱節(jié)點(diǎn)個(gè)數(shù)的選取缺乏理論指導(dǎo)，尚無(wú)明確的定義。

由于BP神經(jīng)網(wǎng)絡(luò)存在局部性，因此利用BP網(wǎng)絡(luò)進(jìn)行模式識(shí)別時(shí)，所得網(wǎng)絡(luò)模型的參數(shù)容易陷入局部極小，因此需要對(duì)BP神經(jīng)網(wǎng)絡(luò)容易陷入局部極小的缺陷進(jìn)行改進(jìn)。

2 遺傳算法

2.1 遺傳算法概述 遺傳算法（Genetic Algorithm——GA）正是以達(dá)爾文的自然進(jìn)化論與遺傳變異理論為基礎(chǔ)的求解復(fù)雜全局優(yōu)化問(wèn)題的仿生型算法。該算法摒棄了傳統(tǒng)的搜索方式，模擬自然界生物進(jìn)化的過(guò)程，采用人工進(jìn)化的方式對(duì)目標(biāo)函數(shù)空間進(jìn)行隨機(jī)導(dǎo)向優(yōu)化搜索。遺傳算法求解問(wèn)題的基本思想是：從問(wèn)題的解出發(fā)的，將問(wèn)題的一些可行解進(jìn)行編碼，這些已編碼的解即被當(dāng)做種群中的個(gè)體，每個(gè)個(gè)體實(shí)際上是染色體帶有特征的實(shí)體；個(gè)體對(duì)環(huán)境適應(yīng)能力的評(píng)價(jià)函數(shù)就是問(wèn)題的目標(biāo)函數(shù)；模擬遺傳學(xué)中的雜交、變異、復(fù)制來(lái)設(shè)計(jì)遺傳算子，用優(yōu)勝劣汰的自然選擇法則來(lái)指導(dǎo)學(xué)習(xí)和確定搜索方向；對(duì)由個(gè)體組成的中卻進(jìn)行演化，利用遺傳算子來(lái)產(chǎn)生具有更高平均適應(yīng)值和更好個(gè)體的種群，經(jīng)過(guò)若干代后，選出適應(yīng)能力最好的個(gè)體，它就是問(wèn)題的最優(yōu)解或滿意解[1]。

2.2 遺傳算法的缺陷及改進(jìn) 遺傳算法作為一種通用性好、魯棒性強(qiáng)的新型優(yōu)化搜索算法，為求解很多困難的問(wèn)題打開了局面，但是在實(shí)際應(yīng)用中，存在著：①早熟問(wèn)題；②局部搜索能力差；③控制參數(shù)難以確定缺陷。

針對(duì)上述問(wèn)題，目前已經(jīng)提出的一些改進(jìn)方法，概括起來(lái)主要有如下幾種類型：

①改進(jìn)遺傳算法的使用技術(shù)或者組成成分，如選用適合問(wèn)題特性的編碼技術(shù)、優(yōu)化控制參數(shù)等。

②采用混合遺傳算法，即融合一些優(yōu)化方法來(lái)提高遺傳算法運(yùn)行效率。如將遺傳算法和模擬退火算法、爬山法等方法結(jié)合的混合遺傳算法。

③采用非標(biāo)準(zhǔn)的遺傳操作算子，如記憶算子、頂端增強(qiáng)算子等。

④采用動(dòng)態(tài)自適應(yīng)技術(shù)，在遺傳過(guò)程中自適應(yīng)的調(diào)整控制參數(shù)和編碼精度，在保持種群多樣性的同時(shí)保證遺傳算法的收斂。

⑤采用并行遺傳算法。

3 BP算法與遺傳算法的結(jié)合

BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)是基于梯度下降法的，由于該算法搜索速度緩慢以及對(duì)初始值的依賴，導(dǎo)致存在局部最小值問(wèn)題。而遺傳算法作為一種具有較強(qiáng)全局搜索能力的算法，其搜索能夠遍及整個(gè)尋優(yōu)空間，因此容易接近全局最優(yōu)解；且遺傳算法有很強(qiáng)的魯棒性，不要求目標(biāo)函數(shù)連續(xù)可微，甚至不要求目標(biāo)函數(shù)具有顯函數(shù)形式，只要求問(wèn)題可以計(jì)算[2]。因此將擅長(zhǎng)全局搜索的遺傳算法和具有很強(qiáng)局部尋優(yōu)能力的BP算法結(jié)合起來(lái)，可以避免局部極小值問(wèn)題并提高收斂速度，很快獲得全局最優(yōu)解。本文利用改進(jìn)的遺傳算法對(duì)BP神經(jīng)網(wǎng)絡(luò)同時(shí)進(jìn)行權(quán)值和閾值的同步學(xué)習(xí)優(yōu)化，提高算法的收斂速度和收斂精度，構(gòu)造了一個(gè)能夠獲得待求問(wèn)題滿意解的三層GA-BP神經(jīng)網(wǎng)絡(luò)。

3.1 GA-BP神經(jīng)網(wǎng)絡(luò)的模型 GA-BP神經(jīng)網(wǎng)絡(luò)的基本構(gòu)造思想就是先通過(guò)遺傳算法在解空間中搜索到一個(gè)較優(yōu)的網(wǎng)絡(luò)形式，再利用BP算法在這個(gè)較優(yōu)的解空間內(nèi)定位最優(yōu)解或滿意解[3]；具體地說(shuō)就是先通過(guò)遺傳算法對(duì)最佳的網(wǎng)絡(luò)權(quán)值和閾值做快速的全局性搜索，當(dāng)群體收斂至全局最優(yōu)解附近區(qū)域時(shí)，以群體中的最優(yōu)個(gè)體作為BP算法的初始點(diǎn)，利用BP算法進(jìn)行進(jìn)一步的局部搜索，同步學(xué)習(xí)網(wǎng)絡(luò)的權(quán)值和閾值。當(dāng)幾代內(nèi)遺傳算法進(jìn)化的目標(biāo)函數(shù)不再減小或目標(biāo)函數(shù)小于預(yù)設(shè)值時(shí)，表示兩種算法需要進(jìn)行切換。由于在實(shí)際應(yīng)用中，求得的網(wǎng)絡(luò)目標(biāo)誤差函數(shù)往往為人們預(yù)先設(shè)定的一個(gè)滿意值，因此利用這種GA-BP順序?qū)?yōu)的方法是切實(shí)可行的。

3.2 BP算法與GA-BP算法的仿真比較 利用傳統(tǒng)的BP算法及本文提出的GA-BP算法分別對(duì)兩種算法的時(shí)間收斂曲線進(jìn)行對(duì)比研究，考慮故障診斷問(wèn)題。應(yīng)用樣本訓(xùn)練后的節(jié)點(diǎn)連接權(quán)值，向網(wǎng)絡(luò)輸入待診斷的樣本征兆參數(shù)，計(jì)算得出網(wǎng)絡(luò)的實(shí)際輸出值，根據(jù)輸出值的大小，從而確定故障的類別。

BP算法與GA-BP算法的訓(xùn)練誤差曲線如圖1和圖2所示。

GA-BP算法訓(xùn)練后的總誤差為0.000417。通過(guò)兩個(gè)實(shí)驗(yàn)時(shí)間訓(xùn)練曲線可以得出，基于GA-BP算法的神經(jīng)網(wǎng)絡(luò)能夠有效地實(shí)現(xiàn)故障預(yù)測(cè)數(shù)據(jù)的訓(xùn)練，具有較快的學(xué)習(xí)速度及一定適用性。

4 總結(jié)

本文針對(duì)BP算法訓(xùn)練多層前饋網(wǎng)絡(luò)模式識(shí)別系統(tǒng)的缺陷，提出了結(jié)合遺傳算法的BP改進(jìn)算法——GA-BP算法，并建立了對(duì)應(yīng)的模式識(shí)別系統(tǒng)模型。然后利用該模型對(duì)實(shí)際的問(wèn)題進(jìn)行了模式分類訓(xùn)練和測(cè)試，測(cè)試結(jié)果表明GA-BP算法有效克服了網(wǎng)絡(luò)訓(xùn)練時(shí)容易陷入局部極小值，導(dǎo)致網(wǎng)絡(luò)訓(xùn)練失敗的不足。

參考文獻(xiàn)：

[1]楊南達(dá)，李世平.遺傳算法研究[J].兵工自動(dòng)化，2008，27（9）：60～62.

第7篇：神經(jīng)網(wǎng)絡(luò)的魯棒性范文

【關(guān)鍵詞】智能技術(shù)；電力系統(tǒng)自動(dòng)化；應(yīng)用

當(dāng)前，常見的幾種智能技術(shù)，在電力系統(tǒng)自動(dòng)化控制中的引入運(yùn)用，解決了傳統(tǒng)方法難以解決的復(fù)雜系統(tǒng)的控制問(wèn)題，從而有效提高電力系統(tǒng)自動(dòng)化控制的適應(yīng)性，降低控制系統(tǒng)的造價(jià)成本。

1.電力系統(tǒng)自動(dòng)化的簡(jiǎn)述

為確保電力系統(tǒng)安全、平穩(wěn)、經(jīng)濟(jì)運(yùn)行，對(duì)電力系統(tǒng)的各個(gè)元件、局部、全系統(tǒng)，采用具有自動(dòng)檢測(cè)、決策和控制功能的裝置，通過(guò)信號(hào)和數(shù)據(jù)傳輸?shù)南到y(tǒng)，就地或遠(yuǎn)距離進(jìn)行自動(dòng)監(jiān)視、調(diào)節(jié)和控制等，從而達(dá)到合格的電能質(zhì)量。在一般的情況下，電力自動(dòng)化系統(tǒng)主要構(gòu)成有調(diào)度自動(dòng)化、變電站自動(dòng)化和配電網(wǎng)自動(dòng)化。

2.電力系統(tǒng)自動(dòng)化中的智能技術(shù)

智能技術(shù)是具備學(xué)習(xí)、適應(yīng)及組織功能的行為，能夠?qū)τ趩?wèn)題產(chǎn)生合適求解問(wèn)題的響應(yīng)，解決傳統(tǒng)魯棒性控制和自適應(yīng)控制無(wú)法解決出令人滿意結(jié)果的，非線性、時(shí)變性和不確定性的控制問(wèn)題。目前，智能技術(shù)尚處于發(fā)展階段，但它已受到人們的普遍重視，廣泛應(yīng)用到電力系統(tǒng)各個(gè)領(lǐng)域中，并取得了一定的實(shí)效。

2.1專家系統(tǒng)的控制技術(shù)

專家系統(tǒng)在電力系統(tǒng)中的應(yīng)用范圍很廣，它是一種基于知識(shí)的系統(tǒng)，用于智能協(xié)調(diào)、組織和決策，激勵(lì)相應(yīng)的基本級(jí)控制器完成控制規(guī)律的實(shí)現(xiàn)。主要針對(duì)各種非結(jié)構(gòu)化問(wèn)題，處理定性的、啟發(fā)式或不確定的知識(shí)信息。如：電力系統(tǒng)恢復(fù)控制、故障點(diǎn)的隔離、調(diào)度員培訓(xùn)、處于警告或緊急狀態(tài)的辨識(shí)、配電系統(tǒng)自動(dòng)化等。以智能的方式求得受控系統(tǒng)盡可能地優(yōu)化和實(shí)用化，并經(jīng)過(guò)各種推理過(guò)程達(dá)到系統(tǒng)的任務(wù)目標(biāo)。雖然取得到廣泛應(yīng)用，但存在如難以模仿電力專家的創(chuàng)造性等局限性。一般而言，專家控制系統(tǒng)應(yīng)用比較大的原因還因?yàn)檫@種方法可適用范圍廣，而且能夠?yàn)殡娏ο到y(tǒng)處于各種狀態(tài)提出辨識(shí)，根據(jù)這種具體情況來(lái)給出警告或是提示，在這樣的情況還能夠進(jìn)行控制和恢復(fù)。雖然專家系統(tǒng)得到一定的應(yīng)用，但是還是存在一定的局限，這種局限包括對(duì)于創(chuàng)造性的難以模仿，而只是對(duì)于淺層知識(shí)的應(yīng)用，缺乏很有效的深層的模仿和方針，對(duì)于復(fù)雜的模擬就難以適應(yīng)。因此，在開發(fā)專家系統(tǒng)方面應(yīng)注意專家系統(tǒng)的代價(jià)/效益分析方法問(wèn)題，專家系統(tǒng)軟件的有效性和試驗(yàn)問(wèn)題，知識(shí)獲取問(wèn)題，專家系統(tǒng)與其他常規(guī)計(jì)算工具相結(jié)合等問(wèn)題。

2.2模糊邏輯的控制技術(shù)

模糊方法是一種對(duì)系統(tǒng)宏觀的控制，十分簡(jiǎn)單且易于掌握，為隨機(jī)、非線性和不確定性系統(tǒng)的控制，提供了良好的途徑。將人的操作經(jīng)驗(yàn)用模糊關(guān)系來(lái)表示，通過(guò)模糊推理和決策方法，來(lái)對(duì)復(fù)雜過(guò)程對(duì)象進(jìn)行有效控制。通常用“如果…，則…”的方式來(lái)表達(dá)在實(shí)際控制中的專家知識(shí)和經(jīng)驗(yàn)，不依賴被控對(duì)象模型、魯棒性較強(qiáng)的。模糊控制技術(shù)的應(yīng)用非常廣泛，與常規(guī)控制相比，模糊控制技術(shù)在提高模糊控制的控制品質(zhì)，如：穩(wěn)態(tài)誤差、超調(diào)等問(wèn)題，自身的學(xué)習(xí)能力還不完善，要求系統(tǒng)具有完備的知識(shí)，這對(duì)工業(yè)智能系統(tǒng)的設(shè)計(jì)是困難的。如模糊變結(jié)構(gòu)控制，自適應(yīng)或自組織模糊控制，自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制，神經(jīng)網(wǎng)絡(luò)變結(jié)構(gòu)控制等。另一方面包含了各種智能控制方法之間的交叉結(jié)合，對(duì)電力系統(tǒng)這樣一個(gè)復(fù)雜的大系統(tǒng)來(lái)講，綜合智能控制更有巨大的應(yīng)用潛力?，F(xiàn)在，在電力系統(tǒng)中研究得較多的有神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)的結(jié)合，專家系統(tǒng)與模糊控制的結(jié)合，神經(jīng)網(wǎng)絡(luò)與模糊控制的結(jié)合，神經(jīng)網(wǎng)絡(luò)、模糊控制與自適應(yīng)控制的結(jié)合等方面。這些模糊方法的運(yùn)用因其可使用范圍廣，目前已經(jīng)在自動(dòng)化控制中被廣泛應(yīng)用。

2.3神經(jīng)網(wǎng)絡(luò)的控制技術(shù)

神經(jīng)網(wǎng)絡(luò)是一種介于符號(hào)推理與數(shù)值計(jì)算之間，適合用作智能控制的數(shù)學(xué)工具。神經(jīng)網(wǎng)絡(luò)從m維空間到n維空間，復(fù)雜的非線性映射、學(xué)習(xí)能力為解決復(fù)雜的非線性系統(tǒng)控制問(wèn)題，提供了有效的途徑。在神經(jīng)網(wǎng)絡(luò)中，知識(shí)是通過(guò)學(xué)習(xí)例子分布存儲(chǔ)，當(dāng)個(gè)別處理單元損壞時(shí)，不會(huì)影響整個(gè)系統(tǒng)的正常工作，是對(duì)非線性系統(tǒng)具有最好的控制性能。目前，主要集中在神經(jīng)網(wǎng)絡(luò)模型、結(jié)構(gòu)、學(xué)習(xí)算法的研究，硬件的實(shí)現(xiàn)等。

2.4線性最優(yōu)控制技術(shù)

線性最優(yōu)控制技術(shù)是現(xiàn)代控制重要組成部分。目前，在大型機(jī)組方面，直接用最優(yōu)勵(lì)磁控制手段代替古典勵(lì)磁方式，不但提高了遠(yuǎn)距離輸電線路輸電能力，而且同時(shí)改善動(dòng)態(tài)的品質(zhì)。另外，在發(fā)電機(jī)制動(dòng)電阻的最優(yōu)時(shí)間控制方面，最優(yōu)控制技術(shù)也獲得了成功的應(yīng)用。它是諸多現(xiàn)代控制技術(shù)中應(yīng)用最多、最為成熟的一個(gè)分支。

2.5綜合智能控制技術(shù)

綜合智能控制重要的技術(shù)發(fā)展方向是智能集成化。一方面，可將多項(xiàng)智能技術(shù)相互結(jié)合于一體，不在單獨(dú)運(yùn)用，各取優(yōu)勢(shì)。如模糊技術(shù)和神經(jīng)網(wǎng)絡(luò)的結(jié)合，神經(jīng)網(wǎng)絡(luò)與模糊控制的結(jié)合，神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)的結(jié)合等，這些都在電力系統(tǒng)自動(dòng)化控制中研究的較多，如可用神經(jīng)網(wǎng)絡(luò)與模糊邏輯良好結(jié)合的技術(shù)基礎(chǔ)，去處理同一系統(tǒng)內(nèi)的問(wèn)題，神經(jīng)網(wǎng)絡(luò)處理非結(jié)構(gòu)化信息，模糊系統(tǒng)處理結(jié)構(gòu)化的知識(shí)等。另一方面，自動(dòng)化控制智能技術(shù)與傳統(tǒng)的自適應(yīng)控制的結(jié)合，如：神經(jīng)網(wǎng)絡(luò)、模糊控制與自適應(yīng)控制的結(jié)合等。目前，國(guó)內(nèi)已有控制專家已著手發(fā)展研究，既能有效處理模糊知識(shí)又能有效學(xué)習(xí)的模糊與神經(jīng)網(wǎng)絡(luò)集成技術(shù)，這必將為電力系統(tǒng)智能控制的發(fā)展提供新的途徑。

3.結(jié)束語(yǔ)

當(dāng)前，像電力系統(tǒng)這樣一類復(fù)雜的不確定性工業(yè)過(guò)程，對(duì)其有效控制，關(guān)鍵在于自動(dòng)化控制智能技術(shù)應(yīng)具有較強(qiáng)的知識(shí)處理能力，包含知識(shí)學(xué)習(xí)和利用，推理和決策等方面。在未來(lái)電力系統(tǒng)的發(fā)展進(jìn)程中，隨著計(jì)算機(jī)的廣泛應(yīng)用，控制技術(shù)的深入研究，自動(dòng)化控制智能技術(shù)將朝著全面智能化的方向發(fā)展。從而實(shí)現(xiàn)智能性工作環(huán)境，減少人員的值守，甚至于無(wú)人值班。同時(shí)，也有效的促進(jìn)與提高電力系統(tǒng)平穩(wěn)、安全和經(jīng)濟(jì)的運(yùn)行。

【參考文獻(xiàn)】

第8篇：神經(jīng)網(wǎng)絡(luò)的魯棒性范文

關(guān)鍵詞：進(jìn)化算法；人工智能；短期電力負(fù)荷預(yù)測(cè)；進(jìn)化算法

中圖分類號(hào)：TP181；TM727 文獻(xiàn)標(biāo)識(shí)碼：A

0 引言

電力負(fù)荷預(yù)測(cè)是指利用電力歷史負(fù)荷的特點(diǎn)和其它相關(guān)因素的影響，找尋電力負(fù)荷中自身存在的周期性的規(guī)律，并挖掘出出未來(lái)的發(fā)展趨勢(shì)，由此預(yù)測(cè)出未來(lái)某特定時(shí)刻的負(fù)荷數(shù)據(jù)[1]。短期負(fù)荷預(yù)測(cè)是指預(yù)測(cè)未來(lái)一月、未來(lái)一周、未來(lái)一天，甚至于未來(lái)一天24小時(shí)中任意時(shí)刻的負(fù)荷值。準(zhǔn)確的短期負(fù)荷預(yù)測(cè)是電力系統(tǒng)安全經(jīng)濟(jì)的調(diào)度、規(guī)劃的保證，是電力系統(tǒng)穩(wěn)定運(yùn)行的前提，是社會(huì)正常生產(chǎn)和人民安定生活的保障。

隨著全球不可再生資源的不斷減少及環(huán)境污染的日益增加，將風(fēng)能、太陽(yáng)能等新能源發(fā)電系統(tǒng)形成的分布式能源接入傳統(tǒng)電網(wǎng)中的新型電網(wǎng)――智能電網(wǎng)（smart grid）由此產(chǎn)生。智能電網(wǎng)將信息技術(shù)、通信技術(shù)、計(jì)算機(jī)技術(shù)以及各種輸、配電硬件設(shè)施集成為一整體，通過(guò)先進(jìn)的信息技術(shù)，實(shí)現(xiàn)配電網(wǎng)智能、彈性、自愈等功能[2]。

無(wú)論是國(guó)外還是國(guó)內(nèi)，配電自動(dòng)化都是智能電網(wǎng)的核心。配電自動(dòng)化實(shí)際上是實(shí)現(xiàn)配電設(shè)備正常運(yùn)行及事故狀態(tài)下監(jiān)測(cè)、保護(hù)、控制、用電和配電管理的現(xiàn)代化[3]。短期電力負(fù)荷預(yù)測(cè)則是實(shí)現(xiàn)配電管理、故障處理等問(wèn)題的前提。因此為了達(dá)到精確地配電自動(dòng)化，高精度的短期負(fù)荷預(yù)測(cè)必不可少。

1 問(wèn)題的分析及解決

智能電網(wǎng)的“互動(dòng)、自愈、安全、經(jīng)濟(jì)、清潔、節(jié)能、高效”等要求導(dǎo)致了短期電力負(fù)荷預(yù)測(cè)更為復(fù)雜[4]。不同的區(qū)域，不同的發(fā)電形式及用戶端的引入都導(dǎo)致了電網(wǎng)運(yùn)行環(huán)境的復(fù)雜性。環(huán)境一旦變化（比如事故，分布式電源的啟停），智能電網(wǎng)的短期負(fù)荷預(yù)測(cè)模型必須能自適應(yīng)這些變化，從而得到高逼近的預(yù)測(cè)值以輔助電網(wǎng)的調(diào)度、管理等操作，確保電力系統(tǒng)的正常運(yùn)作。因此，智能電網(wǎng)環(huán)境下的短期電力負(fù)荷預(yù)測(cè)應(yīng)具有高度自適應(yīng)性和智能性的特點(diǎn)。

另外，智能電網(wǎng)中AMI雖然為負(fù)荷預(yù)測(cè)提供了所需的數(shù)據(jù)，但在龐大的數(shù)據(jù)集成時(shí)，有可能引入不良數(shù)據(jù)的干擾，并且復(fù)雜的通信網(wǎng)絡(luò)（數(shù)據(jù)傳輸環(huán)節(jié)）也提高了數(shù)據(jù)的出錯(cuò)風(fēng)險(xiǎn)[5]。因而，智能電網(wǎng)的短期負(fù)荷預(yù)測(cè)中數(shù)據(jù)的預(yù)處理不可或缺。

針對(duì)智能電網(wǎng)短期電力負(fù)荷預(yù)測(cè)的異常數(shù)據(jù)較多、智能性較強(qiáng)和自適應(yīng)要求較高的特點(diǎn)，本文通過(guò)下面三個(gè)途徑進(jìn)行實(shí)現(xiàn)：（1）采用自動(dòng)的不良數(shù)據(jù)辨識(shí)方法，采用統(tǒng)計(jì)學(xué)的數(shù)學(xué)方法來(lái)剔除噪聲數(shù)據(jù)；（2）通過(guò)算法的比較，對(duì)人工智能算法進(jìn)行仿真比較，得到較優(yōu)的短期電力負(fù)荷的支持向量機(jī)預(yù)測(cè)基本模型；（3）對(duì)比優(yōu)化算法，采用進(jìn)化算法完成人工智能模型的參數(shù)的尋優(yōu)，形成算法的組合，提高模型的精度和自適應(yīng)性。

2 數(shù)據(jù)處理

輸入數(shù)據(jù)的處理為預(yù)測(cè)模型提供了干凈、準(zhǔn)確的數(shù)據(jù)，減少預(yù)測(cè)算法的處理量，提高預(yù)測(cè)效率和預(yù)測(cè)精度。本文按照以下步驟完成數(shù)據(jù)預(yù)處理：

步驟1：從數(shù)據(jù)庫(kù)中讀取短期電力負(fù)荷表；

步驟2：缺失值的處理。檢查待識(shí)別日的負(fù)荷數(shù)據(jù)數(shù)值是否為空值，若為空值，則定義缺失值為：

（1）

其中 表示第 天時(shí)刻的負(fù)荷值， 為相應(yīng)的權(quán)值，且 ，本文分別取 ；

步驟3：垂直方向異常數(shù)據(jù)識(shí)別。計(jì)算出8個(gè)同一季度、同一周期日型同一時(shí)刻點(diǎn) 的歷史負(fù)荷的均值 和方差

：

（2）

（3）

然后計(jì)算出每天 時(shí)刻數(shù)據(jù)的偏離率：

（4）

最后確定偏離率大于閾值的點(diǎn)為異常點(diǎn)。

步驟4：垂直處理。相鄰的周期類型一致的負(fù)荷數(shù)據(jù)的加權(quán)均值取代噪聲數(shù)據(jù)：

（5）

步驟：5：水平方向異常數(shù)據(jù)識(shí)別。將一天96點(diǎn)數(shù)據(jù)依次排列，按式（6）求出第一個(gè)序列 ：

（6）

然后按式（7）求出新一組序列：

（7）

從而形成負(fù)荷的估計(jì)序列為：

（8）

接著計(jì)算 對(duì) 的偏離率 ：

（9）

最后確定偏離率大于閾值的點(diǎn)為異常點(diǎn)。

步驟6：水平處理。利用估計(jì)序列的負(fù)荷值代替異常數(shù)據(jù)：

（10）

步驟7：歸一化處理，部分?jǐn)?shù)據(jù)顯示見表1；

步驟8：重建數(shù)據(jù)表，將處理后的負(fù)荷數(shù)據(jù)與其它所需輸入屬性放入其中；

步驟9：為保證訓(xùn)練數(shù)據(jù)的統(tǒng)一性，將數(shù)據(jù)表擴(kuò)充，得到輸入數(shù)據(jù)，以一組為例如表2。

3 人工智能預(yù)測(cè)算法

隨著智能電網(wǎng)的研究，電力系統(tǒng)規(guī)模日益增大，電力系統(tǒng)變化也越來(lái)越復(fù)雜。人工智能方法以計(jì)算機(jī)技術(shù)為基礎(chǔ)，具有很好的智能性。它不僅能夠?qū)崿F(xiàn)非線性曲線的高度擬合，而且可以體現(xiàn)出許多不確定因素的影響，這就保證了該方法對(duì)不確定變化的適應(yīng)性[6]。目前應(yīng)用最為廣泛和成熟的方法是人工神經(jīng)網(wǎng)絡(luò)[7]（artificial neural network，ANN）和支持向量機(jī)[8]（support vector machine，SVM）。鑒于人工智能算法的特點(diǎn)，本文以人工智能算法建立預(yù)測(cè)的基礎(chǔ)模型。

人工智能算法建立預(yù)測(cè)模型的過(guò)程類似于機(jī)器學(xué)習(xí)的過(guò)程。以訓(xùn)練樣本為人工智能模型的輸入，利用人工智能技術(shù)的學(xué)習(xí)算法實(shí)現(xiàn)模型參數(shù)的確定，由此得到人工智能預(yù)測(cè)模型，如圖1所示。

采用人工智能進(jìn)行短期負(fù)荷預(yù)測(cè)的算法為：

步驟1：確定訓(xùn)練樣本集；

步驟2：設(shè)定預(yù)測(cè)算法的初始參數(shù)值；

步驟3：利用預(yù)測(cè)算法中的訓(xùn)練過(guò)程訓(xùn)練預(yù)測(cè)算法的模型參數(shù)；

步驟4：輸入測(cè)試樣本，得到預(yù)測(cè)輸出值。

4 進(jìn)化算法

人工智能算法初始參數(shù)采用固定值難以收斂到全局最小且易受人為因素影響，所以單一的人工智能方法高度自適應(yīng)智能電網(wǎng)環(huán)境。

進(jìn)化算法EA（evolutionary algorithms）與傳統(tǒng)的優(yōu)化算法相比，是高魯棒性和廣泛適用性的全局優(yōu)化方法。算法具有自組織、自適應(yīng)、自學(xué)習(xí)的特性，能夠不受問(wèn)題性質(zhì)的限制，有效地處理傳統(tǒng)優(yōu)化算法難以解決的復(fù)雜問(wèn)題。常見的進(jìn)化算法有遺傳算法[9]（GA）和粒子群算法[10]（PSO）。近年來(lái)云進(jìn)化算法[11]（cloud based evolutionary algorithm，CBEA）稱為進(jìn)化算法中的熱點(diǎn)。本文以這三種算法分別優(yōu)化比較。圖2為進(jìn)化算法的算法流程。

采用進(jìn)化算法進(jìn)行參數(shù)優(yōu)化的步驟為：

步驟1：確定進(jìn)化算法的所需的初始參數(shù)值；

步驟2：隨機(jī)的產(chǎn)生初始進(jìn)化群；

步驟3：將初始進(jìn)化個(gè)體代入待優(yōu)化的模型中，采用交叉驗(yàn)證誤差的方式評(píng)價(jià)進(jìn)化個(gè)體的適應(yīng)度；

步驟4：按照進(jìn)化算法規(guī)則產(chǎn)生子代的進(jìn)化群；

步驟5：最優(yōu)進(jìn)化個(gè)體代入模型得到最優(yōu)模型；

步驟6：將測(cè)試樣本輸入代入最優(yōu)模型，求出待測(cè)點(diǎn)輸出；

步驟7： ；返回步驟1，滾動(dòng)預(yù)測(cè)出 ；

步驟8：輸出所有預(yù)測(cè)值。

5 模型的建立及仿真

智能電網(wǎng)的短期電力負(fù)荷預(yù)測(cè)模型首先由人工智能算法建立出基礎(chǔ)的預(yù)測(cè)模型，以歷史負(fù)荷和上一輪預(yù)測(cè)負(fù)荷與實(shí)際負(fù)荷的誤差，求出初始預(yù)測(cè)負(fù)荷 ，然后以 與 的交叉驗(yàn)證誤差的的函數(shù)作為進(jìn)化算法的適應(yīng)度，根據(jù)適應(yīng)度的大小選擇最優(yōu)的模型參數(shù) 和 ，代入人工智能算法得出最優(yōu)的預(yù)測(cè)模型，由此預(yù)測(cè)出未來(lái)負(fù)荷。該預(yù)測(cè)模型的結(jié)構(gòu)框圖見圖3。

本文通過(guò)實(shí)驗(yàn)仿真LSSVR、BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測(cè)模型，并對(duì)預(yù)測(cè)結(jié)果進(jìn)行比較以選擇出最適于智能電網(wǎng)的預(yù)測(cè)算法。其仿真結(jié)果如圖4所示。

Fig.4 Prediction results based on 3 kinds algorithms of AI

比較圖4，可以看出LSSVR比BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)曲線更貼近實(shí)際值。

本文將三種算法預(yù)測(cè)一個(gè)點(diǎn)的時(shí)間統(tǒng)計(jì)為表3，由此分辨模型的實(shí)時(shí)性。

由表3可知，由于LSSVR算法的參數(shù)較少，所以LSSVR的時(shí)效性遠(yuǎn)遠(yuǎn)高于BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)。另外因?yàn)楸疚脑贐P神經(jīng)網(wǎng)絡(luò)中多加了一個(gè)隱含層，相對(duì)的隱層單元數(shù)也增加了，使得時(shí)效性最差。

接著本文將BP神經(jīng)網(wǎng)絡(luò)、RBF神經(jīng)網(wǎng)絡(luò)和LSSVR的預(yù)測(cè)結(jié)果進(jìn)行統(tǒng)計(jì)，得到表4。通過(guò)表4評(píng)價(jià)模型的預(yù)測(cè)精度。

分析表4， LSSVR的預(yù)測(cè)結(jié)果的合格點(diǎn)百分比分別高于BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)9.85%和19.13%，所以LSSVR對(duì)該系統(tǒng)進(jìn)行負(fù)荷預(yù)測(cè)時(shí)，高度相符的數(shù)據(jù)最多，誤差的平均值就最小；而LSSVR在MSE上則比BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)分別低0.0769和0.1434，表明了預(yù)測(cè)誤差波動(dòng)較小，顯示了預(yù)測(cè)模型LSSVR較高的精度；另外，從準(zhǔn)確率上看，LSSVR比BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)分別高7.69%和14.34%，同樣說(shuō)明了LSSVR預(yù)測(cè)的精度最高。綜上，采用LSSVR進(jìn)行短期負(fù)荷預(yù)測(cè)的效果最好。

接著以LSSVR為基礎(chǔ)模型，采用CBEA、GA和PSO實(shí)現(xiàn)模型參數(shù)的優(yōu)化，得到CBEA_LSSVR、GA_LSSVR和PSO_LSSVR組合預(yù)測(cè)模型。其預(yù)測(cè)結(jié)果圖如圖5所示。

觀察圖5表明CBEA_LSSVR的預(yù)測(cè)結(jié)果曲線比GA_LSSVR和PSO_LSSVR的預(yù)測(cè)結(jié)果曲線更能代表實(shí)際負(fù)荷曲線，預(yù)測(cè)效果最好。

觀察表5，CBEA_LSSVR與PSO_LSSVR的預(yù)測(cè)時(shí)間相差無(wú)幾，但是比GA_LSSVR的預(yù)測(cè)時(shí)間稍短，時(shí)效性稍高。這是因?yàn)镃BEA_LSSVR的算法采用實(shí)數(shù)編碼，并減少了遺傳和變異的操作。

分析表6，CBEA_LSSVR預(yù)測(cè)模型的預(yù)測(cè)結(jié)果在合格點(diǎn)百分比、MSE和準(zhǔn)確率三個(gè)方面比GA_LSSVR和PSO_LSSVR預(yù)測(cè)模型的預(yù)測(cè)結(jié)果分別提高了2.6%和4.89%、-0052和-0.01534、0.53%和0.54%，由此可知CBEA_LSSVR短期電力負(fù)荷預(yù)測(cè)模型比GA_LSSVR和PSO_LSSVR短期電力負(fù)荷預(yù)測(cè)模型的預(yù)測(cè)精度高。另外，多次實(shí)驗(yàn)發(fā)現(xiàn)CBEA_LSSVR預(yù)測(cè)曲線幾乎沒(méi)有變化，魯棒性高。

6 總結(jié)

本文首先采用人工智能算法預(yù)測(cè)短期負(fù)荷，從精度和時(shí)效性兩方面選擇最優(yōu)的基礎(chǔ)模型；然后通過(guò)CBEA_LSSVR與GA_LSSVR及PSO_LSSVR預(yù)測(cè)模型進(jìn)行對(duì)比，發(fā)現(xiàn)CBEA_LSSVR具有更快的收斂速度、更好的魯棒性和更高的預(yù)測(cè)精度，是智能電網(wǎng)的短期電力負(fù)荷預(yù)測(cè)的首選。

參考文獻(xiàn)：

[1] 牛東曉， 曹樹華， 盧建昌， 等. 電力負(fù)荷預(yù)測(cè)技術(shù)及其應(yīng)用[M]. 北京：中國(guó)電力出版社， 2009： 1-9.

[2] 余貽鑫， 欒文鵬. 智能電網(wǎng)[J]. 電網(wǎng)與清潔能源， 2009，25（1）： 7-11.

[3] 龔靜. 配電網(wǎng)綜合自動(dòng)化技術(shù)[M]. 北京：機(jī)械工業(yè)出版社， 2008： 1-40.

[4] 張煒桀. 智能電網(wǎng)環(huán)境下的電力負(fù)荷預(yù)測(cè)[D]. 成都： 西南交通大大學(xué)， 2011.

[5] 王建軍. 智能電網(wǎng)環(huán)境下的自適互動(dòng)智能負(fù)荷預(yù)測(cè)研究[J]. 陜西電力， 2010，38（5）： 11-15.

[6] Thessalonike， Constantine D. Spyropoulos. Methods and Applications of Artificial Intelligence[C]. Greece， Ai， Hellenic Conference， 2002

[7] Niu Dongxiao， Xing Mian， Meng Ming. Research on ANN Power Load Forecasting Based on United Data Mining Technology[J]. Transactions of China Electrotechnical society， 2004， 19（9）： 62-68.

[8] Long Wen， Xu Songjin. Short-term Load Forecasting Based on LSSVM with Mutative Scale Chaos Optimization Parameters [J]. Water Resources and Power， 2011， 29（11）： 186-188， 76.

[9] 牛東曉， 劉達(dá)， 陳廣娟， 等. 基于遺傳優(yōu)化的支持向量機(jī)小時(shí)負(fù)荷滾動(dòng)預(yù)測(cè)[J]. 電工技術(shù)學(xué)報(bào)， 2007， 22（6）：148-153.

[10] Ning Lu， Jianzhong Zhou， Yaoyao He， et.al. Particle Swarm Optimization for Parameter Optimization of Support Vector Machine Model[C]. The Second International Conference on intelligent Computation Technology and Automation， 2009， 283-286.

[11] Gao Ying. An optimization algorithm based on cloud model[C]//2009 International Conference on Computational Intelligence and Security， IEEE computer society， 2009： 84-87.

基金項(xiàng)目：

安徽工業(yè)大學(xué)研究生創(chuàng)新研究基金（項(xiàng)目編號(hào)2011029）。

作者簡(jiǎn)介：

第9篇：神經(jīng)網(wǎng)絡(luò)的魯棒性范文

關(guān)鍵詞：變風(fēng)量空調(diào)系統(tǒng) 智能控制

變風(fēng)量空調(diào)系統(tǒng)亦稱為VAV系統(tǒng)，它是通過(guò)改變送風(fēng)量，從而與空調(diào)區(qū)負(fù)荷的變化相適應(yīng)。其工作原理是當(dāng)空調(diào)區(qū)負(fù)荷變化時(shí)，系統(tǒng)末端裝置自動(dòng)調(diào)節(jié)送入房間的送風(fēng)量，確保室內(nèi)溫度保持在設(shè)計(jì)范圍內(nèi)，從而使得空氣處理機(jī)組在低負(fù)荷時(shí)的送風(fēng)量下降，空氣處理機(jī)組的送風(fēng)機(jī)轉(zhuǎn)速也隨之降低，達(dá)到節(jié)能的目的?？照{(diào)系統(tǒng)是一個(gè)多輸入多輸出、非線性，不確定的系統(tǒng)，很難找到一個(gè)精確的數(shù)學(xué)模型。為了使變風(fēng)量空調(diào)系統(tǒng)能夠在隨機(jī)復(fù)雜的自然環(huán)境中以最優(yōu)、最節(jié)能狀態(tài)運(yùn)行，這就對(duì)變風(fēng)量空調(diào)系統(tǒng)中的控制環(huán)節(jié)提出了較高要求。

一、模糊控制

模糊控制是以模糊集理論為基礎(chǔ)的一種新興控制手段，它是一種非線性控制，利用模糊集理論設(shè)計(jì)的，無(wú)需知道被控對(duì)象精確的數(shù)學(xué)模型。

變風(fēng)量空調(diào)系統(tǒng)由冷熱水機(jī)組、空氣處理機(jī)組、風(fēng)閥及風(fēng)管、送（回）風(fēng)機(jī)以及空調(diào)房間構(gòu)成。

控制系統(tǒng)一般可以分為五部分：室內(nèi)溫度控制；室內(nèi)正壓控制；送風(fēng)靜壓控制；送風(fēng)溫度控制；新風(fēng)量控制。

這五部分相互獨(dú)立又相互間有很強(qiáng)的耦合性。當(dāng)某個(gè)房間的溫度下降，該房間的末端裝置的風(fēng)閥就會(huì)關(guān)小，從而導(dǎo)致總風(fēng)管內(nèi)的送風(fēng)靜壓升高，其他房間的送風(fēng)量增加。此時(shí)這些房間末端裝置的風(fēng)閥就會(huì)關(guān)小以恒定各自的送風(fēng)量。這又導(dǎo)致系統(tǒng)靜壓進(jìn)一步升高。當(dāng)靜壓達(dá)到一定程度時(shí)靜壓控制器就降低送風(fēng)機(jī)的轉(zhuǎn)速以減小風(fēng)量，回風(fēng)機(jī)風(fēng)量也隨之減小。系統(tǒng)靜壓又回到原來(lái)的水平，這樣各末端裝置的風(fēng)閥又開始開大。由于系統(tǒng)的壓力變化必將影響到新風(fēng)量的變化，從而導(dǎo)致送風(fēng)溫度的變化。這時(shí)，系統(tǒng)處在一種頻繁的調(diào)節(jié)當(dāng)中。送進(jìn)室內(nèi)的風(fēng)量也是忽大忽小。因此變風(fēng)量系統(tǒng)對(duì)控制的要求比定風(fēng)量系統(tǒng)要高，要建立一個(gè)合適那些工程控制的數(shù)學(xué)模型比較困難。目前VAV空調(diào)系統(tǒng)的控制方式基本上采用的是傳統(tǒng)PID算法的DDC控制。然而，VAV空調(diào)系統(tǒng)是一個(gè)干擾大、高度非線性和不確定性的系統(tǒng)，這就使得依賴于精確模型基礎(chǔ)的傳統(tǒng)PID控制算法控制效果不夠理想。近些年來(lái)，研究者提出了不同的控制策略和方法，較為常用的為PID控制和模糊控制組合成的控制器，組合方式分為如下兩種。一種是串聯(lián)結(jié)構(gòu)。它利用模糊規(guī)則和模糊推理在線調(diào)整PID控制參數(shù)。此類控制器利用模糊邏輯推理得到修正量。此類控制器的空調(diào)系統(tǒng)的仿真結(jié)果表明，系統(tǒng)超調(diào)量比常規(guī)PID的大大減小，調(diào)節(jié)時(shí)間也縮短。另一種為并聯(lián)結(jié)構(gòu)。當(dāng)偏差較小時(shí)，利用PID控制器；當(dāng)偏差較大時(shí)，利用模糊控制器。這使系統(tǒng)具有較好的靜態(tài)特性和動(dòng)態(tài)特性。

二、神經(jīng)元網(wǎng)絡(luò)控制

神經(jīng)網(wǎng)絡(luò)是一個(gè)高度非線性動(dòng)力系統(tǒng)，具有并行分布處理能力、高度魯棒性和容錯(cuò)能力、分布存儲(chǔ)及學(xué)習(xí)能力。其模型是以神經(jīng)元的數(shù)學(xué)模型為基礎(chǔ)來(lái)描述的。利用神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的具有自適應(yīng)、自學(xué)習(xí)功能的單神經(jīng)元控制器能夠克服傳統(tǒng)的PID調(diào)節(jié)器的參數(shù)在過(guò)程復(fù)雜且參數(shù)易變的空調(diào)系統(tǒng)中不容易實(shí)時(shí)在線調(diào)整的缺點(diǎn)，對(duì)提高空調(diào)系統(tǒng)的控制效果和魯棒性有積極的意義。但是應(yīng)用神經(jīng)網(wǎng)絡(luò)控制時(shí)需要大量的數(shù)據(jù)，數(shù)據(jù)的不足及其他客觀原因的影響，實(shí)際的神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速度較慢且系統(tǒng)的穩(wěn)定性及學(xué)習(xí)算法也有待改進(jìn)。

模糊控制善于直接表示知識(shí)，只接收結(jié)構(gòu)化的語(yǔ)言規(guī)則信息。神經(jīng)網(wǎng)絡(luò)控制則學(xué)習(xí)數(shù)據(jù)隱含的知識(shí)，只接收數(shù)據(jù)樣本信息。兩者的結(jié)合取長(zhǎng)補(bǔ)短，擴(kuò)展了數(shù)據(jù)處理能力，既可處理結(jié)構(gòu)化的語(yǔ)言規(guī)則信息，還能處理數(shù)據(jù)樣本信息，便于更好地提高控制系統(tǒng)的智能性。在空調(diào)系統(tǒng)中輸入輸出變量多，這對(duì)神經(jīng)網(wǎng)絡(luò)的算法和總體結(jié)構(gòu)影響不大。模糊控制結(jié)合神經(jīng)網(wǎng)絡(luò)控制能更好地解決非線性及耦合性問(wèn)題，提高系統(tǒng)的動(dòng)態(tài)性能。

三、小結(jié)

隨著人們節(jié)能意識(shí)的增強(qiáng)和建筑節(jié)能工作力度的加大，對(duì)建筑對(duì)具有高能耗的空調(diào)系統(tǒng)節(jié)能控制提出了更高的要求。智能控制在中央空調(diào)系統(tǒng)的控制中表現(xiàn)出了很好的節(jié)能效果，具有廣闊的發(fā)展前景，但是各種控制策略、控制算法都各有自己的優(yōu)缺點(diǎn)。設(shè)計(jì)人員應(yīng)該根據(jù)實(shí)際情況做出合理的選擇，從而使中央空調(diào)系統(tǒng)既能滿足人們的舒適性要求，也能夠達(dá)到節(jié)能要求。

參考文獻(xiàn)：

[1]黃翔等.空調(diào)工程[M].北京：機(jī)械工業(yè)出版社，2008.

[2]趙維.樓宇變風(fēng)量空調(diào)系統(tǒng)的自適應(yīng)模糊PID控制研究[J].重慶交通大學(xué)，2010.

[3]曹艷鵬，冀兆良.幾種控制方式在空調(diào)系統(tǒng)運(yùn)行節(jié)能中的應(yīng)用[J].制冷 2010（29）.

[4]王金選.智能控制技術(shù)在智能建筑中的應(yīng)用[D]. 華僑大學(xué)，2004.