訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞： 神經(jīng)網(wǎng)絡(luò)；工程造價(jià)；Vague集貼近度

0 引言

對(duì)建筑工程造價(jià)進(jìn)行科學(xué)有效的測(cè)算和控制，會(huì)使工程造價(jià)的組成比較合理，進(jìn)而節(jié)約工程開(kāi)銷成本?，F(xiàn)在，經(jīng)典的建筑工程造價(jià)測(cè)算方法主要有下面幾種：定額法、類比工程法、回歸分析法和模糊數(shù)學(xué)法[1]。其中，定額法必須對(duì)定額成本、定額差異和定額變動(dòng)差異進(jìn)行單獨(dú)核算，任務(wù)較重，現(xiàn)實(shí)中很難實(shí)施；類比工程法是通過(guò)類比工程的相似性實(shí)現(xiàn)工程造價(jià)的測(cè)算，該方法估算準(zhǔn)確度不夠高；回歸分析法的估算準(zhǔn)確度同樣不高，該方法將很多重要因素忽略了；模糊數(shù)學(xué)法是通過(guò)模糊數(shù)學(xué)的思想對(duì)工程造價(jià)進(jìn)行估算，該方法的不足主要是特征隸屬度不好準(zhǔn)確確定。由于人工神經(jīng)網(wǎng)絡(luò)可以自學(xué)并進(jìn)行推理，本文通過(guò)人工神經(jīng)網(wǎng)絡(luò)和Vague集貼近度理論對(duì)住宅樓的工程造價(jià)進(jìn)行估算和控制，可以為建筑工程造價(jià)估算提供很好的服務(wù)。

1 BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)是一種前饋型神經(jīng)網(wǎng)絡(luò)，包含三種層次或者多層次，各種層次之間相互連接，同一層次可以自由結(jié)合，BP神經(jīng)網(wǎng)絡(luò)的構(gòu)成見(jiàn)圖1。所屬模型的神經(jīng)元數(shù)量決定了BP神經(jīng)網(wǎng)絡(luò)的層數(shù)，各個(gè)層次之間通過(guò)相互的權(quán)值實(shí)現(xiàn)聯(lián)接[2]。

人工神經(jīng)元（Artificial Neuron）模型：

人工神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基本元素，其原理可以用圖2表示。

圖中x1～xn是從其他神經(jīng)元傳來(lái)的輸入信號(hào)，wij表示表示從神經(jīng)元j到神經(jīng)元i的連接權(quán)值，θ表示一個(gè)閾值（threshold），或稱為偏置（bias）。則神經(jīng)元i的輸出與輸入的關(guān)系表示為：

BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)非常簡(jiǎn)潔，包括正向傳播和逆向傳播。下面分別對(duì)BP神經(jīng)網(wǎng)絡(luò)信息的正向傳播和誤差信息的反向傳播原理進(jìn)行介紹。

1.1 信息的正向傳播

式（1）中，n為信息的總個(gè)數(shù)。

1）輸入向量為

多層神經(jīng)元網(wǎng)絡(luò)（BP網(wǎng)絡(luò)圖3）。

BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)，即誤差反傳誤差反向傳播算法的學(xué)習(xí)過(guò)程，由信息的正向傳播和誤差的反向傳播兩個(gè)過(guò)程組成。由圖3可知，BP神經(jīng)網(wǎng)絡(luò)是一個(gè)三層的網(wǎng)絡(luò)：

輸入層（Input Layer）：輸入層各神經(jīng)元負(fù)責(zé)接收來(lái)自外界的輸入信息，并傳遞給中間層各神經(jīng)元；

隱藏層（Hidden Layer）：中間層是內(nèi)部信息處理層，負(fù)責(zé)信息變換，根據(jù)信息變化能力的需求，中間層可以設(shè)計(jì)為單隱層或者多隱層結(jié)構(gòu)；最后一個(gè)隱層傳遞到輸出層各神經(jīng)元的信息，經(jīng)進(jìn)一步處理后，完成一次學(xué)習(xí)的正向傳播處理過(guò)程；

輸出層（Output Layer）：顧名思義，輸出層向外界輸出信息處理結(jié)果。

2 建筑工程造價(jià)估算模型

2.1 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練 建立BP神經(jīng)網(wǎng)絡(luò)模型，對(duì)工程特征向量進(jìn)行歸一化處理，可以開(kāi)始神經(jīng)網(wǎng)絡(luò)訓(xùn)練，目標(biāo)是使網(wǎng)絡(luò)性能函數(shù)極小化，實(shí)現(xiàn)非線性映射的目的。本文利用Nguyen-Widrow方法[5]對(duì)權(quán)值和閾值的初值進(jìn)行確定。Nguyen-Widrow方法具體原理為

上式中，W是數(shù)值矩陣，θ是權(quán)值矩陣，S、N是節(jié)點(diǎn)的個(gè)數(shù)。rand（S，N）為s行n列的平均自由分布任意矩陣，I（S，N）為s行n列標(biāo)準(zhǔn)矩陣。

2.2 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練調(diào)整與測(cè)試 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練調(diào)整與測(cè)試連接強(qiáng)度加權(quán)值調(diào)整方法，具體公式為：

BP算法在按步驟經(jīng)行的收斂過(guò)程中，每一步的學(xué)習(xí)率都將發(fā)生變化，而不是固定不變。此時(shí)BP神經(jīng)網(wǎng)絡(luò)不應(yīng)用連接強(qiáng)度加權(quán)值的調(diào)整方法，同時(shí)也不使用誤差函數(shù)對(duì)梯度調(diào)整和η調(diào)整方法；最終應(yīng)用相對(duì)權(quán)重增加量Δwij進(jìn)行網(wǎng)絡(luò)調(diào)整與測(cè)試，權(quán)值wij的修正值Δwij，如下所示：

以上的分析表明，運(yùn)用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行建筑工程單方造價(jià)估算是可行的，然而該方法對(duì)建筑工程項(xiàng)目總造價(jià)的估算還不夠精確。當(dāng)前建筑工程項(xiàng)目需要考慮的影響因素非常多，雖然可以引入大量的特征因素，然而里面有很多因素都非常模糊化；即使可以對(duì)特征因素進(jìn)行具體說(shuō)明，提高輸入點(diǎn)的數(shù)量，這時(shí)樣本數(shù)據(jù)會(huì)隨著增加，此時(shí)神經(jīng)網(wǎng)絡(luò)將會(huì)復(fù)雜化，求解效率會(huì)降低。所以，本文通過(guò)以上運(yùn)用BP神經(jīng)網(wǎng)絡(luò)對(duì)建筑工程項(xiàng)目單方造價(jià)的估算，采用Vague集貼近度對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)，對(duì)建筑工程總造價(jià)進(jìn)行估算[3]。

2.3 加入Vague集貼近度改進(jìn)BP神經(jīng)網(wǎng)絡(luò) 文獻(xiàn)[4]采用普通模糊集理論來(lái)對(duì)工程隸屬度進(jìn)行確定。本文中建筑工程特征因素隸屬度是指建筑工程特征值隸屬于準(zhǔn)備建設(shè)的項(xiàng)目特征值的大小程度：

3 實(shí)例分析

選取2013年西安市某工程項(xiàng)目數(shù)據(jù)進(jìn)行實(shí)例分析，工程造價(jià)指數(shù)以2013年為基準(zhǔn)，通過(guò)加權(quán)平均法求解造價(jià)年綜合指數(shù)。通過(guò)選擇，最后選取了二十個(gè)樣本，前面十八個(gè)樣本為訓(xùn)練樣本，剩余的兩個(gè)當(dāng)作檢測(cè)樣本。神經(jīng)網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)見(jiàn)表1。

3.1 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練 采用BP神經(jīng)網(wǎng)絡(luò)對(duì)模型進(jìn)行構(gòu)建，對(duì)建筑工程特征向量數(shù)據(jù)處理結(jié)束后，可以開(kāi)展神經(jīng)網(wǎng)絡(luò)訓(xùn)練。神經(jīng)網(wǎng)絡(luò)訓(xùn)練基本的訓(xùn)練公式為

net，tr=train（NET，P，T）

訓(xùn)練公式中net為最終的網(wǎng)絡(luò)，tr為數(shù)值統(tǒng)計(jì)， P是輸入矩陣，T是輸出矩陣。

3.2 BP神經(jīng)網(wǎng)絡(luò)與Vague集貼近度預(yù)測(cè) 采用Vague集貼近度的數(shù)據(jù)，基于BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本進(jìn)行預(yù)測(cè)，通過(guò)訓(xùn)練好的網(wǎng)絡(luò)對(duì)與本文樣本數(shù)據(jù)相類似工程項(xiàng)目的單方造價(jià)進(jìn)行預(yù)估，求得單方造價(jià)均值為1800元/m2。緊接著可以對(duì)建筑工程的總造價(jià)進(jìn)行預(yù)估，通過(guò)對(duì)10項(xiàng)樣本進(jìn)行造價(jià)估算預(yù)測(cè)，采用BP神經(jīng)網(wǎng)絡(luò)和Vague集貼近度相結(jié)合的方法進(jìn)行造價(jià)預(yù)估，估計(jì)誤差在±10%范圍內(nèi)（見(jiàn)表2），造價(jià)估算結(jié)果非常準(zhǔn)確。

4 結(jié)論

本文應(yīng)用BP神經(jīng)網(wǎng)絡(luò)造價(jià)預(yù)測(cè)和Vague集貼近度理論，從理論和實(shí)際應(yīng)用兩方面對(duì)建筑工程造價(jià)估算進(jìn)行了研究。文中的方法能更準(zhǔn)確地反應(yīng)工程造價(jià)的不確定性，為建筑工程項(xiàng)目造價(jià)估算方法研究提供了一種新的視角和方法。

參考文獻(xiàn)：

[1]史峰.BP神經(jīng)網(wǎng)絡(luò)在工程量清單中快速估價(jià)的應(yīng)用研究[M].北京航空航天大學(xué)出版社，2010.4.

[2]張風(fēng)文.基于MATLAB神經(jīng)網(wǎng)絡(luò)的工程實(shí)例分析[J].華東交通大學(xué)學(xué)報(bào)，2010，8（3）：26-33.

[3]郭一斌，王紅革，王翔.基于Vague集貼近度的工程項(xiàng)目投資快速估算方法[J].現(xiàn)代經(jīng)濟(jì)信息，2011，12（2）：50-55.

第2篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：BP人工神經(jīng)網(wǎng)絡(luò)；RBF人工神經(jīng)網(wǎng)絡(luò)；經(jīng)濟(jì)增長(zhǎng)預(yù)測(cè)

中圖分類號(hào)：TP183文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1009-3044(2011)10-2345-03

The Study of Forecast of Zhejiang Province's Economic Growth Using BP and RBF Artificial Neural Network

BAI Xue-bing

(Zhengjiang University of Technology, Hangzhou 310014, China)

Abstract: Based on existing studies of economic forecasting methods, the article studies the Zhejiang province'sEconomic Growth Forecastusing BP and RBF Artificial Neural Network.Thedata research shows Artificial Neural Network hasgood precision, but different Artificial Neural Network have different behavior, some have big error. Artificial Neural Network can provide good reference for the making policy of sector of economy.

Key words: BP artificial neural network; RBF artificial neural network; economic growth forecast

1 經(jīng)濟(jì)預(yù)測(cè)概論

經(jīng)濟(jì)預(yù)測(cè)是與未來(lái)有關(guān)的旨在減少不確定性對(duì)經(jīng)濟(jì)活動(dòng)影響的一種經(jīng)濟(jì)分析。它是對(duì)將來(lái)經(jīng)濟(jì)發(fā)展的科學(xué)認(rèn)識(shí)活動(dòng)。經(jīng)濟(jì)預(yù)測(cè)不是靠經(jīng)驗(yàn)、憑直覺(jué)的預(yù)言或猜測(cè)，而是以科學(xué)的理論和方法、可靠的資料、精密的計(jì)算及對(duì)客觀規(guī)律性的認(rèn)識(shí)所作出的分析和判斷。

2 人工神經(jīng)網(wǎng)絡(luò)經(jīng)濟(jì)預(yù)測(cè)技術(shù)

由于人工神經(jīng)網(wǎng)絡(luò)具有大規(guī)模并行處理、容錯(cuò)性、自適應(yīng)和聯(lián)想功能強(qiáng)等特點(diǎn)，作為非線性智能預(yù)測(cè)方法的人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法成為國(guó)內(nèi)外經(jīng)濟(jì)預(yù)測(cè)研究的一個(gè)熱點(diǎn)。

人工神經(jīng)網(wǎng)絡(luò)不斷應(yīng)用于證券預(yù)測(cè)分析、企業(yè)經(jīng)濟(jì)戰(zhàn)略預(yù)測(cè)、經(jīng)濟(jì)理論創(chuàng)新、經(jīng)濟(jì)預(yù)測(cè)預(yù)警等研究中，都得到了一定的效果。

3 BP與RBF神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型分析

3.1 經(jīng)濟(jì)增長(zhǎng)神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)模型

3.1.1 宏觀經(jīng)濟(jì)預(yù)測(cè)指標(biāo)

經(jīng)濟(jì)增長(zhǎng)率是判斷宏觀經(jīng)濟(jì)運(yùn)行狀況的一個(gè)主要指標(biāo)。經(jīng)濟(jì)增長(zhǎng)率指的就是不變價(jià)國(guó)內(nèi)生產(chǎn)總值增長(zhǎng)率(簡(jiǎn)稱國(guó)內(nèi)生產(chǎn)總值增長(zhǎng)率。因此，判斷宏觀經(jīng)濟(jì)運(yùn)行狀況要落腳到對(duì)國(guó)內(nèi)生產(chǎn)總值的核算上。在本文中我們采用GDP的增長(zhǎng)率來(lái)作為預(yù)測(cè)目標(biāo)。

3.1.2 神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)模型經(jīng)濟(jì)模型的設(shè)計(jì)

本論文采用兩種模型對(duì)經(jīng)濟(jì)進(jìn)行預(yù)測(cè)。

1) 第一種 GDP預(yù)測(cè)模型：第n年的一、二、三產(chǎn)業(yè)的增長(zhǎng)率作為輸入，第n+1年GDP增長(zhǎng)率作為輸出。

2) 第二種預(yù)測(cè)模型。第n-3、n-2、n-1、n年的經(jīng)濟(jì)增長(zhǎng)率作為輸入，第n-1、n、n+1年經(jīng)濟(jì)增長(zhǎng)率作為輸出。

這里還要說(shuō)明兩個(gè)問(wèn)題。第一我們用到的數(shù)據(jù)來(lái)自2009年 浙江省統(tǒng)計(jì)年鑒，它的網(wǎng)址是 。

3.1.3 神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)

設(shè)計(jì)經(jīng)濟(jì)預(yù)測(cè)神經(jīng)網(wǎng)絡(luò)模型前，首先需要確定神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，主要包括如下內(nèi)容：網(wǎng)絡(luò)的層數(shù)，每層的神經(jīng)元數(shù)和激活函數(shù)等。采用的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1。

3.2 使用BP在以浙江省過(guò)去的每年的GDP增長(zhǎng)指數(shù)的基礎(chǔ)上進(jìn)行BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)

3.2.1 學(xué)習(xí)樣本的選擇

本次實(shí)驗(yàn)使用Matlab 軟件采用3層BP神經(jīng)網(wǎng)絡(luò)建立浙江省經(jīng)濟(jì)發(fā)展的的預(yù)測(cè)模型。輸入層節(jié)點(diǎn)數(shù)為n=4，輸出層節(jié)點(diǎn)m=3.而隱含層節(jié)點(diǎn)數(shù)的選擇是人工神經(jīng)網(wǎng)絡(luò)最為關(guān)鍵的一步，它直接影響網(wǎng)絡(luò)隊(duì)復(fù)雜問(wèn)題的映射能力，實(shí)驗(yàn)中我們采用試湊法來(lái)確定最佳節(jié)點(diǎn)數(shù)。現(xiàn)設(shè)置較少的隱節(jié)點(diǎn)訓(xùn)練網(wǎng)絡(luò)，然后逐漸增加網(wǎng)絡(luò)節(jié)點(diǎn)數(shù)，用同一樣本進(jìn)行訓(xùn)練，從中確定網(wǎng)絡(luò)誤差最小時(shí)對(duì)應(yīng)的節(jié)點(diǎn)數(shù)，隱層、輸出層神經(jīng)元的轉(zhuǎn)移函數(shù)，隱含層和輸出層轉(zhuǎn)移函數(shù)分別采用tansig和logsig，訓(xùn)練函數(shù)選擇traindx。

3.2.2 數(shù)值歸一化處理

對(duì)于浙江省經(jīng)濟(jì)增長(zhǎng)序列Q=（Q1，Q2…，Qt）。設(shè)序列的最大值、最小值分別為Qmax、Qmin。對(duì)時(shí)間序列的值作歸一化處理。

令xi=(Qi-Qmin)/(Qmax-Qmin)

3.2.3 樣本數(shù)據(jù)訓(xùn)練和數(shù)據(jù)預(yù)測(cè)

采用1978～2003年的數(shù)據(jù)樣本在MatLab7.0軟件中對(duì)輸入網(wǎng)絡(luò)進(jìn)行訓(xùn)練.隱層節(jié)點(diǎn)數(shù)先從4開(kāi)始訓(xùn)練，逐步增加到12時(shí)，當(dāng)數(shù)值 為10時(shí)預(yù)測(cè)結(jié)果較好。允許誤差為0.001，訓(xùn)練3217次達(dá)到訓(xùn)練要求。

采用1978～2004年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2005-年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP。采用1978～2005年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2006年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP， 采用1978～2006年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2007-年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP，依次類推，產(chǎn)生結(jié)果如表1所示。

3.2.4 數(shù)據(jù)分析

從2000-2004的擬合數(shù)據(jù)來(lái)看，相對(duì)誤差比較小，BP網(wǎng)絡(luò)對(duì)整個(gè)模擬數(shù)據(jù)的擬合程度還是比較好的，但是從2005-2009的預(yù)測(cè)數(shù)據(jù)來(lái)看預(yù)測(cè)數(shù)據(jù)的誤差還是比較大的，這也說(shuō)明對(duì)未來(lái)的預(yù)測(cè)是很難的。各種不確定的因素在起作用。

3.3 三種產(chǎn)業(yè)增加率BP確定法預(yù)測(cè)GDP

3.3.1 樣本數(shù)據(jù)訓(xùn)練

將1978-2004年數(shù)據(jù)對(duì)輸入網(wǎng)絡(luò)進(jìn)行訓(xùn)練。然后把需要預(yù)測(cè)的樣本2000-2004年的樣本數(shù)據(jù)輸入網(wǎng)絡(luò)，得到結(jié)果，然后用反歸一化公式獲得結(jié)果。在Matlab7.0中調(diào)用newff函數(shù)，建立一個(gè)3個(gè)輸入節(jié)點(diǎn)、18個(gè)隱含層節(jié)點(diǎn)、一個(gè)輸出結(jié)點(diǎn)的BP神經(jīng)網(wǎng)絡(luò)，隱含層和輸出層轉(zhuǎn)移函數(shù)分別采用tansig和logsig，訓(xùn)練函數(shù)選擇traindx，允許誤差為0.001，訓(xùn)練1748次達(dá)到訓(xùn)練要求。

采用1978～2004年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2005年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP。采用1978～2005年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2006年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP， 采用1978～2006年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2007年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP，依次類推，產(chǎn)生結(jié)果如表2所示。

3.3.2 數(shù)據(jù)分析

從預(yù)測(cè)數(shù)據(jù)來(lái)看預(yù)測(cè)數(shù)據(jù)的誤差盡管比上一種類型的數(shù)據(jù)要好，但是誤差還是比較大的，但是考慮到預(yù)測(cè)的能力 ，數(shù)據(jù)還是可以接受的 。但是數(shù)據(jù)誤差還是比較大的，這也說(shuō)明對(duì)未來(lái)的預(yù)測(cè)是很難的，不是十分確定的，有些文章的數(shù)據(jù)精確度挺高的，但我想應(yīng)該是不太可能的，也許有故意湊數(shù)據(jù)的嫌疑。如果預(yù)測(cè)一年的話，可以通過(guò)調(diào)整參數(shù)獲得近似結(jié)果，但是很多年就很困難。

3.4 使用RBF在以浙江省過(guò)去的每年的GDP增長(zhǎng)指數(shù)的基礎(chǔ)上進(jìn)行RBF神經(jīng)網(wǎng)絡(luò)預(yù)測(cè).

3.4.1 RBF 神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)

該種方式與第一種BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法類似， 以以前四年的GDP增長(zhǎng)率作為輸入，后兩年加以預(yù)測(cè)的年作為輸出。輸入層節(jié)點(diǎn)數(shù)為n=4，輸出層節(jié)點(diǎn)m=3.而隱含層節(jié)點(diǎn)數(shù)的選擇是采用matlab的newrbe自動(dòng)來(lái)設(shè)置.然后用同一樣本進(jìn)行訓(xùn)練。

3.4.2 樣本數(shù)據(jù)訓(xùn)練和數(shù)據(jù)預(yù)測(cè)

1) 采用1978～2004年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2005年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP。采用1978～2005年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2006年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP，依次類推，產(chǎn)生結(jié)果如表3所示。這兒采用newrbe函數(shù)，spread參數(shù)為0.25。這是因?yàn)橥ㄟ^(guò)測(cè)試采用0.25獲得的數(shù)據(jù)結(jié)果較好。

3.4.3 數(shù)據(jù)分析

從實(shí)驗(yàn)數(shù)據(jù)看，RBF對(duì)整個(gè)模擬數(shù)據(jù)的曲線擬合程度是相當(dāng)完美，但是從2005-2009的預(yù)測(cè)數(shù)據(jù)來(lái)看預(yù)測(cè)數(shù)據(jù)的誤差還是比較大的，這也說(shuō)明RBF神經(jīng)網(wǎng)絡(luò)盡管曲線的擬合程度比BP網(wǎng)絡(luò)好 ，但是從預(yù)測(cè)的能力來(lái)講，并不比BP網(wǎng)絡(luò)好，反而通過(guò)試驗(yàn)顯得更差一些。這仍然表明對(duì)未來(lái)的預(yù)測(cè)是很難的。各種不確定的因素在起作用。神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)也只能作為參考之用，不能對(duì)各種的突發(fā)事件進(jìn)行預(yù)測(cè)。

3.5 使用RBF三種產(chǎn)業(yè)增加率確定法預(yù)測(cè)GDP

3.5.1 RBF神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)

該種方式與對(duì)應(yīng)的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法類似， 以一年的三種產(chǎn)業(yè)增長(zhǎng)率作為輸入，后一年的GDP增長(zhǎng)率預(yù)測(cè)作為輸出。本次實(shí)驗(yàn)采用RBF神經(jīng)網(wǎng)絡(luò)建立浙江省經(jīng)濟(jì)發(fā)展的的預(yù)測(cè)模型。輸入層節(jié)點(diǎn)數(shù)為n=3，輸出層節(jié)點(diǎn)m=1.而隱含層節(jié)點(diǎn)數(shù)的選擇采用RBF自動(dòng)的newrbe方法實(shí)現(xiàn)。

3.5.2 數(shù)據(jù)處理

1) 采用1978～2004年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2005年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP。采用1978～2005年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2006年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP， 采用1978～2006年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2007-年數(shù)據(jù)作為仿真預(yù)測(cè)數(shù)據(jù)，通過(guò)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)GDP，依次類推，產(chǎn)生結(jié)果如表4所示。

3.5.3 數(shù)據(jù)分析

但是從2005-2009的預(yù)測(cè)數(shù)據(jù)來(lái)看預(yù)測(cè)數(shù)據(jù)的誤差比上一組得RBF的誤差還要大，幾乎有點(diǎn)難以接受。這也說(shuō)明RBF神經(jīng)網(wǎng)絡(luò)盡管曲線的擬合程度比BP網(wǎng)絡(luò)好，但是從預(yù)測(cè)的能力來(lái)講，并不比BP網(wǎng)絡(luò)好，反而我通過(guò)試驗(yàn)更差一些。2009年的數(shù)據(jù)變得極為不合理，從而導(dǎo)致數(shù)據(jù)的偏差性很高。，從測(cè)試數(shù)據(jù)可看出，但是由于經(jīng)濟(jì)運(yùn)行的復(fù)雜性，以及不可預(yù)知性，特別是由于2008的美國(guó)金融導(dǎo)致的世界范圍的經(jīng)濟(jì)危機(jī)，導(dǎo)致經(jīng)濟(jì)數(shù)據(jù)的不可靠性大大增加，歷史數(shù)據(jù)變得用處不太大。2009年的數(shù)據(jù)變得極為不合理，從而導(dǎo)致數(shù)據(jù)的偏差性很高。

4 總結(jié)與歸納

從我們的試驗(yàn)來(lái)看，各種神經(jīng)網(wǎng)絡(luò)的確可以對(duì)未來(lái)進(jìn)行預(yù)測(cè)，但是精度多高卻有一些問(wèn)題，從我們的試驗(yàn)來(lái)看BP神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)要比RBF神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)要好，但是也只在一定范圍內(nèi) ，四種檢測(cè)方法，只有一種數(shù)據(jù)還略微能夠接受。神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)仍然需要不斷的完善。

參考文獻(xiàn)：

[1] 張德豐.Matlab神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計(jì)[M].北京:機(jī)械工業(yè)出版社,2009.

[2] 高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實(shí)例[M].2版.北京:機(jī)械工業(yè)出版社,2007.

[3] 韓力群.人工神經(jīng)網(wǎng)絡(luò)理論、設(shè)計(jì)與應(yīng)用[M].2版.北京:化學(xué)工業(yè)出版社,2007.

第3篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

[關(guān)鍵詞] 光伏系統(tǒng)；發(fā)電量預(yù)測(cè)；模糊神經(jīng)網(wǎng)絡(luò)

doi ： 10 . 3969 / j . issn . 1673 - 0194 . 2017. 13. 077

[中圖分類號(hào)] TM615 [文獻(xiàn)標(biāo)識(shí)碼] A [文章編號(hào)] 1673 - 0194（2017）13- 0180- 04

0 引 言

目前光伏發(fā)電量預(yù)測(cè)的方法主要有神經(jīng)網(wǎng)絡(luò)法、灰色預(yù)測(cè)法、多元線性分析法這三種方法，通過(guò)對(duì)這三種預(yù)測(cè)模型進(jìn)行比較，發(fā)現(xiàn)多元線性回歸和灰色理論雖然方法較為簡(jiǎn)單，但是預(yù)測(cè)誤差也較大，而神經(jīng)網(wǎng)絡(luò)法預(yù)測(cè)則可以比較準(zhǔn)確但是預(yù)測(cè)過(guò)程較為繁雜。在基于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)中，多是以傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)模型，在此基礎(chǔ)上采用一些新的方法對(duì)BP網(wǎng)絡(luò)加以改進(jìn)。例如在BP網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程中采用Fletcher-Reeves共軛梯度算法，可以提高學(xué)習(xí)率，部分地簡(jiǎn)化了預(yù)測(cè)過(guò)程，但輸入量過(guò)多，且預(yù)測(cè)的局限性較大。

在對(duì)比了眾多方法的優(yōu)缺點(diǎn)之后，發(fā)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)普遍存在中間隱層數(shù)難以確定、輸入數(shù)據(jù)量過(guò)多，且學(xué)習(xí)時(shí)間過(guò)長(zhǎng)等劣勢(shì)。因此本文提出了一種基于模糊神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型，所選取的輸入量是和當(dāng)天的發(fā)電量相關(guān)程度比較大的當(dāng)天的平均氣溫以及當(dāng)天的總?cè)照樟浚：窠?jīng)網(wǎng)絡(luò)的結(jié)構(gòu)是由大量的先驗(yàn)知識(shí)而設(shè)計(jì)出來(lái)的。在不影響預(yù)測(cè)精度的情況下，為了降低整個(gè)網(wǎng)絡(luò)的復(fù)雜程度，對(duì)整個(gè)網(wǎng)絡(luò)的模糊化層中的隸屬度函數(shù)及去模糊化層的輸出函數(shù)都做了適當(dāng)?shù)淖兓鉀Q了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)收斂速度慢的問(wèn)題，從而使整個(gè)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)潔，訓(xùn)練速度較快，且預(yù)測(cè)精度較高。

1 模糊神經(jīng)網(wǎng)絡(luò)

模糊神經(jīng)網(wǎng)絡(luò)是在神經(jīng)網(wǎng)絡(luò)和模糊系統(tǒng)的基礎(chǔ)上發(fā)展起來(lái)的，在模糊神經(jīng)網(wǎng)絡(luò)出現(xiàn)之前，神經(jīng)網(wǎng)絡(luò)與模糊系統(tǒng)都已有了多年的研究歷史，都有著較完備的理論基礎(chǔ)。

模糊神經(jīng)網(wǎng)絡(luò)是一種將模糊邏輯推理的知識(shí)性結(jié)構(gòu)和神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)能力結(jié)合起來(lái)的一種局部逼近網(wǎng)絡(luò)，融合彌補(bǔ)了神經(jīng)網(wǎng)絡(luò)在數(shù)據(jù)處理方面的不足和模糊邏輯在學(xué)習(xí)方面的缺陷，是一個(gè)集語(yǔ)言計(jì)算、邏輯推理、分布式處理和非線性動(dòng)力學(xué)過(guò)程為一身的系統(tǒng)。因此，它具有處理不確定信息的模糊推理能力和依據(jù)樣本數(shù)據(jù)進(jìn)行學(xué)習(xí)的能力。模糊神經(jīng)網(wǎng)絡(luò)主要利用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來(lái)實(shí)現(xiàn)模糊推理，從而使神經(jīng)網(wǎng)絡(luò)的權(quán)值具有在模糊邏輯中推理參數(shù)的物理意義。

常見(jiàn)的模糊神經(jīng)網(wǎng)絡(luò)有基于Mamdani推理的和基于Takgai-Sugeno推理的這兩種模糊神經(jīng)網(wǎng)絡(luò)?；贛amdani推理的模糊神經(jīng)網(wǎng)絡(luò)多用于模糊邏輯控制器、模糊邏輯決策系統(tǒng)、模糊邏輯辨識(shí)系統(tǒng)等方面；基于Takgai-Sugeno推理的模糊神經(jīng)網(wǎng)絡(luò)則是一種非線性模型，宜于表達(dá)復(fù)雜系統(tǒng)的動(dòng)態(tài)特性。光伏系統(tǒng)的發(fā)電量由于受日照量、溫度、濕度、材料轉(zhuǎn)換率等多方面因素的影響，因此，光伏系統(tǒng)的輸出是一個(gè)不穩(wěn)定的非線性變化的動(dòng)態(tài)工程，所以本文所采用的就是基于Takgai-Sugeno推理的模糊神經(jīng)網(wǎng)絡(luò)（簡(jiǎn)稱TS模糊神經(jīng)網(wǎng)絡(luò)）。

2 TS模糊神經(jīng)網(wǎng)絡(luò)

2.1 TS模糊邏輯

在TS模糊邏輯系統(tǒng)中，模糊規(guī)則有著如下的特殊形式：

R（1）：if x1 is F1l，…，if xnis Fnl then

y l=P0l+P1lx1+…+Pnlxn

3 預(yù)測(cè)模型的建立

3.1 輸入量的確定

光伏電池之所以能發(fā)電，是由于當(dāng)陽(yáng)光照射到半導(dǎo)體材料的太陽(yáng)能電池板上時(shí)，光能被吸收在太陽(yáng)能電池內(nèi)，并且產(chǎn)生電子（-）和空穴（+），而負(fù)價(jià)的電子多向n型聚集，正價(jià)的空穴多向p型聚集，因此，將太陽(yáng)能電池的正面和背面接上電極與燈泡等負(fù)荷連接，就能產(chǎn)生流。因此，日照量是影響光伏發(fā)電發(fā)電量的重要因素之一，所以日照量應(yīng)作為輸入量之一。此外光伏發(fā)電的發(fā)電量還受溫度、濕度、安裝角度、材料轉(zhuǎn)換率等眾多因素的影響，在這眾多因素中，溫度對(duì)光伏發(fā)電量的影響是較大的，因此將溫度作為另一個(gè)輸入量輸入到預(yù)測(cè)模型中。

本文的輸入量為日照量與溫度組成的一個(gè)2×1的列向量，因?yàn)楸疚乃A(yù)測(cè)的是晴天一整日的發(fā)電量（單位kW?h/日），因此，日照量取一整日的日照量（單位kW?h/日），溫度取一整日的平均溫度（單位℃）。若輸入向量用x表示，一整天的日照量用h表示，溫度用t表示，則輸入量可表示為下面的形式：

x=[h，t]T

3.2 TS型模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與初始參數(shù)的確定

本文是針對(duì)全年晴天的當(dāng)天發(fā)電量做出預(yù)測(cè)的，所以按季節(jié)劃分將全年的數(shù)據(jù)劃分成了春、夏、冬，由于秋天的日照量與溫度和春天的接近，所以在本文中并沒(méi)有單獨(dú)列出秋季，而是只按春、夏、冬三季的數(shù)據(jù)來(lái)建模預(yù)測(cè)。

由已有的先驗(yàn)知識(shí)，可將數(shù)據(jù)按照春、夏、冬三季進(jìn)行劃分，所以模糊神經(jīng)網(wǎng)絡(luò)的規(guī)則層的隱層節(jié)點(diǎn)數(shù)也就為三，由于規(guī)則層已經(jīng)確定，故可以知道模糊化層與去模糊化層的隱層節(jié)點(diǎn)數(shù)均為三個(gè)，因此可知本文的模糊神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型結(jié)構(gòu)如圖2所示。

3.3 TS型模糊神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

設(shè)有輸入、輸出樣本為{（xl，dl），l=1，2，…，L}，在這里L(fēng)表示訓(xùn)練樣本的數(shù)量，為輸入向量，在本文中表示由當(dāng)天日照量與當(dāng)天平均溫度組成的一個(gè)2×1的列向量。將網(wǎng)絡(luò)誤差E設(shè)為：

E=■（yl-dl）2-||y-d|22

其中，y=[y1，y2，…，yL]T，表示神經(jīng)網(wǎng)絡(luò)的實(shí)際輸出；d=[d1，d2，…dL]T，表示神經(jīng)網(wǎng)絡(luò)的期望輸出；||.|2表示向量的2范數(shù)。

本文中，在不影響結(jié)果的前提下，為了降低神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的復(fù)雜度，故將隸屬度函數(shù)變?yōu)椋?/p>

ωij=exp-■（bij（xil-cij））2

將神經(jīng)網(wǎng)絡(luò)的輸出函數(shù)變?yōu)椋?/p>

yl =■ωij=（p0j+p1jx1l+…+pnjxnl）

因?yàn)楸疚氖窃贛ATLAB中進(jìn)行編程預(yù)測(cè)，所以將各種數(shù)據(jù)都表示成矩陣的形式，通過(guò)對(duì)矩陣的處理，使模糊神經(jīng)網(wǎng)絡(luò)的理解難度和操作難度都大大降低，因此，規(guī)定X=[x1，x2，…，xL]表示輸入樣本組成的n×L維矩陣；Ω=[ω1，ω2，…，ωL]表示輸入樣本X的隸屬度函數(shù)值ωl j所組成的m×L維矩陣；P=[p0，p1，…，pn]表示線性系數(shù)pi j所組成的m×（n+1）維矩陣；C=[c1，c2，…，cm]表示中心ci j所組成的n×m維矩陣；B=[b1，b2，…，bm]表示中心寬度bi j所組成的n×m維矩陣。

在訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)，首先計(jì)算隸屬度函數(shù)值ωl j所組成的矩陣Ω=[ω1，ω2，…，ωL]，在此基礎(chǔ)上計(jì)算神經(jīng)網(wǎng)絡(luò)的輸出y及相應(yīng)的誤差E；然后計(jì)算誤差E對(duì)系數(shù)矩陣P，B，C的偏導(dǎo)數(shù)，根據(jù)梯度下降法更新P，B，C；最后利用P，B，C來(lái)更新Ω，E等參數(shù)。如果未達(dá)到退出條件，則繼續(xù)迭代，達(dá)到了，則退出整個(gè)迭代過(guò)程，最終，就可以完成整個(gè)模糊神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。在MATLAB中矩陣P和B的初始值可以由normrnd函數(shù)隨機(jī)生成，而矩陣C則可以由kmeans函數(shù)得到相應(yīng)的初始聚類中心，通過(guò)訓(xùn)練數(shù)據(jù)的學(xué)習(xí)過(guò)程，得到一個(gè)符合要求的模糊神經(jīng)網(wǎng)絡(luò)。

4 預(yù)測(cè)模型的訓(xùn)練與結(jié)果分析

為了使模糊神經(jīng)網(wǎng)絡(luò)的訓(xùn)練有較高的精度，需要大量的數(shù)據(jù)對(duì)模型進(jìn)行評(píng)估訓(xùn)練，本次模擬采用了120組數(shù)據(jù)進(jìn)行預(yù)測(cè)，其中90組作為訓(xùn)練樣本，30組作為測(cè)試樣本，所用的數(shù)據(jù)均是隨機(jī)模擬5kW光伏逆變器日發(fā)電量數(shù)據(jù)， 在訓(xùn)練過(guò)程中，共取了90組數(shù)據(jù)來(lái)訓(xùn)練，因此L=90；而規(guī)則數(shù)共有3條，因此這里m=3；而輸入的是有溫度與日照量組成的兩行一列的列向量，因此n=2；為了使訓(xùn)練結(jié)果更加精確化，這里O置的最大迭代步數(shù)為1 000，迭代步長(zhǎng)為0.001，圖3是訓(xùn)練預(yù)測(cè)結(jié)果與實(shí)際結(jié)果的折線圖。

在圖中，實(shí)線表示預(yù)測(cè)輸出，用“+”表示實(shí)際輸出，而用虛線表示實(shí)際輸出與預(yù)測(cè)輸出之間的差值，從圖中可以明顯看出訓(xùn)練好的模糊神經(jīng)網(wǎng)絡(luò)符合要求。隨后，再將用于測(cè)試的數(shù)據(jù)帶入已訓(xùn)練好的模糊神經(jīng)網(wǎng)絡(luò)中，結(jié)果如圖4所示。

圖4是用于測(cè)試的數(shù)據(jù)的實(shí)際輸出與預(yù)測(cè)輸出的比較，“+”表示實(shí)際輸出，實(shí)線表示預(yù)測(cè)輸出，虛線表示實(shí)際輸出與預(yù)測(cè)輸出的差值。從預(yù)測(cè)的結(jié)果來(lái)看，相較于傳統(tǒng)的預(yù)測(cè)方法來(lái)說(shuō)，本文所提出的模糊神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法，不論是在預(yù)測(cè)精度上還是在訓(xùn)練收斂速度上，都有一定程度的提高，雖說(shuō)本文的原始數(shù)據(jù)并非實(shí)測(cè)數(shù)據(jù)，但是本文所用的數(shù)據(jù)皆是參考了大量資料之后擬合出的數(shù)據(jù)，所以有實(shí)際參考價(jià)值。

5 結(jié) 語(yǔ)

為了提高光伏并網(wǎng)系統(tǒng)的穩(wěn)定性與安全性，本文提出了一種基于模糊神經(jīng)網(wǎng)絡(luò)的電量預(yù)測(cè)模型。根據(jù)光伏系統(tǒng)的發(fā)電原理與大量的研究資料，確定了以每一天的日照量與平均溫度為整個(gè)系統(tǒng)的輸入量，來(lái)對(duì)這一整天的光伏系統(tǒng)的發(fā)電量做出預(yù)測(cè)，并且根據(jù)已有的先驗(yàn)知識(shí)與相關(guān)理論，確定了本文所用的模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。再通過(guò)擬合的符合實(shí)際的數(shù)據(jù)來(lái)訓(xùn)練整個(gè)模型，最后通過(guò)一組測(cè)試數(shù)據(jù)來(lái)測(cè)試本預(yù)測(cè)模型是否達(dá)到要求。實(shí)驗(yàn)結(jié)果表明，本模型能較為準(zhǔn)確地預(yù)測(cè)出光伏發(fā)電系統(tǒng)一整天的發(fā)電量，具有一定的工程應(yīng)用價(jià)值。

主要參考文獻(xiàn)

第4篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

［關(guān)鍵詞］BP神經(jīng)網(wǎng)絡(luò)農(nóng)業(yè)工程農(nóng)業(yè)管理農(nóng)業(yè)決策

一、引言

采用神經(jīng)網(wǎng)絡(luò)算法的信息處理技術(shù)，以其較強(qiáng)的計(jì)算性和學(xué)習(xí)性，現(xiàn)如今已經(jīng)在各工程領(lǐng)域內(nèi)得到了廣泛應(yīng)用。隨著科技不斷的發(fā)展和研究的不斷深入，農(nóng)業(yè)系統(tǒng)中采用的傳統(tǒng)分析和管理的方法已經(jīng)不能滿足農(nóng)業(yè)工程領(lǐng)域快速發(fā)展的需要。在農(nóng)業(yè)系統(tǒng)中采用神經(jīng)網(wǎng)絡(luò)技術(shù)可在一定程度上可彌補(bǔ)傳統(tǒng)方法的不足，現(xiàn)已成為實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化的一個(gè)重要途徑。神經(jīng)網(wǎng)絡(luò)現(xiàn)已在農(nóng)業(yè)生產(chǎn)的各個(gè)環(huán)節(jié)得到廣泛的應(yīng)用，從作物營(yíng)養(yǎng)控制、作物疾病診斷、產(chǎn)量預(yù)測(cè)到產(chǎn)品分級(jí)，顯示了巨大的潛力，并正以很快的速度與生產(chǎn)實(shí)際相結(jié)合。目前應(yīng)用比較多的BP神經(jīng)網(wǎng)絡(luò)，可通過(guò)學(xué)習(xí)以任意精度逼近任何連續(xù)映射，在農(nóng)業(yè)生產(chǎn)與科研中展示出了廣闊的應(yīng)用前景。

BP人工神經(jīng)網(wǎng)絡(luò)方法。人工神經(jīng)網(wǎng)絡(luò)是對(duì)生物神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)化和模擬的一種信息處理系統(tǒng)，具有很強(qiáng)的信息存貯能力和計(jì)算能力，屬于一種非經(jīng)典的數(shù)值算法。通?？煞譃榍跋蛏窠?jīng)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)和自組織映射神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經(jīng)網(wǎng)絡(luò)，可通過(guò)連續(xù)不斷的在相對(duì)于誤差函數(shù)斜率下降的方向上計(jì)算網(wǎng)絡(luò)權(quán)值以及偏差的變化而逐漸逼近目標(biāo)值，每一次數(shù)字和偏差的變化都與網(wǎng)絡(luò)誤差的影響成正比，并以反向傳播的方式傳遞到每一層，從而實(shí)現(xiàn)了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程。BP人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖所示，BP神經(jīng)網(wǎng)絡(luò)可分為輸入層、中間層(隱含層)和輸出層，其中輸入和輸出都只有一層，中間層可有一層或多層。同層的網(wǎng)絡(luò)結(jié)點(diǎn)之間沒(méi)有連接。每個(gè)網(wǎng)絡(luò)結(jié)點(diǎn)表示一個(gè)神經(jīng)元，其傳遞函數(shù)通常采用Sigmoid型函數(shù)。BP神經(jīng)網(wǎng)絡(luò)相當(dāng)于從輸入到輸出的高度非線性映射，對(duì)于樣本輸入和輸出，可以認(rèn)為存在某一映射函數(shù)g，使得y0=g(xi)，i＝1，2，3，…，m，其中m為樣本數(shù)，xi為輸入樣本，yo為輸出結(jié)果。

BP神經(jīng)網(wǎng)絡(luò)的一個(gè)顯著優(yōu)點(diǎn)就是其可進(jìn)行自學(xué)習(xí)，能夠通過(guò)訓(xùn)練得到預(yù)期的效果。其學(xué)習(xí)過(guò)程由正向傳播和反向傳播組成，神經(jīng)網(wǎng)絡(luò)的輸入值經(jīng)過(guò)非線性變換從輸入層經(jīng)隱含層神經(jīng)元的逐層處理傳向輸出層，此為正向傳播過(guò)程。每一層神經(jīng)元的狀態(tài)將影響到下一層神經(jīng)元狀態(tài)。如果輸出層得到的數(shù)值與期望輸出有一定的偏差，則轉(zhuǎn)入反向傳播過(guò)程。神經(jīng)網(wǎng)絡(luò)通過(guò)對(duì)輸入值和希望的輸出值(教師值)進(jìn)行比較，根據(jù)兩者之間的差的函數(shù)來(lái)調(diào)整神經(jīng)網(wǎng)絡(luò)的各層的連接權(quán)值和各個(gè)神經(jīng)元的閾值，最終使誤差函數(shù)達(dá)到最小。其調(diào)整的過(guò)程是由后向前進(jìn)行的，稱為誤差反向傳播BP算法。具體學(xué)習(xí)過(guò)程如下：

（1)隨機(jī)給各個(gè)權(quán)值賦一個(gè)初始權(quán)值，要求各個(gè)權(quán)值互不相等，且均為較小的非零數(shù)。

（2)輸入樣本集中每一個(gè)樣本值，確定相應(yīng)的網(wǎng)絡(luò)實(shí)際輸出值。

（3)計(jì)算實(shí)際的輸出值與相應(yīng)的樣本集中的相應(yīng)輸出值的差值。

（4)按極小誤差方式調(diào)整權(quán)值矩陣。

（5)判斷網(wǎng)絡(luò)誤差是否小于訓(xùn)練前人為設(shè)定的一個(gè)較小的值，若小于，則跳出運(yùn)算，此時(shí)的結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果；若大于，則繼續(xù)計(jì)算。

（6）判斷最大迭代次數(shù)是否大于預(yù)先設(shè)定的數(shù)，若小于，返回（2）;若大于，則中止運(yùn)算，其結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果。

上述的計(jì)算過(guò)程循環(huán)進(jìn)行，直到完成給定的訓(xùn)練次數(shù)或達(dá)到設(shè)定的誤差終止值。

二、BP神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)工程領(lǐng)域中的應(yīng)用

1.在農(nóng)業(yè)生產(chǎn)管理與農(nóng)業(yè)決策中的應(yīng)用

農(nóng)業(yè)生產(chǎn)管理受地域、環(huán)境、季節(jié)等影響較大，用產(chǎn)生式規(guī)則完整描述實(shí)際系統(tǒng)，可能會(huì)因組合規(guī)則過(guò)多而無(wú)法實(shí)現(xiàn)。神經(jīng)網(wǎng)絡(luò)的一個(gè)顯著的優(yōu)點(diǎn)就是其具有較強(qiáng)的自學(xué)習(xí)、自適應(yīng)、自組織能力，通過(guò)對(duì)有代表性的樣本的學(xué)習(xí)可以掌握學(xué)習(xí)對(duì)象的內(nèi)在規(guī)律，從而可以在一定程度上克服上述信息量大的問(wèn)題。神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)生產(chǎn)管理方面可用于農(nóng)作物生長(zhǎng)過(guò)程中對(duì)農(nóng)作物生長(zhǎng)需求進(jìn)行預(yù)測(cè)，從而通過(guò)對(duì)養(yǎng)分、水分、溫度、以及PH值的優(yōu)化控制達(dá)到最優(yōu)的生長(zhǎng)狀況。采用神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法的主要思想可描述為：（1）收集一定規(guī)模的樣本集，采用BP算法進(jìn)行訓(xùn)練，使網(wǎng)絡(luò)收斂到預(yù)定的精度；（2）將網(wǎng)絡(luò)權(quán)值矩陣保存到一存儲(chǔ)介質(zhì)中，例如文本文件或數(shù)據(jù)庫(kù)中；（3）對(duì)于待預(yù)測(cè)數(shù)據(jù)的輸入部分，從存儲(chǔ)介質(zhì)中讀出網(wǎng)絡(luò)連接權(quán)值矩陣，然后通過(guò)BP神經(jīng)網(wǎng)絡(luò)的前向傳播算法計(jì)算網(wǎng)絡(luò)輸出，輸出結(jié)果既是預(yù)測(cè)出來(lái)的數(shù)值向量。如霍再林等針對(duì)油葵不同階段的相對(duì)土壤含鹽濃度對(duì)其產(chǎn)量的影響有一定的規(guī)律的現(xiàn)象，以油葵的6個(gè)成長(zhǎng)階段的土壤溶液含鹽的相對(duì)濃度為輸入樣本，相對(duì)產(chǎn)量為輸出樣本，通過(guò)比較發(fā)現(xiàn)，訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)能較好預(yù)測(cè)油葵產(chǎn)量，采用此方法可補(bǔ)充傳統(tǒng)模型的不足，為今后進(jìn)一步的研究開(kāi)辟了新路。

在農(nóng)業(yè)決策方面，主要將農(nóng)業(yè)專家面對(duì)各種問(wèn)題時(shí)所采取的方法的經(jīng)驗(yàn)，作為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本，從而采用神經(jīng)網(wǎng)絡(luò)建立的專家系統(tǒng)將從一定程度上彌補(bǔ)了傳統(tǒng)方法的不足，將農(nóng)業(yè)決策智能化。如何勇、宋海燕針對(duì)傳統(tǒng)專家系統(tǒng)自學(xué)習(xí)能力差的缺點(diǎn)，利用神經(jīng)網(wǎng)絡(luò)可自我訓(xùn)練的優(yōu)點(diǎn)，將神經(jīng)網(wǎng)絡(luò)引入專家系統(tǒng)中。將小麥缺素時(shí)的田間宏觀表現(xiàn)，葉部、莖部、果實(shí)癥狀及引起缺素的原因這五個(gè)方面的可信度值作為神經(jīng)網(wǎng)絡(luò)的輸入量，將農(nóng)業(yè)專家診斷的結(jié)論作為輸出量，將這些數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)。實(shí)際應(yīng)用表明此系統(tǒng)自動(dòng)診斷的結(jié)果與專家現(xiàn)場(chǎng)診斷的結(jié)果基本一致，從而采用該系統(tǒng)能夠取代專家，實(shí)現(xiàn)作物的自我診斷，為農(nóng)業(yè)管理方面提供了極大的幫助。如馬成林等針對(duì)于傳統(tǒng)施肥決策方法中非線性關(guān)系描述不足的問(wèn)題，基于數(shù)據(jù)包分析和BP神經(jīng)網(wǎng)絡(luò)，建立了施肥決策模型，應(yīng)用表明，在有限的范圍內(nèi)，模型預(yù)測(cè)結(jié)果較為合理，可以反映玉米的需肥特性。劉鋮等人提出采用神經(jīng)網(wǎng)絡(luò)應(yīng)用在農(nóng)業(yè)生產(chǎn)決策中，以莜麥播種方式?jīng)Q策為例，通過(guò)對(duì)產(chǎn)生式規(guī)則的分析導(dǎo)出神經(jīng)網(wǎng)絡(luò)輸入、輸出單元數(shù)，并通過(guò)多次試驗(yàn)確定隱層單元數(shù)，用MATLAB方針結(jié)果表明，采用神經(jīng)網(wǎng)絡(luò)作為農(nóng)業(yè)生產(chǎn)決策的方法，取得了較好的效果。譚宗琨提出將基于互聯(lián)網(wǎng)環(huán)境下的神經(jīng)網(wǎng)絡(luò)應(yīng)用在玉米智能農(nóng)業(yè)專家系統(tǒng)中，根據(jù)農(nóng)作物發(fā)育進(jìn)程分成若干個(gè)發(fā)育期，分別對(duì)各個(gè)發(fā)育期建立管理模型，依照作物各發(fā)育期進(jìn)程時(shí)間間隔，由計(jì)算機(jī)系統(tǒng)自動(dòng)選取相應(yīng)的模型進(jìn)行決策。應(yīng)用分析的結(jié)果表明采用神經(jīng)網(wǎng)絡(luò)的玉米智能專家系統(tǒng)已初步接近農(nóng)業(yè)生產(chǎn)的實(shí)際。

2.在農(nóng)產(chǎn)品外觀分析和品質(zhì)評(píng)判

農(nóng)產(chǎn)品的外觀，如形狀、大小、色澤等在生產(chǎn)過(guò)程中是不斷變化的，并且受人為和自然等復(fù)雜因素的影響較大。農(nóng)產(chǎn)品的外觀直接影響到農(nóng)產(chǎn)品的銷售，研究出農(nóng)作物外觀受人為和自然的影響因素，通過(guò)神經(jīng)網(wǎng)絡(luò)進(jìn)行生產(chǎn)預(yù)測(cè)，可解決農(nóng)產(chǎn)品由于不良外觀而造成的損失。如Murase 等針對(duì)西紅柿表皮破裂的現(xiàn)象，西紅柿表皮應(yīng)力的增長(zhǎng)與西紅柿果肉靠近表皮部分水分的增加有關(guān)，當(dāng)表皮應(yīng)力超過(guò)最大表皮強(qiáng)度時(shí)，將導(dǎo)致表皮破裂。用人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)，預(yù)測(cè)在環(huán)境溫度下的表皮應(yīng)力，可通過(guò)控制環(huán)境變量來(lái)減少西紅柿表皮破裂所造成的損失。

在農(nóng)業(yè)科研和生產(chǎn)中，農(nóng)產(chǎn)品的品質(zhì)評(píng)判大多是依賴于對(duì)農(nóng)產(chǎn)品外觀的辨識(shí)。例如對(duì)果形尺寸和顏色等外觀判別果實(shí)的成熟度，作物與雜草的辨別，種子的外觀質(zhì)量檢測(cè)。由于農(nóng)業(yè)環(huán)境的復(fù)雜性和生物的多樣性，農(nóng)產(chǎn)品的外觀不具有較確定的規(guī)律性和可描述性，單一采用圖像處理技術(shù)辨識(shí)農(nóng)產(chǎn)品的外觀時(shí)不宜過(guò)多采取失真處理和變換，否則則增加圖像處理的復(fù)雜性，特征判別也相對(duì)困難。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)、自組織的能力，比較適宜解決農(nóng)業(yè)領(lǐng)域中許多難以用常規(guī)數(shù)學(xué)方法表達(dá)的復(fù)雜問(wèn)題，與圖像處理技術(shù)相結(jié)合后，可根據(jù)圖像特征進(jìn)行選擇性判別。采用此方法可以部分替代人工識(shí)別的工作，提高了生產(chǎn)效率，也有利于實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化。如Liao等將玉米籽粒圖像用34個(gè)特征參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入變量，將輸出的種粒形態(tài)分為5類，經(jīng)過(guò)學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)對(duì)完整籽粒分類的準(zhǔn)確率達(dá)到93％，破籽粒分類的準(zhǔn)確率達(dá)91％。

3.蔬菜、果實(shí)、谷物等農(nóng)產(chǎn)品的分級(jí)和鑒定

在農(nóng)業(yè)生產(chǎn)中，蔬菜、果實(shí)、谷物等農(nóng)產(chǎn)品的分級(jí)和鑒定是通過(guò)對(duì)農(nóng)產(chǎn)品外觀的辨識(shí)進(jìn)行的。傳統(tǒng)的農(nóng)產(chǎn)品外觀的辨識(shí)方法費(fèi)時(shí)費(fèi)力、預(yù)測(cè)可靠度很低，而且多采用人工操作，評(píng)價(jià)受到操作者主觀因素的影響，評(píng)判的精度難以保證。利用人工神經(jīng)網(wǎng)絡(luò)技術(shù)結(jié)合圖像處理技術(shù)可部分代替以往這些主要依靠人工識(shí)別的工作，從而大大提高生產(chǎn)效率，實(shí)現(xiàn)農(nóng)業(yè)生產(chǎn)與管理的自動(dòng)化和智能化。

利用BP神經(jīng)網(wǎng)絡(luò)技術(shù)對(duì)農(nóng)產(chǎn)品果形尺寸和顏色等外觀評(píng)判，目前國(guó)內(nèi)外已有不少成果用于實(shí)際生產(chǎn)中。何東健等以計(jì)算機(jī)視覺(jué)技術(shù)進(jìn)行果實(shí)顏色自動(dòng)分級(jí)為目的，研究了用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行顏色分級(jí)的方法。分別用120個(gè)著色不同的紅星和紅富士蘋果作為訓(xùn)練樣本集對(duì)網(wǎng)絡(luò)進(jìn)行離線訓(xùn)練。兩個(gè)品種的蘋果先由人工依據(jù)標(biāo)準(zhǔn)按著色度分成4級(jí)，對(duì)每一個(gè)品種分別求出7個(gè)模式特征值作為BP網(wǎng)絡(luò)的輸入，用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)進(jìn)行分級(jí)。結(jié)果表明紅富士和紅星果實(shí)的平均分級(jí)一致率分別為94.2％和94.4％。劉禾等用對(duì)稱特征、長(zhǎng)寬特征、寬度特征、比值特征等一系列特征值來(lái)描述果形。采用BP網(wǎng)絡(luò)與人工智能相結(jié)合，建立果形判別人工神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)。試驗(yàn)水果品種為富士和國(guó)光。試驗(yàn)表明系統(tǒng)對(duì)富士學(xué)習(xí)率為80％，對(duì)非學(xué)習(xí)樣本的富士蘋果的果形判別推確率為75％，系統(tǒng)對(duì)國(guó)光學(xué)習(xí)率為89％，對(duì)非學(xué)習(xí)樣本的國(guó)光蘋果果形判別系統(tǒng)的難確率為82％。

三、未來(lái)的發(fā)展方向

人工神經(jīng)網(wǎng)絡(luò)的信息處理技術(shù)現(xiàn)已在農(nóng)業(yè)工程領(lǐng)域內(nèi)得到了迅速的應(yīng)用，采用人工神經(jīng)網(wǎng)絡(luò)算法的農(nóng)業(yè)系統(tǒng)能夠從一定程度上改善控制效果，但此技術(shù)在農(nóng)業(yè)范圍內(nèi)還不夠成熟，有待于進(jìn)一步的研究。今后科研的方向大體上可以從以下幾方面著手：

1.人工神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)

人工神經(jīng)網(wǎng)絡(luò)算法由于本身具有一定的缺點(diǎn)，從而采用人工神經(jīng)網(wǎng)絡(luò)的算法的信息處理技術(shù)在應(yīng)用過(guò)程中具有一定的局限性。在今后的研究中，可以從人工神經(jīng)網(wǎng)絡(luò)方向著手，改進(jìn)人工神經(jīng)網(wǎng)絡(luò)算法，從而實(shí)現(xiàn)其在農(nóng)業(yè)領(lǐng)域內(nèi)更好的應(yīng)用。近年來(lái)隨著模糊算法、蟻群算法等算法的相繼出現(xiàn)，將神經(jīng)網(wǎng)絡(luò)與其他算法結(jié)合在一起已經(jīng)成為了研究的熱門話題，也是未來(lái)算法研究的主要方向之一。

2.應(yīng)用領(lǐng)域的擴(kuò)展

人工神經(jīng)網(wǎng)絡(luò)算法在農(nóng)業(yè)工程方面現(xiàn)已得到了迅速的發(fā)展，擴(kuò)展其在農(nóng)業(yè)工程領(lǐng)域的應(yīng)用范圍是未來(lái)的一個(gè)主要研究方向。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)能力，可對(duì)農(nóng)業(yè)系統(tǒng)的非線形特性進(jìn)行較好的描述，采用人工神經(jīng)網(wǎng)絡(luò)可解決傳統(tǒng)方法的不足，從而實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化。如何將神經(jīng)網(wǎng)絡(luò)較好地引入到農(nóng)業(yè)系統(tǒng)，解決農(nóng)業(yè)工程中的部分問(wèn)題，已是今后農(nóng)業(yè)科研中的一個(gè)方向。

四、結(jié)束語(yǔ)

神經(jīng)網(wǎng)絡(luò)作為一種人工智能范疇的計(jì)算方法，具有良好的自學(xué)習(xí)與數(shù)學(xué)計(jì)算的能力，可通過(guò)計(jì)算機(jī)程序進(jìn)行模擬運(yùn)算，現(xiàn)已廣泛用于模式識(shí)別、管理決策等方面。隨著計(jì)算機(jī)硬件和軟件的不斷發(fā)展與農(nóng)業(yè)工程方面的研究的不斷深入，神經(jīng)網(wǎng)絡(luò)將在農(nóng)業(yè)管理、農(nóng)業(yè)決策、農(nóng)作物外觀分類、品質(zhì)評(píng)判等方面充分發(fā)揮其自學(xué)習(xí)能力強(qiáng)，計(jì)算能力強(qiáng)的優(yōu)勢(shì)，通過(guò)對(duì)樣本數(shù)據(jù)的學(xué)習(xí)，神經(jīng)網(wǎng)絡(luò)可較好地解決農(nóng)作物生長(zhǎng)過(guò)程中的作物分類、預(yù)測(cè)等非線形的問(wèn)題。在農(nóng)業(yè)工程領(lǐng)域內(nèi)，神經(jīng)網(wǎng)絡(luò)擁有廣闊的科研前景。

參考文獻(xiàn):

[1]余英林李海洲:神經(jīng)網(wǎng)絡(luò)與信號(hào)分析[M]. 廣州: 華南理工大學(xué)出版社,1996:45

[2]霍再林史海濱孔東等: 基于人工神經(jīng)網(wǎng)絡(luò)的作物水―鹽響應(yīng)初步研究[J].內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報(bào)，2003，24（3）：66～70

[3]何勇宋海燕:基于神經(jīng)網(wǎng)絡(luò)的作物營(yíng)養(yǎng)診斷專家系統(tǒng)[J]. 農(nóng)業(yè)工程學(xué)報(bào),2005,21（1）:110～113

[4]馬成林吳才聰張書慧等:基與數(shù)據(jù)包絡(luò)分析和人工神經(jīng)網(wǎng)絡(luò)的變量施肥決策方法研究[J].農(nóng)業(yè)工程學(xué)報(bào),2006，20（2）:152～155

[5]劉鋮楊盤洪: 莜麥播種方式?jīng)Q策的BP神經(jīng)網(wǎng)絡(luò)模型[J]. 太原理工大學(xué)學(xué)報(bào)，2006,37(5):119～121

[6]譚宗琨: BP人工神經(jīng)網(wǎng)絡(luò)在玉米智能農(nóng)業(yè)專家系統(tǒng)中的應(yīng)用[J].農(nóng)業(yè)網(wǎng)絡(luò)信息，2004(10):9～1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92～3579

第5篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：圖像復(fù)原 BP神經(jīng)網(wǎng)絡(luò) Hopfield神經(jīng)網(wǎng)絡(luò) 應(yīng)用

中圖分類號(hào)：TP391.41 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-9416（2013）11-0040-02

1 引言

圖像復(fù)原是一項(xiàng)富有現(xiàn)實(shí)意義的工作，它涉及到廣泛的技術(shù)領(lǐng)域，是圖像處理領(lǐng)域研究的焦點(diǎn)之一。在得到圖像的過(guò)程中，由于各種各樣的原因，包括與觀測(cè)對(duì)象的相對(duì)運(yùn)動(dòng)、介質(zhì)散射、成像系統(tǒng)缺陷和環(huán)境噪聲等原因，使得最終的圖像都會(huì)有一定程度的退化。圖像復(fù)原就是從退化的圖像中恢復(fù)圖像的本來(lái)面目。傳統(tǒng)的圖像復(fù)原處理問(wèn)題的關(guān)鍵在于建立退化模型，估計(jì)退化過(guò)程中的參數(shù)，由此通過(guò)相應(yīng)的逆過(guò)程得到原始圖像。獲得準(zhǔn)確的圖像退化模型是比較困難的事情。大多數(shù)圖像復(fù)原的實(shí)際問(wèn)題是點(diǎn)擴(kuò)展函數(shù)以及原始圖像均未知的盲復(fù)原問(wèn)題，這類問(wèn)題具有更嚴(yán)重的病態(tài)性因而進(jìn)一步增加了解決的難度。人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN）為圖像復(fù)原問(wèn)題的解決提供了另外一條路徑，這是基于人工神經(jīng)網(wǎng)絡(luò)具有的模擬人類神經(jīng)的非線性、自組織、自學(xué)習(xí)、自適應(yīng)特性。一般而言，人工神經(jīng)網(wǎng)絡(luò)適合于解決無(wú)法或很難精確建立數(shù)學(xué)模型、不完全清楚內(nèi)部機(jī)理的問(wèn)題，人工神經(jīng)網(wǎng)絡(luò)的很多特性適合解決圖像復(fù)原問(wèn)題。近些年來(lái)，對(duì)人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原的研究越來(lái)越多，形成了很多豐富的神經(jīng)網(wǎng)絡(luò)模型和算法。BP（Back Propagation反向傳播）和Hopfield（霍普菲爾德）是典型的人工神經(jīng)網(wǎng)絡(luò)類型，也是在圖像復(fù)原領(lǐng)域應(yīng)用較多的神經(jīng)網(wǎng)絡(luò)類型。

2 BP神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原中的應(yīng)用

2.1 BP神經(jīng)網(wǎng)絡(luò)的特性

BP神經(jīng)網(wǎng)絡(luò)是上世紀(jì)80年代美國(guó)加州大學(xué)的Rumelhart、McClelland及其團(tuán)隊(duì)研究并行分布信息處理時(shí)提出的采用反向傳播算法的多層前饋網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)具有良好的泛化能力，其隱層的非線性傳遞函數(shù)神經(jīng)元可以學(xué)習(xí)輸入輸出之間的線性或非線性關(guān)系。在1989年，RobertHecht-Nielson證明了對(duì)于任何一個(gè)在閉區(qū)間內(nèi)連續(xù)的函數(shù)都可以由具有一個(gè)隱含層的BP網(wǎng)絡(luò)來(lái)逼近，這樣，一個(gè)三層（輸入層、隱層和輸出層）的BP神經(jīng)網(wǎng)絡(luò)即能完成對(duì)多維度函數(shù)的逼近。這些特性，使得選用BP神經(jīng)網(wǎng)絡(luò)簡(jiǎn)單地實(shí)現(xiàn)在未知點(diǎn)擴(kuò)展函數(shù)的情況下，擬合原始圖像與退化圖像之間的關(guān)系，從而得到滿意的圖像復(fù)原結(jié)果成為可能。

2.2 BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原

BP神經(jīng)網(wǎng)絡(luò)用退化圖像與相對(duì)應(yīng)的原始圖像進(jìn)行訓(xùn)練，退化圖像為網(wǎng)絡(luò)的輸入，原始圖像為網(wǎng)絡(luò)的輸出。訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)會(huì)在退化圖像與原始圖像之間建立非線性的映射關(guān)系，使得利用這種非線性關(guān)系即可實(shí)現(xiàn)在只有退化圖像的情況下對(duì)齊進(jìn)行復(fù)原。

利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原，一般用輸入圖像的N×N鄰域內(nèi)的N2個(gè)像素點(diǎn)對(duì)應(yīng)輸出圖像的一個(gè)像素點(diǎn)。這樣的對(duì)應(yīng)方法會(huì)使整個(gè)運(yùn)算量增大，但正由于參與運(yùn)算的像素點(diǎn)增加，使得網(wǎng)絡(luò)具有更好的泛化和魯棒能力。由于三層BP神經(jīng)網(wǎng)絡(luò)可以任意精度逼近某一多維度函數(shù)，因而其應(yīng)用于圖像復(fù)原時(shí)使用三層網(wǎng)絡(luò)結(jié)構(gòu)。輸入層和輸入層節(jié)點(diǎn)數(shù)分別由輸入圖像像素?cái)?shù)量和輸出圖像像素?cái)?shù)量決定，隱層節(jié)點(diǎn)數(shù)量和訓(xùn)練方法在很大程度上決定了網(wǎng)絡(luò)性能。

為了便于網(wǎng)絡(luò)計(jì)算，通過(guò)神經(jīng)網(wǎng)絡(luò)計(jì)算前通常將輸入圖像進(jìn)行歸一化。以灰度圖像為例，將圖像數(shù)據(jù)[0～255]轉(zhuǎn)換到[-1～1]或[0～1]。圖像經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)復(fù)原后還需進(jìn)行反歸一化轉(zhuǎn)換，將計(jì)算得到的數(shù)據(jù)轉(zhuǎn)換為圖像數(shù)據(jù)，即將[-1～1]或[0～1]轉(zhuǎn)換到[0～255]。

通常，運(yùn)用BP網(wǎng)絡(luò)進(jìn)行圖像復(fù)原算法流程包括：（1）圖像的預(yù)處理，得到歸一化的便于神經(jīng)網(wǎng)絡(luò)計(jì)算的數(shù)據(jù)；（2）使用退化圖像與對(duì)應(yīng)的原始圖像（訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)；（3）將待復(fù)原圖像輸入訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原；（4）數(shù)據(jù)的后處理，將網(wǎng)絡(luò)輸出數(shù)據(jù)進(jìn)行反歸一化，得到復(fù)原圖像。

3 Hopfield神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原中的應(yīng)用

3.1 Hopfield神經(jīng)網(wǎng)絡(luò)的特性

不同于BP神經(jīng)網(wǎng)絡(luò)，Hopfield神經(jīng)網(wǎng)絡(luò)是一種單層反饋網(wǎng)絡(luò)，信號(hào)在網(wǎng)絡(luò)中不僅向前傳遞，還在神經(jīng)元之間傳遞。圖1是有三個(gè)神經(jīng)元的Hopfield神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖。Hopfield神經(jīng)網(wǎng)絡(luò)由美國(guó)加州理工學(xué)院物理學(xué)家J·J·Hopfield在上世紀(jì)80年代提出，并首次在神經(jīng)網(wǎng)絡(luò)研究中引入了計(jì)算能量函數(shù)的概念，通過(guò)研究網(wǎng)絡(luò)的穩(wěn)定性與計(jì)算能量函數(shù)的相關(guān)性給出了網(wǎng)絡(luò)的穩(wěn)定性判據(jù)。J·J·Hopfield運(yùn)用Hopfield神經(jīng)網(wǎng)絡(luò)成功地探討了旅行商問(wèn)題（TSP）的求解方法。HNN神經(jīng)網(wǎng)絡(luò)采用灌輸式學(xué)習(xí)方式，其網(wǎng)絡(luò)權(quán)值是事先按一定規(guī)則計(jì)算出來(lái)的，確定之后不再改變，各神經(jīng)元的狀態(tài)在運(yùn)行過(guò)程中不斷更新，網(wǎng)絡(luò)穩(wěn)定時(shí)各神經(jīng)元的狀態(tài)便是問(wèn)題的解。Hopfield神經(jīng)網(wǎng)絡(luò)的這些自身特征使其適于應(yīng)用于聯(lián)想記憶和求解最優(yōu)化問(wèn)題。

3.2 Hopfield神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原

利用神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原的方法分為兩類：一種是用原始圖像和模糊圖像構(gòu)成的樣本訓(xùn)練神經(jīng)網(wǎng)絡(luò)，在訓(xùn)練好的網(wǎng)絡(luò)中建立起原始圖像與模糊圖像的非線性映射關(guān)系，然后以帶復(fù)原的模糊圖像作為網(wǎng)絡(luò)的輸入，經(jīng)過(guò)網(wǎng)絡(luò)輸出的圖像數(shù)據(jù)就是經(jīng)過(guò)復(fù)原的圖像，BP神經(jīng)網(wǎng)絡(luò)就是運(yùn)用這種方法進(jìn)行圖像復(fù)原的典型神經(jīng)網(wǎng)絡(luò)。另一種是經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)反復(fù)的數(shù)學(xué)迭代計(jì)算復(fù)原，運(yùn)用Hopfield神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原屬于這類方法。

其中是神經(jīng)網(wǎng)絡(luò)的狀態(tài)向量，為網(wǎng)絡(luò)的權(quán)值矩陣，為由網(wǎng)絡(luò)中各神經(jīng)元閾值構(gòu)成的向量。Hopfield神經(jīng)網(wǎng)絡(luò)的運(yùn)行結(jié)果即網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài)就是達(dá)到最小值時(shí)的狀態(tài)。由式（4）和（5）可以看出圖像復(fù)原的目標(biāo)函數(shù)與Hopfield神經(jīng)網(wǎng)絡(luò)能量函數(shù)具有相似的表達(dá)形式，因而可以建立兩者之間的聯(lián)系，從而將圖像復(fù)原問(wèn)題轉(zhuǎn)變?yōu)樯窠?jīng)網(wǎng)絡(luò)的運(yùn)算問(wèn)題，這也就是Hopfield神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原的基本原理。

運(yùn)用Hopfield神經(jīng)網(wǎng)絡(luò)解決圖像復(fù)原問(wèn)題首先要確定網(wǎng)絡(luò)的權(quán)值矩陣。可以按照Hebb學(xué)習(xí)規(guī)則得出[4]。完成網(wǎng)絡(luò)初始化后，將退化圖像輸入網(wǎng)絡(luò)，從網(wǎng)絡(luò)中選取一個(gè)神經(jīng)元按照Hopfield神經(jīng)網(wǎng)絡(luò)的運(yùn)算規(guī)則得出神經(jīng)元的輸出，將所有神經(jīng)元求出輸出后判斷該網(wǎng)絡(luò)是否達(dá)到穩(wěn)定狀態(tài)，即計(jì)算前后的網(wǎng)絡(luò)能量函數(shù)的誤差是否小于要求的范圍。如果網(wǎng)絡(luò)不穩(wěn)定，需要重復(fù)迭代計(jì)算；網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài)時(shí)，神經(jīng)網(wǎng)絡(luò)的狀態(tài)向量就是要求的原始圖像。經(jīng)過(guò)一定的后處理就能得到具有一定精度的原始圖像。

4 結(jié)語(yǔ)

人工神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原問(wèn)題中的應(yīng)用已經(jīng)擴(kuò)展到了很多方面，包括三維顯微圖像、高能閃光照相等領(lǐng)域[5-6]。神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原中的應(yīng)用機(jī)理也不斷得到深入研究。這些得益于神經(jīng)網(wǎng)絡(luò)算法不依賴求解問(wèn)題本身數(shù)學(xué)模型的特點(diǎn)，以及自身強(qiáng)大的泛化能力。BP和Hopfield神經(jīng)網(wǎng)絡(luò)都能成功地運(yùn)用在圖像復(fù)原問(wèn)題中，在選用神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原研究時(shí)要注意到BP神經(jīng)網(wǎng)絡(luò)強(qiáng)烈地依賴退化圖像與原始圖像構(gòu)成的樣本集合對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，這就要求得到足夠的先驗(yàn)知識(shí)或者通過(guò)某種算法得到退化圖像與原始圖像相對(duì)應(yīng)的樣本群。Hopfield神經(jīng)網(wǎng)絡(luò)不依賴于退化圖像與原始圖像的先驗(yàn)知識(shí)，可以直接針對(duì)退化圖像進(jìn)行復(fù)原。這就需要根據(jù)不同的實(shí)際情況選取合適的網(wǎng)絡(luò)類型來(lái)解決問(wèn)題。

參考文獻(xiàn)

[1]尚鋼，鐘珞，陳立耀.神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù)選取[J].武漢工業(yè)大學(xué)學(xué)報(bào)，1997，19（2）.

[2]王晗.基于Hopfield神經(jīng)網(wǎng)絡(luò)的圖像恢復(fù)[D].武漢：華中科技大學(xué)南京理工大學(xué)，2006年4月.

[3]席旭剛，羅志增.用Hopfield神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)觸覺(jué)圖像恢復(fù)[J].儀器儀表學(xué)報(bào)，2008，30（10）.

[4] Bianchini M，F(xiàn)rasconi P.Learning without local minima in radial basis function networks[J].IEEE Transaction on Neural Networks，1995，6（3）：749～756.

第6篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：人工神經(jīng)網(wǎng)絡(luò)；電力變壓器；故障診斷

中圖分類號(hào)：TP393 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1009-3044（2016）32-0174-03

1引言

電力變壓器在長(zhǎng)期的運(yùn)行中，故障是不可避免的。變壓器一旦損壞會(huì)造成大面積停電且故障修復(fù)耗時(shí)長(zhǎng)，因此變壓器故障的及早發(fā)現(xiàn)和處理具有非常重要的意義。

電力變壓器的故障一般有機(jī)械故障、熱性故障和電性故障，由于機(jī)械故障一般都以熱性故障和電性故障的形式體現(xiàn)，因此主要以熱性故障和電性故障為主。熱性故障一般為中低溫過(guò)熱和高溫過(guò)熱，電性故障一般為低能放電和高能放電。傳統(tǒng)的變壓器故障診斷方法存在著效率偏低以及診斷準(zhǔn)確率不高的問(wèn)題，因此我們可以利用人工神經(jīng)網(wǎng)絡(luò)的方法對(duì)電力變壓器的故障進(jìn)行自動(dòng)診斷。

2人工神經(jīng)網(wǎng)絡(luò)

2.1 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)（ANNs）是對(duì)人腦或生物神經(jīng)網(wǎng)絡(luò)若干基本特性的抽象和模擬。

依靠系統(tǒng)的復(fù)雜程度，ANNs可通過(guò)調(diào)整內(nèi)部大量節(jié)點(diǎn)之間相互連接的關(guān)系，進(jìn)而對(duì)有效信息進(jìn)行可靠處理。而B(niǎo)P神經(jīng)網(wǎng)絡(luò)通常是指基于誤差反向傳播（Back Propagation）算法的多層前向神經(jīng)網(wǎng)絡(luò)， 不僅能對(duì)輸入-輸出模式映射關(guān)系進(jìn)行學(xué)習(xí)和存儲(chǔ)，而且對(duì)描述此種映射關(guān)系的數(shù)學(xué)方程不需要事前揭示。最速下降法為BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則，通過(guò)反向傳播來(lái)持續(xù)調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使其誤差平方和最小。

本文采用BP神經(jīng)網(wǎng)絡(luò)的三層前饋結(jié)構(gòu)，分別為（input）、隱含層（hide layer）和輸出層（output layer）。輸入層的節(jié)點(diǎn)數(shù)為5（對(duì)應(yīng)電力變壓器油中氣體H2、CH4、C2H4、C2H2、C2H6），輸出層則有5個(gè)節(jié)點(diǎn)（對(duì)應(yīng)無(wú)故障，中低溫過(guò)熱，高溫過(guò)熱，低能放電，高能放電），隱含層的節(jié)點(diǎn)數(shù)根據(jù)經(jīng)驗(yàn)公式確定：

其中，r為隱層的節(jié)點(diǎn)數(shù)，n為輸入的節(jié)點(diǎn)數(shù)，m為輸出的節(jié)點(diǎn)數(shù)，a則為1～10之間的常數(shù)。經(jīng)試驗(yàn)，本文r取13。各層間神經(jīng)元相互連接，且各層內(nèi)沒(méi)有連接。如圖1所示：

BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練首先對(duì)每一層的權(quán)值和偏差進(jìn)行初始化（用小的隨機(jī)數(shù)），以免被大的加權(quán)輸入飽和，并且需對(duì)一些參數(shù)進(jìn)行設(shè)定及初始化（期望的誤差最小值、最大循環(huán)次數(shù)、修正權(quán)值的學(xué)習(xí)效率）；第二步需要對(duì)網(wǎng)絡(luò)各層輸出矢量及網(wǎng)絡(luò)誤差進(jìn)行計(jì)算；第三步需要對(duì)各層反向傳播的誤差變化、各層權(quán)層的修正值及新的權(quán)值進(jìn)行計(jì)算，最后需要對(duì)權(quán)值修正后的誤差平方和進(jìn)行計(jì)算，若符合要求則訓(xùn)練完成，若不符合要求則繼續(xù)。

2.2電力變壓器故障診斷的BP神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)

2.2.1樣本數(shù)據(jù)的定義

電力變壓器的故障主要體現(xiàn)為中低溫過(guò)熱、高溫過(guò)熱、低能放電和高能放電。電力變壓器的故障數(shù)據(jù)一共為70組，其中樣本集數(shù)據(jù)為50組，測(cè)試集數(shù)據(jù)為20組，且分別定義樣本數(shù)據(jù)如下：

無(wú)故障，記為10000；

中低溫過(guò)熱，記為01000；

高溫過(guò)熱，記為00100；

低能放電，記為00010；

高能放電，記為00001。

2.2.2樣本數(shù)據(jù)的預(yù)處理

為提高神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效率，本論文對(duì)數(shù)據(jù)進(jìn)行了標(biāo)準(zhǔn)化處理，使其落入[-1，1]區(qū)間；并且對(duì)輸入樣本集數(shù)據(jù)進(jìn)行了主元分析，以減小各樣本矢量的相關(guān)性，從而達(dá)到降維的目的。

2.2.3 BP神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)參數(shù)設(shè)置

MATLAB中，BP神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)需要定義有關(guān)參數(shù)：訓(xùn)練步數(shù)、顯示訓(xùn)練結(jié)果的間隔步數(shù)、訓(xùn)練目標(biāo)誤差、訓(xùn)練允許時(shí)間和訓(xùn)練中最小允許梯度值等，最終可返回訓(xùn)練后的權(quán)值、循環(huán)訓(xùn)練的總數(shù)和最終誤差。神經(jīng)網(wǎng)絡(luò)對(duì)象的一些主要訓(xùn)練參數(shù)及含義如表1所示。

2.2.4 BP神經(jīng)網(wǎng)絡(luò)驗(yàn)證

表2列出了20組測(cè)試集數(shù)據(jù)，最后一列為網(wǎng)絡(luò)期望輸出，對(duì)應(yīng)變壓器的實(shí)際故障類型。

由電力變壓器故障診斷的誤差變化曲線可知：在使用BP神經(jīng)網(wǎng)絡(luò)法對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練時(shí)，網(wǎng)絡(luò)只訓(xùn)練了112步，速度非常的快。網(wǎng)絡(luò)的訓(xùn)練均方誤差此時(shí)已經(jīng)達(dá)到目標(biāo)誤差0.01的數(shù)量級(jí)，因此該網(wǎng)絡(luò)可用。對(duì)樣本集數(shù)據(jù)進(jìn)行訓(xùn)練后，我們可得到一個(gè)相關(guān)的BP神經(jīng)網(wǎng)絡(luò)模型，再用測(cè)試集數(shù)據(jù)對(duì)改模型進(jìn)行驗(yàn)證，驗(yàn)證結(jié)果如表3所示。（注：圖中*號(hào)表示該BP神經(jīng)網(wǎng)絡(luò)模型診斷錯(cuò)誤的數(shù)據(jù)組）

由以上BP神經(jīng)網(wǎng)絡(luò)自動(dòng)診斷結(jié)果可以得知：電力變壓器故障診斷正確的個(gè)數(shù)為18個(gè)，故診斷正確率為90%左右。

3 結(jié)論

本文應(yīng)用人工神經(jīng)網(wǎng)絡(luò)的方法對(duì)電力變壓器的故障進(jìn)行了自動(dòng)診斷，診斷正確率可達(dá)90%。隨著計(jì)算機(jī)技術(shù)和人工智能技術(shù)的發(fā)展，利用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行變壓器的故障診斷有利于有效地實(shí)現(xiàn)對(duì)故障的綜合診斷，從而提高故障診斷的準(zhǔn)確性，可靠性和診斷效率，為變壓器故障診斷技術(shù)的發(fā)展拓展新的途徑。

參考文獻(xiàn)：

[1] 張錚，徐超，任淑霞，等.數(shù)字圖像處理與機(jī)器視覺(jué)――Visual C++與Matlab實(shí)現(xiàn)[M].北京：人民郵電出版社，2014.

[2] 馬銳.人工神經(jīng)網(wǎng)絡(luò)原理[M].北京：機(jī)械工業(yè)出版社，2010.

[3] 郭磊，董秀成.BP神經(jīng)網(wǎng)絡(luò)在變壓器故障診斷中的應(yīng)用[J] .西華大學(xué)學(xué)報(bào)，2008（5）：10-13.

[4] 殷躍.基于BP神經(jīng)網(wǎng)絡(luò)的電力變壓器故障診斷的研究[D].吉林：吉林大學(xué)通信工程學(xué)院，2007.

[5] 王連成.基于神經(jīng)網(wǎng)絡(luò)的DGA法在變壓器故障診斷中的應(yīng)用研究[D].黑龍江：哈爾濱工業(yè)大學(xué)電氣工程及自動(dòng)化學(xué)院，2009.

[6] 李霖.基于BP神經(jīng)網(wǎng)絡(luò)的變壓器故障診斷方法研究[D].湖南：長(zhǎng)沙理工大學(xué)電氣與信息工程學(xué)院，2013.

[7] 曾成碧，蒲維，曾先鋒.BP神經(jīng)網(wǎng)絡(luò)在油浸式變壓器過(guò)熱性故障診斷中的應(yīng)用[J]. 四川電力技術(shù)，2012（4）：60-63.

[8] 陳小玉.改進(jìn)的神經(jīng)網(wǎng)絡(luò)在變壓器故障診斷中的應(yīng)用[J].計(jì)算機(jī)仿真，2012（8）：318-321.

[9] 宋彩利， 吳宏岐.神經(jīng)網(wǎng)絡(luò)在變壓器故障診斷中的應(yīng)用研究[J].微計(jì)算機(jī)信息，2008（34）：155-157.

第7篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：匯率預(yù)測(cè) 非線性 神經(jīng)網(wǎng)絡(luò)

一、神經(jīng)網(wǎng)絡(luò)模型

關(guān)于神經(jīng)網(wǎng)絡(luò)，學(xué)界尚無(wú)一個(gè)嚴(yán)格統(tǒng)一的定義，一般來(lái)說(shuō)，人工神經(jīng)網(wǎng)絡(luò)就是基于模仿生物大腦的結(jié)構(gòu)和功能，由許多簡(jiǎn)單的并行工作的處理單元組成的，采用數(shù)學(xué)和物理方法進(jìn)行研究而構(gòu)成的一種信息處理系統(tǒng)或計(jì)算機(jī)，該系統(tǒng)是依據(jù)對(duì)外部輸入信息的動(dòng)態(tài)響應(yīng)來(lái)處理信息的。人工神經(jīng)網(wǎng)絡(luò)已經(jīng)完全不同于一般計(jì)算機(jī)的串行工作方式，其操作既不是串行的，也不是預(yù)先設(shè)定操作程序的，其基礎(chǔ)是訓(xùn)練而非優(yōu)化，目的是尋找到一個(gè)最優(yōu)的權(quán)重集合使輸出結(jié)果與實(shí)際最接近。

本文選用反饋型神經(jīng)網(wǎng)絡(luò)中的Elman網(wǎng)絡(luò)模型進(jìn)行匯率預(yù)測(cè)。反饋型神經(jīng)網(wǎng)絡(luò)是一種從輸出到輸入具有反饋連接的神經(jīng)網(wǎng)絡(luò)，其結(jié)構(gòu)比前饋網(wǎng)絡(luò)要復(fù)雜得多，擁有比前饋型神經(jīng)網(wǎng)絡(luò)更強(qiáng)的計(jì)算能力，其突出優(yōu)點(diǎn)是具有很強(qiáng)的聯(lián)想記憶和優(yōu)化計(jì)算功能。

Elman網(wǎng)絡(luò)的非線性狀態(tài)空間表達(dá)式為：

其中，u表示r維輸入向量，x表示n維隱藏層節(jié)點(diǎn)單元向量，xc表示 維反饋狀態(tài)向量，y表示m維輸出節(jié)點(diǎn)向量。ω1、ω2、ω3分別表示輸入層到隱藏層、連接層到隱藏層、隱藏層到輸出層的連接權(quán)值。G（?）為輸出神經(jīng)元函數(shù)，F(xiàn)（?）是隱藏層輸出的線性組合。 為隱藏層神經(jīng)元的傳遞函數(shù)，即激活函數(shù)，一般采用Sigmoid函數(shù)。

二、數(shù)據(jù)選擇與處理

本文選擇從2003年1月2日到2013年12月31日這11年的歐元兌美元匯率日平均價(jià)格數(shù)據(jù)，樣本數(shù)均為2759，利用Matlab軟件進(jìn)行分析。

為了使數(shù)據(jù)在模型訓(xùn)練過(guò)程中更好地收斂，在進(jìn)行網(wǎng)絡(luò)訓(xùn)練之前，首先對(duì)匯率數(shù)據(jù)進(jìn)行歸一化處理，使得匯率波動(dòng)處在0到1之間，歸一化公式為，

其中，ut表示t期歸一化日匯率，pt表示t期匯率價(jià)格，pmin表示匯率樣本集中的最小值，pmax表示匯率樣本集中的最大值，結(jié)果如圖1所示。

圖1

網(wǎng)絡(luò)訓(xùn)練完成后需要進(jìn)行樣本外預(yù)測(cè)，為了度量預(yù)測(cè)效果，需要選擇性能指標(biāo)對(duì)神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)性能進(jìn)行檢測(cè)，本文選擇均方根誤差（RMSE）。

其中，Y為模型預(yù)測(cè)所得數(shù)據(jù)，T為目標(biāo)數(shù)據(jù)，N為數(shù)據(jù)量。

三、實(shí)證分析

本文用試湊法選擇Elman神經(jīng)網(wǎng)絡(luò)的滯后期數(shù)，也就是決定了模型的輸入層和隱藏層神經(jīng)元數(shù)，用Matlab檢測(cè)，用不同數(shù)量的輸入變量訓(xùn)練網(wǎng)絡(luò)，以達(dá)到預(yù)期誤差為目標(biāo)，歐元兌美元匯率最優(yōu)滯后期數(shù)可以為3、5、8、10，分別用Elman（3）、Elman（5）、Elman（8）、Elman（10）表示。

本文選擇RMSE、MAE指標(biāo)來(lái)檢測(cè)Elman模型對(duì)匯率波動(dòng)的樣本內(nèi)預(yù)測(cè)效果，計(jì)算結(jié)果如下表1所示，

歐元兌美元 RMSE

Elman（3） 0.0070

Elman（5） 0.0087

Elman（8） 0.0025

Elman（10） 0.0040

表1歐元兌美元匯率Elman模型樣本內(nèi)預(yù)測(cè)檢驗(yàn)

RMSE和MAE兩個(gè)指標(biāo)用來(lái)比較各個(gè)模型樣本內(nèi)預(yù)測(cè)能力，指標(biāo)值越小說(shuō)明神經(jīng)網(wǎng)絡(luò)對(duì)樣本內(nèi)數(shù)據(jù)的擬合能力及預(yù)測(cè)效果越好。觀察表1， 滯后期數(shù)為8階時(shí)，Elman網(wǎng)絡(luò)對(duì)歐元兌美元匯率序列樣本內(nèi)預(yù)測(cè)的RMSE最小，因此滯后期數(shù)為8階時(shí)Elman模型對(duì)歐元兌美元匯率序列的樣本內(nèi)預(yù)測(cè)效果最好。

為了更直觀地了解不同滯后期數(shù)的Elman模型對(duì)貨幣匯率時(shí)間序列的樣本內(nèi)擬合及預(yù)測(cè)情況，下圖2給出了不同滯后期數(shù)的Elman神經(jīng)網(wǎng)絡(luò)對(duì)歐元匯率時(shí)間序列樣本集合進(jìn)行預(yù)測(cè)的誤差結(jié)果。

圖2歐元兌美元匯率時(shí)間序列樣本內(nèi)訓(xùn)練預(yù)測(cè)標(biāo)準(zhǔn)差

本文發(fā)現(xiàn)Elman（10）比其他三個(gè)模型擁有更好的樣本內(nèi)擬合能力。直觀上來(lái)看，兩條曲線重合效果越好說(shuō)明模型擬合能力越強(qiáng)。顯然，10階滯后的Elman神經(jīng)網(wǎng)絡(luò)對(duì)歐元匯率的擬合能力更好。

根據(jù)圖2，本文發(fā)現(xiàn)Elman（8）的樣本內(nèi)預(yù)測(cè)能力優(yōu)于其他，且Elman（10）的絕對(duì)誤差和標(biāo)準(zhǔn)差波動(dòng)幅度均大于其他。證明對(duì)于神經(jīng)網(wǎng)絡(luò)模型來(lái)說(shuō)，擁有更多的外部輸入信息并不一定可以改善模型訓(xùn)練效果。原因是訓(xùn)練過(guò)程中存在過(guò)擬合的現(xiàn)象。

歐元兌美元 RMSE

Elman（3） 0.0121

Elman（5） 0.0126

Elman（8） 0.0108

Elman（10） 0.0111

表2歐元兌美元匯率樣本外預(yù)測(cè)檢驗(yàn)

由表2中結(jié)果可以看出，與樣本內(nèi)預(yù)測(cè)一樣，神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)效果均隨著階數(shù)變化而改變，證明高階的神經(jīng)網(wǎng)絡(luò)模型比低階神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)效果更好。隨著網(wǎng)絡(luò)階數(shù)改變，本文發(fā)現(xiàn)在四個(gè)不同階數(shù)的Elman神經(jīng)網(wǎng)絡(luò)中Elman（8）在RMSE指標(biāo)上的表現(xiàn)均優(yōu)于其他三組訓(xùn)練結(jié)果。

為了更直觀地了解兩個(gè)模型對(duì)歐元匯率時(shí)間序列的樣本外預(yù)測(cè)情況，下圖3給出了不同階數(shù)的Elman神經(jīng)網(wǎng)絡(luò)對(duì)匯率時(shí)間序列樣本集合進(jìn)行預(yù)測(cè)的誤差結(jié)果。

圖3歐元兌美元匯率樣本外預(yù)測(cè)標(biāo)準(zhǔn)差

根據(jù)圖3，根據(jù)樣本外預(yù)測(cè)圖的直觀比較，以及標(biāo)準(zhǔn)差的波動(dòng)幅度比較，Elman（8）的預(yù)測(cè)效果要優(yōu)于另外三組預(yù)測(cè)結(jié)果。

四、結(jié)論

為了更好地提供匯率波動(dòng)預(yù)測(cè)的有效工具，在分析了傳統(tǒng)匯率預(yù)測(cè)研究中線性模型的局限性，并對(duì)歐元兌美元匯率時(shí)間序列進(jìn)行了正態(tài)性和序列相關(guān)性檢驗(yàn)等非線性檢驗(yàn)的基礎(chǔ)上，本文采用非線性方法中的神經(jīng)網(wǎng)絡(luò)模型對(duì)歐元匯率序列進(jìn)行擬合及預(yù)測(cè)。本文構(gòu)建了反饋型神經(jīng)網(wǎng)絡(luò)Elman模型，在實(shí)證研究中根據(jù)歐元匯率時(shí)間序列的特征估計(jì)出了影響神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)能力的各關(guān)鍵參數(shù)，研究了Elman網(wǎng)絡(luò)對(duì)匯率序列的樣本內(nèi)擬合及預(yù)測(cè)能力和樣本外預(yù)測(cè)能力，得出的主要結(jié)論有：

1.Elman神經(jīng)網(wǎng)絡(luò)模型對(duì)4種匯率時(shí)間序列的樣本內(nèi)預(yù)測(cè)能力和樣本外預(yù)測(cè)能力都可以達(dá)到較為準(zhǔn)確的水平。

2.隨著滯后階數(shù)的改變，各神經(jīng)網(wǎng)絡(luò)對(duì)匯率序列樣本內(nèi)預(yù)測(cè)的RMSE和MAE兩個(gè)指標(biāo)均隨之改變，并且隨著模型輸入層和隱藏層神經(jīng)元數(shù)的增加，各神經(jīng)網(wǎng)絡(luò)模型的樣本內(nèi)預(yù)測(cè)能力大體上都增強(qiáng)了。

參考文獻(xiàn)：

[1]張興會(huì)，劉玲，陳增強(qiáng)，袁著祉. 應(yīng)用Elman神經(jīng)網(wǎng)絡(luò)的混沌時(shí)間序列預(yù)測(cè)[J]. 華東理工大學(xué)學(xué)報(bào)， 2002，S1：30-33.

[2] 董曉娜，蘇道磊，李希亮，曲利，張慧峰，吳晨. 基于粗糙集的BP神經(jīng)網(wǎng)絡(luò)在震例中的應(yīng)用研究[J]. 地震研究，2012，02：251-259+296.

第8篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：短期負(fù)荷預(yù)測(cè)；神經(jīng)網(wǎng)絡(luò)；遺傳算法

作者簡(jiǎn)介：黃國(guó)棟（1976-），男，廣東陽(yáng)江人，廣東電網(wǎng)湛江供電局，工程師。（廣東 湛江 524005）

中圖分類號(hào)：TM714 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-0079（2014）06-0261-02

電力短期負(fù)荷預(yù)測(cè)是對(duì)未來(lái)一周以內(nèi)（通常為一周或一天）的負(fù)荷進(jìn)行預(yù)測(cè)。短期負(fù)荷預(yù)測(cè)在電網(wǎng)運(yùn)行實(shí)時(shí)控制和發(fā)電規(guī)劃中具有重要地位，短期負(fù)荷的預(yù)測(cè)結(jié)果是調(diào)度中心制定發(fā)電計(jì)劃、電力系統(tǒng)運(yùn)行安全評(píng)估、電力企業(yè)日常經(jīng)營(yíng)管理的重要依據(jù)。[1]在當(dāng)前電力系統(tǒng)市場(chǎng)化形勢(shì)下，提高負(fù)荷預(yù)測(cè)精度對(duì)于電力系統(tǒng)的經(jīng)濟(jì)運(yùn)行、合理制定機(jī)組檢修計(jì)劃和進(jìn)行電力需求管理等具有重要意義。

一、電力系統(tǒng)負(fù)荷變化的特點(diǎn)及預(yù)測(cè)方法

電力系統(tǒng)負(fù)荷變化受到很多因素的影響。一方面，負(fù)荷變化存在由未知不確定因素引起的隨機(jī)波動(dòng)；另一方面，具有周期變化的規(guī)律性，這也使得負(fù)荷曲線具有相似性；同時(shí)，由于受天氣、節(jié)假日等特殊情況的影響，負(fù)荷變化又會(huì)體現(xiàn)出差異性。[2]整體上講，負(fù)荷曲線是與很多因素相關(guān)而且難以用數(shù)學(xué)公式表達(dá)的非線性函數(shù)。

相對(duì)于早期的統(tǒng)計(jì)技術(shù)法和專家系統(tǒng)法，神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)在于它不依靠專家經(jīng)驗(yàn)，只利用觀察到的數(shù)據(jù)，可以在訓(xùn)練過(guò)程中通過(guò)學(xué)習(xí)來(lái)逼近任意的非線性輸入/輸出關(guān)系，因此，將神經(jīng)網(wǎng)絡(luò)方法應(yīng)用于電力負(fù)荷預(yù)測(cè)有著明顯的優(yōu)勢(shì)。但是，神經(jīng)網(wǎng)絡(luò)存在兩個(gè)主要問(wèn)題：收斂速度慢和容易陷入局部極小點(diǎn)。因此，本文采用遺傳算法優(yōu)化人工神經(jīng)網(wǎng)絡(luò)，建立電力短期負(fù)荷預(yù)測(cè)模型，并將結(jié)合廣東省某城市的電力負(fù)荷的實(shí)際情況對(duì)預(yù)測(cè)方法進(jìn)行探討和研究。

二、人工神經(jīng)網(wǎng)絡(luò)模型

BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)模型中的所有神經(jīng)元按照功能一般分成三層（輸入層、隱含層和輸出層），各層順次連接。[3]其三層模型拓?fù)浣Y(jié)構(gòu)如圖1所示。

BP算法的學(xué)習(xí)過(guò)程分為正向傳播過(guò)程和反向傳播過(guò)程兩個(gè)階段。

1.正向傳播過(guò)程

輸入信息從輸入層經(jīng)隱含層逐層計(jì)算各單元的實(shí)際輸出值，各神經(jīng)元的狀態(tài)只對(duì)下一層神經(jīng)元的狀態(tài)產(chǎn)生影響。設(shè)BP網(wǎng)絡(luò)的輸入層有n1個(gè)節(jié)點(diǎn)，隱含層有n2個(gè)節(jié)點(diǎn)，輸出層有n3個(gè)節(jié)點(diǎn)，輸入為xi，輸入層與隱含層之間的權(quán)值為wki，隱含層與輸出層之間的權(quán)值為wjk；隱含層的閾值為bk，輸出層的閾值為bj；隱含層的傳遞函數(shù)為f1（·），輸出層的傳遞函數(shù)為f2（·）。則隱含層節(jié)點(diǎn)輸出zk和輸出層節(jié)點(diǎn)輸出yj分別為：

k=1，2，……n2

（1）

j=1，2，……n3

（2）

2.反相傳播過(guò)程

若網(wǎng)絡(luò)實(shí)際輸出值與期望值之差，即誤差超出允許值，則逆向逐層修正連接權(quán)值。設(shè)BP網(wǎng)絡(luò)有P個(gè)輸入樣本，采用平方型誤差函數(shù)，于是得到全局誤差為：

（3）

式中：為第p個(gè)樣本的實(shí)際輸出，為期望輸出。

采用累計(jì)誤差BP算法依次調(diào)整輸出層權(quán)值wjk和隱含層權(quán)值wki誤差使全局誤差變小，即：

（4）

（5）

式中：η為學(xué)習(xí)率。

如此往復(fù)不斷調(diào)整權(quán)值，直到使網(wǎng)絡(luò)的誤差滿足要求。

三、遺傳算法

1.遺傳算法的基本原理

遺傳算法（Genetic Algorithms，簡(jiǎn)稱GA）是一種高度并行、自適應(yīng)全局優(yōu)化搜索方法。[4]它借鑒自然界遺傳和選擇機(jī)理，首先初始化一個(gè)種群，然后按照某種指標(biāo)在每一代選取較優(yōu)個(gè)體，利用遺傳算子（選擇、交叉和變異）對(duì)這些個(gè)體進(jìn)行組合，產(chǎn)生新一代個(gè)體，重復(fù)此過(guò)程，直到滿足優(yōu)化準(zhǔn)則為止。遺傳算法是基于對(duì)生物遺傳和進(jìn)化過(guò)程的計(jì)算機(jī)模擬，它能使各種人工系統(tǒng)具有良好的自適應(yīng)能力和優(yōu)化能力。目前，遺傳算法已經(jīng)廣泛應(yīng)用于規(guī)劃設(shè)計(jì)、組合優(yōu)化、自適應(yīng)控制、經(jīng)濟(jì)運(yùn)行、模式識(shí)別、人工智能、分子生物學(xué)、故障診斷以及計(jì)算機(jī)技術(shù)等領(lǐng)域，并取得了很好的效果。

2.遺傳算法的實(shí)現(xiàn)過(guò)程

（1）將問(wèn)題的解以編碼形式表示出來(lái)，并隨機(jī)生成若干個(gè)體，即初始群體。

（2）譯碼，計(jì)算目標(biāo)函數(shù)得出個(gè)體適應(yīng)度值，判斷是否滿足停止條件。

（3）根據(jù)個(gè)體適應(yīng)度值的高低，應(yīng)用選擇、交叉和突變算子進(jìn)行遺傳操作，產(chǎn)生下一代群體。

（4）返回步驟（2），反復(fù)執(zhí)行，直到滿足停止條件。最后，搜索到最優(yōu)個(gè)體，即問(wèn)題的最優(yōu)解。[5]

3.遺傳算法優(yōu)化BP網(wǎng)絡(luò)權(quán)值、閾值

由于遺傳算法是以最大值作為優(yōu)化目標(biāo)，為適應(yīng)神經(jīng)網(wǎng)絡(luò)算法的要求，將適應(yīng)度函數(shù)取反，即變?yōu)橐宰钚≈禐閮?yōu)化目標(biāo)。遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)算法的步驟：

（1）構(gòu)建BP網(wǎng)絡(luò)，確定遺傳算法個(gè)體長(zhǎng)度。

（2）生成初始種群，確定種群規(guī)模。對(duì)遺傳算法個(gè)體進(jìn)行編碼，編碼由神經(jīng)網(wǎng)絡(luò)的輸入層與隱含層的連接權(quán)值、隱含層閾值、隱含層與輸出層的連接權(quán)值和輸出層閾值四部分組成。

（3）根據(jù)個(gè)體得到BP網(wǎng)絡(luò)的權(quán)值和閾值，應(yīng)用訓(xùn)練數(shù)據(jù)訓(xùn)練，得到網(wǎng)絡(luò)的輸出。計(jì)算實(shí)際輸出與期望輸出的誤差，并依據(jù)此誤差計(jì)算個(gè)體適應(yīng)度值。

（4）根據(jù)個(gè)體的適應(yīng)度進(jìn)行選優(yōu)操作，選擇若干適應(yīng)度強(qiáng)的個(gè)體直接進(jìn)入下一代，適應(yīng)度差的個(gè)體被淘汰。

（5）進(jìn)行交叉、變異操作，生成下一代群體，然后返回步驟（3），直到得到最優(yōu)解。

四、實(shí)例分析

本試驗(yàn)分別采用單一神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)法、遺傳算法和神經(jīng)網(wǎng)絡(luò)的組合預(yù)測(cè)法，分別對(duì)廣東省某城市某一日的時(shí)負(fù)荷進(jìn)行預(yù)測(cè)與分析。以該市2010年6月2日～21日和2010年6月3日～22日（只選取工作日）的整點(diǎn)負(fù)荷訓(xùn)練樣本集，根據(jù)6月23日各整點(diǎn)的時(shí)負(fù)荷數(shù)據(jù)和24日各整點(diǎn)的溫度與天氣，預(yù)測(cè)6月24日的時(shí)負(fù)荷。

1.數(shù)據(jù)預(yù)處理

根據(jù)神經(jīng)網(wǎng)絡(luò)的建模原理，訓(xùn)練樣本的準(zhǔn)確性對(duì)于模型的預(yù)測(cè)準(zhǔn)確性至關(guān)重要。由于系統(tǒng)故障、線路停電檢修、通信錯(cuò)誤等原因，歷史負(fù)荷數(shù)據(jù)中經(jīng)常存在一些不良數(shù)據(jù)。這些不良數(shù)據(jù)具有很強(qiáng)的隨機(jī)性，會(huì)對(duì)網(wǎng)絡(luò)的預(yù)測(cè)精度和預(yù)測(cè)速度產(chǎn)生嚴(yán)重影響。因此，在建立電力短期負(fù)荷預(yù)測(cè)模型前，先對(duì)訓(xùn)練用的數(shù)據(jù)樣本進(jìn)行預(yù)處理。應(yīng)用格拉布斯準(zhǔn)則判別是否有不良數(shù)據(jù)，如果有要直接消除并以相應(yīng)的插值代替，從而提高數(shù)據(jù)的準(zhǔn)確度和可信度。經(jīng)計(jì)算，本實(shí)例的樣本數(shù)據(jù)正常，符合實(shí)際情況。

數(shù)據(jù)歸一化方法是神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)前對(duì)數(shù)據(jù)常做的一種處理方法。數(shù)據(jù)歸一化處理把所有的數(shù)據(jù)都轉(zhuǎn)化為[0，1]之間的數(shù)，其目的是取消數(shù)據(jù)間數(shù)量級(jí)差別，避免因?yàn)檩斎?輸出數(shù)據(jù)數(shù)量級(jí)差別較大而造成網(wǎng)絡(luò)預(yù)測(cè)誤差較大。最后需要進(jìn)行反歸一化，得到最終預(yù)測(cè)結(jié)果。[6]數(shù)據(jù)歸一化的方法主要有最大最小值法和平均數(shù)方差法。本文采用最大最小值法。

2.確定BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

考慮到該城市位于中國(guó)南端，緯度較低，影響電力負(fù)荷最主要的因素是溫度等天氣情況。采集預(yù)測(cè)日前一天每小時(shí)的負(fù)荷數(shù)據(jù)和預(yù)測(cè)日當(dāng)天各小時(shí)的溫度值（取平均值）、氣象類型（晴、陰、雨）作為預(yù)測(cè)條件。由此確定BP神經(jīng)網(wǎng)絡(luò)模型的輸入節(jié)點(diǎn)數(shù)為3；輸出節(jié)點(diǎn)數(shù)為1；隱含層節(jié)點(diǎn)數(shù)取8。為方便計(jì)算，將氣象類型數(shù)字化、歸一化處理，溫度值和負(fù)荷數(shù)據(jù)歸一化處理。本文采用分散式建模方法，即為一天的24小時(shí)各建立一個(gè)模型，共建立24個(gè)。分散式建模方法相對(duì)于集中建模方法（24小時(shí)用一個(gè)模型），雖然模型多，但是預(yù)測(cè)準(zhǔn)確度高。每個(gè)整點(diǎn)的時(shí)負(fù)荷采用相應(yīng)的BP神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)。建模工具選用matlab7.0。[7]

3.遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)

以整點(diǎn)負(fù)荷、溫度數(shù)據(jù)和氣象數(shù)據(jù)作為網(wǎng)絡(luò)的訓(xùn)練樣本集，應(yīng)用遺傳算法對(duì)基于單一神經(jīng)網(wǎng)絡(luò)建立的各個(gè)模型（每小時(shí)各建一個(gè)模型，共24個(gè)）進(jìn)行優(yōu)化，得到每個(gè)模型近似最優(yōu)權(quán)值和閾值。應(yīng)用優(yōu)化的權(quán)值和閾值對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，并保存訓(xùn)練好的網(wǎng)絡(luò)。最后，應(yīng)用訓(xùn)練好的網(wǎng)絡(luò)對(duì)各整點(diǎn)時(shí)負(fù)荷進(jìn)行預(yù)測(cè)。

表1 2010年6月24日負(fù)荷預(yù)測(cè)值與誤差

時(shí)間 實(shí)際值 BP神經(jīng)網(wǎng)絡(luò)

方法預(yù)測(cè) 誤差/% 遺傳算法神經(jīng)網(wǎng)絡(luò)方法預(yù)測(cè) 誤差/%

0：00 404.743 412.375 1.886 397.470 -1.797

1：00 382.280 376.397 -1.539 382.009 -0.071

2：00 359.937 369.208 2.576 352.735 -2.001

3：00 355.508 352.308 -0.900 357.115 0.452

4：00 347.836 341.504 -1.820 346.528 -0.376

5：00 347.545 342.354 -1.494 346.586 -0.276

6：00 354.184 356.650 0.696 360.655 1.827

7：00 364.504 363.920 -0.160 360.123 -1.202

8：00 395.881 392.358 -0.890 390.042 -1.475

9：00 462.394 471.572 1.985 464.239 0.399

10：00 500.344 502.904 0.512 494.610 -1.146

11：00 514.415 515.950 0.298 513.479 -0.182

12：00 477.935 489.898 2.503 485.792 1.644

13：00 479.680 473.516 -1.285 472.638 -1.468

14：00 470.148 477.403 1.543 462.066 -1.719

15：00 482.950 490.302 1.522 474.556 -1.738

16：00 487.295 483.800 -0.717 486.028 -0.260

17：00 501.225 503.265 0.407 505.465 0.846

18：00 470.361 462.391 -1.694 466.165 -0.892

19：00 455.995 443.791 -2.676 463.788 1.709

20：00 493.266 494.178 0.185 494.682 0.287

21：00 489.909 498.115 1.675 486.195 -0.758

22：00 474.146 486.493 2.604 480.348 1.308

23：00 446.201 436.293 -2.221 441.855 -0.974

單一神經(jīng)網(wǎng)絡(luò)方法和遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)方法得出的預(yù)測(cè)結(jié)果見(jiàn)表1和圖3。從圖3中3條曲線對(duì)比可以看出，應(yīng)用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型得到的預(yù)測(cè)結(jié)果比單一神經(jīng)網(wǎng)絡(luò)的更接近實(shí)際負(fù)荷曲線。單一神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)的負(fù)荷最大誤差為-2.676%，平均誤差1.408%，而用基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)的負(fù)荷最大誤差為-2.001%，平均誤差為1.034%，精度顯然大于單一神經(jīng)網(wǎng)絡(luò)。

五、結(jié)論

本文利用遺傳算法優(yōu)化了BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，并且應(yīng)用此模型對(duì)實(shí)際電力短期負(fù)荷進(jìn)行了預(yù)測(cè)試驗(yàn)分析。實(shí)證證明，遺傳算法的全局優(yōu)化搜索能力有效彌補(bǔ)了BP神經(jīng)網(wǎng)絡(luò)容易陷入局部極小值的缺陷，在此基礎(chǔ)上建立的預(yù)測(cè)模型的可靠性、準(zhǔn)確性都有所增強(qiáng)，證明了基于遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)的短期負(fù)荷預(yù)測(cè)方法是可行的。

參考文獻(xiàn)：

[1]牛東曉，曹樹(shù)華，趙磊，等.電力負(fù)荷預(yù)測(cè)技術(shù)及其應(yīng)用[M].北京：中國(guó)電力出版社，2002.

[2]陳金賽，張新波.基于改進(jìn)BP人工神經(jīng)網(wǎng)絡(luò)的電力負(fù)荷預(yù)測(cè)[J].杭州電子科技大學(xué)學(xué)報(bào)，2011，34（4）：173-176.

[3]田景文，高美娟.人工神經(jīng)網(wǎng)絡(luò)算法研究及應(yīng)用[M].北京：北京理工大學(xué)出版社，2006.

[4]王小平，曹立明.遺傳算法[M].西安：西安交通大學(xué)出版社，

2002.

[5]李玲純，田麗.基于遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測(cè)[J].安徽工程科技學(xué)院學(xué)報(bào)，2009，24（3）：57-60.

第9篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

摘要：

為更全面準(zhǔn)確地評(píng)價(jià)產(chǎn)品造型設(shè)計(jì)，在近幾年國(guó)內(nèi)外產(chǎn)品評(píng)價(jià)系統(tǒng)研究的基礎(chǔ)上，綜合運(yùn)用主成分分析法、聚類分析法、BP神經(jīng)網(wǎng)絡(luò)技術(shù)，對(duì)產(chǎn)品設(shè)計(jì)造型要素的感性意象進(jìn)行定量化研究，建立和完善了產(chǎn)品設(shè)計(jì)評(píng)價(jià)的神經(jīng)網(wǎng)絡(luò)模型．并以園林工具割草機(jī)產(chǎn)品設(shè)計(jì)為例訓(xùn)練模型，驗(yàn)證了模型的可行性和有效性．

關(guān)鍵詞：

產(chǎn)品設(shè)計(jì)評(píng)價(jià)；主成分分析；聚類分析；BP神經(jīng)網(wǎng)絡(luò)；感性工學(xué)

產(chǎn)品造型設(shè)計(jì)和評(píng)價(jià)是產(chǎn)品設(shè)計(jì)開(kāi)發(fā)過(guò)程中的重要組成部分．近年來(lái)，國(guó)內(nèi)外學(xué)者結(jié)合感性工學(xué)對(duì)產(chǎn)品造型設(shè)計(jì)和產(chǎn)品造型評(píng)價(jià)進(jìn)行了大量的研究．產(chǎn)品造型設(shè)計(jì)是一項(xiàng)復(fù)雜的系統(tǒng)運(yùn)行過(guò)程，除受客觀條件如經(jīng)濟(jì)、技術(shù)、構(gòu)造等要素的影響外，同時(shí)，社會(huì)審美、目標(biāo)消費(fèi)群的偏好、設(shè)計(jì)師經(jīng)驗(yàn)、背景等因素也相互影響［1］．人工神經(jīng)網(wǎng)絡(luò)是伴隨著生物學(xué)、數(shù)學(xué)、計(jì)算機(jī)等學(xué)科的發(fā)展而產(chǎn)生的一門新興的綜合交叉性學(xué)科．其中，最常見(jiàn)的是BP神經(jīng)網(wǎng)絡(luò)，它具備任意精度的函數(shù)逼近能力，具有自組織、自適應(yīng)、自學(xué)習(xí)、高度非線性映射性、泛化性、容錯(cuò)性的優(yōu)點(diǎn)［2］．BP神經(jīng)網(wǎng)絡(luò)因其很強(qiáng)的學(xué)習(xí)能力、抗故障性、并行性的優(yōu)點(diǎn)，特別適合于解決上述非線性很高的復(fù)雜系統(tǒng)．割草機(jī)產(chǎn)品應(yīng)用具有較強(qiáng)的地域性和個(gè)性化的消費(fèi)者群細(xì)分，造型設(shè)計(jì)目前未形成系統(tǒng)的理論和方法．將BP神經(jīng)網(wǎng)絡(luò)法和遺傳算法等應(yīng)用于產(chǎn)品造型設(shè)計(jì)的評(píng)價(jià)系統(tǒng)中尚屬于摸索階段．文獻(xiàn)［3］提出了BP神經(jīng)網(wǎng)絡(luò)技術(shù)與產(chǎn)品評(píng)價(jià)系統(tǒng)結(jié)合的可行性．文獻(xiàn)［4］通過(guò)將遺傳算法與神經(jīng)網(wǎng)絡(luò)相結(jié)合，進(jìn)一步優(yōu)化了產(chǎn)品設(shè)計(jì)評(píng)價(jià)模型的精度．產(chǎn)品造型設(shè)計(jì)與評(píng)價(jià)是個(gè)復(fù)雜的過(guò)程，需要多層次的系統(tǒng)分析．為此，本文將綜合運(yùn)用主成分分析法、聚類分析法與BP神經(jīng)網(wǎng)絡(luò)技術(shù)，定量地研究感性意象與產(chǎn)品造型設(shè)計(jì)之間的關(guān)系．以園林工具割草機(jī)產(chǎn)品為例，把產(chǎn)品造型要素的集合分組為由類似對(duì)象組成的多個(gè)類，分析影響割草機(jī)產(chǎn)品感性意象的主要造型特征，基于MatlabR2014a平臺(tái)，建立BP神經(jīng)網(wǎng)絡(luò)模型，檢測(cè)產(chǎn)品造型與目標(biāo)消費(fèi)者群體偏好之間的對(duì)應(yīng)關(guān)系，以驗(yàn)證和提高產(chǎn)品設(shè)計(jì)評(píng)價(jià)模型的可行性和準(zhǔn)確度．

1研究流程

本文以割草機(jī)產(chǎn)品為例，綜合應(yīng)用主成分分析、聚類分析方法和BP神經(jīng)網(wǎng)絡(luò)技術(shù)，對(duì)感性意象進(jìn)行定量化研究，建立和完善產(chǎn)品造型特征與感性意象關(guān)系評(píng)價(jià)的神經(jīng)網(wǎng)絡(luò)模型．研究流程如圖1所示．具體流程如下：

（1）通過(guò)網(wǎng)絡(luò)調(diào)研并篩選得到描述割草機(jī)外形的形容詞．

（2）通過(guò)網(wǎng)絡(luò)搜集各國(guó)割草機(jī)圖片樣本，對(duì)圖片進(jìn)行去色、去標(biāo)志處理，排除顏色和品牌對(duì)試驗(yàn)樣本的影響．

（3）把7點(diǎn)量表建立在已經(jīng)選擇出來(lái)的感性意象形容詞上，讓每個(gè)測(cè)試者針對(duì)這些選定的形容詞對(duì)每個(gè)試驗(yàn)樣本打分．將試驗(yàn)所得數(shù)據(jù)運(yùn)用主成分分析，并結(jié)合專家意見(jiàn)，確定最終描述詞匯．

（4）將樣本進(jìn)行聚類分析，并通過(guò)專家對(duì)同類內(nèi)樣本共同特征的提取，明確影響割草機(jī)外形意象的造型特征，并分析各造型特征組合與感性意象的關(guān)系．

（5）建立BP神經(jīng)網(wǎng)絡(luò)模型，以試驗(yàn)數(shù)據(jù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型．

（6）神經(jīng)網(wǎng)絡(luò)準(zhǔn)確率檢測(cè)，總結(jié)分析．

2割草機(jī)外觀特征與感性意象認(rèn)知關(guān)系量化試驗(yàn)

2．1試驗(yàn)準(zhǔn)備

通過(guò)調(diào)研，共搜集整理近5年銷售生產(chǎn)的割草機(jī)產(chǎn)品圖片150張，分別來(lái)自不同國(guó)家和地區(qū)．對(duì)圖片進(jìn)行去色、去標(biāo)志處理，以排除顏色、品牌及其他因素對(duì)試驗(yàn)樣本的影響．利用KJ法［5］篩選得到20個(gè)圖片樣本，部分樣本圖片如圖2所示．經(jīng)過(guò)表1的分析可以得到形容詞的意象空間，專家設(shè)計(jì)師結(jié)合這一意象空間進(jìn)行總結(jié)和分析，得到其3個(gè)維度上的感性意象描述形容詞，分別為“科技－落后”“樸素－華麗”“易用－復(fù)雜”．

2．3關(guān)鍵造型特征提取和聚類分析

將意象空間的樣本進(jìn)行聚類分析，把產(chǎn)品造型要素的集合分組為由類似的對(duì)象組成的多個(gè)類，分析影響割草機(jī)產(chǎn)品感性意象的主要造型特征．通過(guò)專家設(shè)計(jì)師評(píng)價(jià)和問(wèn)卷調(diào)查統(tǒng)計(jì)，抽取同類樣本內(nèi)的共同特征，得到最主要的影響割草機(jī)感性意象的造型特征．聚類分析的結(jié)果如表2所示．

3BP神經(jīng)網(wǎng)絡(luò)模型建立、訓(xùn)練、預(yù)測(cè)

3．1BP神經(jīng)網(wǎng)絡(luò)模型建立

選用MatlabR2014a為平臺(tái)進(jìn)行BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的建立與模擬，其模型如圖3所示．通過(guò)歷史數(shù)據(jù)的訓(xùn)練，用以檢測(cè)產(chǎn)品造型與其感性意向的對(duì)應(yīng)關(guān)系，建立產(chǎn)品造型設(shè)計(jì)評(píng)價(jià)體系．經(jīng)過(guò)數(shù)次預(yù)先進(jìn)行的試驗(yàn)，確定神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為3層，輸入層（包含2個(gè)節(jié)點(diǎn)）、隱含層（包含4個(gè)節(jié)點(diǎn)）、輸出層（包含1個(gè)節(jié)點(diǎn)）．輸入層是2個(gè)設(shè)計(jì)元素的編號(hào)組合，輸出層是關(guān)于“科技的－落后的”這個(gè)語(yǔ)匯對(duì)的感性意象評(píng)價(jià)值．

3．2BP神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練設(shè)置

BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)次數(shù)為5000次，采用梯度下降法，目標(biāo)誤差值為0．001，訓(xùn)練結(jié)果采用均方誤差衡量，將表4中樣本1?！?5＃的數(shù)據(jù)導(dǎo)入建立的網(wǎng)絡(luò)，訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)，在1753次訓(xùn)練時(shí)結(jié)果收斂，停止訓(xùn)練，其訓(xùn)練的結(jié)果如圖4所示．由圖4可得，其實(shí)際訓(xùn)練的誤差值為0．00908．

3．3BP神經(jīng)網(wǎng)絡(luò)模型測(cè)試選用

表4中樣本16?！?0＃測(cè)試神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)能力，即將5個(gè)樣本造型特征組合導(dǎo)入網(wǎng)絡(luò)的輸入層，將調(diào)查得到的數(shù)據(jù)與神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)的感性評(píng)價(jià)值進(jìn)行對(duì)比，結(jié)果如表5所示．由表5可見(jiàn)，實(shí)際感性評(píng)價(jià)值與預(yù)測(cè)感性評(píng)價(jià)值相對(duì)誤差較小，說(shuō)明網(wǎng)絡(luò)精度達(dá)到要求，驗(yàn)證了割草機(jī)產(chǎn)品評(píng)價(jià)模型的可行性和有效性．

4結(jié)語(yǔ)

本文將主成分分析法、聚類分析法與BP神經(jīng)網(wǎng)絡(luò)模型相結(jié)合，對(duì)割草機(jī)產(chǎn)品造型設(shè)計(jì)與感性意象之間的關(guān)系進(jìn)行分析，為產(chǎn)品造型設(shè)計(jì)符合目標(biāo)消費(fèi)群體需求提供客觀評(píng)價(jià)幫助．但是本文只針對(duì)割草機(jī)的主要產(chǎn)品造型要素進(jìn)行了試驗(yàn)，隨著研究方法及科技的不斷進(jìn)步，結(jié)合色彩、材質(zhì)、紋理甚至人機(jī)工程學(xué)等綜合因素的研究將成為下一步的研究重點(diǎn)．基于神經(jīng)網(wǎng)絡(luò)的意象認(rèn)知模型，還存在一定局限性，隨著科技的發(fā)展，結(jié)合認(rèn)知心理學(xué)、腦科學(xué)、人工智能等技術(shù)和方法將使相關(guān)研究得到更深入的發(fā)展．

參考文獻(xiàn)：

［1］王愛(ài)華，孫峻．BP神經(jīng)網(wǎng)絡(luò)在工程項(xiàng)目管理中的應(yīng)用［J］．建筑管理現(xiàn)代化，2009（4）：306－309．

［2］周美玉，李倩．神經(jīng)網(wǎng)絡(luò)在產(chǎn)品感性設(shè)計(jì)中的應(yīng)用［J］．東華大學(xué)學(xué)報(bào)（自然科學(xué)版），2011，37（4）：509－513．

［3］趙萬(wàn)芹．基于BP神經(jīng)網(wǎng)絡(luò)的產(chǎn)品造型設(shè)計(jì)評(píng)價(jià)［J］．計(jì)算機(jī)工程與設(shè)計(jì)，2009，30（24）：5715－5717．

［4］林琳，張志華，張睿欣．基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的產(chǎn)品造型設(shè)計(jì)評(píng)價(jià)［J］．計(jì)算機(jī)工程與設(shè)計(jì)，2015，36（3）：789－813．

［5］川喜田二郎．KJ法［M］．京都：中央公論新社，1986．