公務(wù)員期刊網(wǎng) 精選范文 人工神經(jīng)網(wǎng)絡(luò)范文

人工神經(jīng)網(wǎng)絡(luò)精選(九篇)

前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的人工神經(jīng)網(wǎng)絡(luò)主題范文,僅供參考,歡迎閱讀并收藏。

人工神經(jīng)網(wǎng)絡(luò)

第1篇:人工神經(jīng)網(wǎng)絡(luò)范文

隨著我國(guó)經(jīng)濟(jì)的快速發(fā)展,大量的工程建設(shè)也相繼展開,同時(shí)在工程建設(shè)中也出現(xiàn)了邊坡穩(wěn)定性的問(wèn)題,而這些邊坡是影響工程建設(shè)質(zhì)量的重要因素。邊坡的穩(wěn)定性是工程建設(shè)研究的重要方向,在建筑工程、道路工程等很多工程中都與邊坡的穩(wěn)定性有關(guān)。邊坡工程是一個(gè)不斷變化的動(dòng)態(tài)過(guò)程,其變形破壞機(jī)理非常復(fù)雜。邊坡穩(wěn)定的因素有很多,如地質(zhì)因素、工程因素等,還有其本身的不確定性。邊坡的穩(wěn)定性對(duì)工程建設(shè)具有重大的影響,因此,如何科學(xué)合理的設(shè)計(jì)邊坡工程對(duì)工程建設(shè)的順利進(jìn)行具有非常重要的意義。目前,邊坡穩(wěn)定性的評(píng)價(jià)方法有很多,但是這些方法由于受到人為因素的影響,且應(yīng)用起來(lái)有不確定性,并沒(méi)有得到廣泛的應(yīng)用。本文利用人工神經(jīng)網(wǎng)絡(luò)的知識(shí)來(lái)評(píng)價(jià)邊坡的穩(wěn)定性,通過(guò)人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)上的特點(diǎn)探索影響邊坡穩(wěn)定性的因素,從而保證邊坡工程的穩(wěn)定性,促進(jìn)工程建設(shè)的快速發(fā)展。

關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò);邊坡工程;穩(wěn)定性;貢獻(xiàn)

Abstract:With the rapid development of our country's economy, a lot of engineering construction, one after another in the engineering construction at the same time also appeared a slope stability problem, and the slope are important factors affecting the quality of project construction. Slope stability is one of the important direction, construction research in construction engineering, road engineering, etc. Many projects are related to the stability of the slope. Slope engineering is a constantly changing dynamic process, the deformation failure mechanism is very complicated. Slope stability factors are many, such as geological factors, engineering factors and so on, and its uncertainty. Slope stability has a significant influence on engineering construction, therefore, how to scientific and reasonable design of slope engineering smooth going on of the project construction has very important significance. At present, the slope stability evaluation method are many, but these methods under the influence of artificial factors, and the application to have uncertainty, has not been widely used. In this paper, using the knowledge of the artificial neural network to evaluate the slope stability, by artificial neural network structural characteristics to explore the influencing factors of slope stability, thus ensuring the stability of the slope engineering, to promote the rapid development of engineering construction.

Keywords: artificial neural network; Slope engineering; Stability; Contribution to the

中圖分類號(hào): TP183文獻(xiàn)標(biāo)識(shí)碼:A

1 邊坡穩(wěn)定性的研究現(xiàn)狀

邊坡的變形和破壞會(huì)對(duì)工程建設(shè)造成重大的影響,邊坡的穩(wěn)定性受到很多因素的影響,從范圍上來(lái)說(shuō),主要包括自然因素和人為活動(dòng)因素。水文、地質(zhì)、人為工程活動(dòng)都可能造成邊坡穩(wěn)定性的破壞,其中邊坡應(yīng)力的變化和發(fā)展是造成邊坡穩(wěn)定性破壞的根本原因。具有代表性的造成邊坡失穩(wěn)的因素如下:地下工程開挖后,由于地下土層應(yīng)力的突然釋放對(duì)邊坡原有應(yīng)力狀態(tài)的影響;邊坡上堆積物的載重傳播到邊坡上的影響;邊坡土層暴露在自然環(huán)境中遭受外部環(huán)境風(fēng)化的影響;地下水的流動(dòng)對(duì)邊坡土層強(qiáng)度的影響。

工程地質(zhì)是邊坡穩(wěn)定性問(wèn)題需要考慮的重要因素,它主要有以下兩個(gè)主要任務(wù):第一是要準(zhǔn)確的評(píng)價(jià)和預(yù)測(cè)與人為工程活動(dòng)關(guān)系密切的天然邊坡和人工邊坡的穩(wěn)定性、變化規(guī)律和發(fā)生破壞的幾率;第二是為科學(xué)合理的設(shè)計(jì)邊坡、保證邊坡的穩(wěn)定性、采取有力的邊坡防治措施提供準(zhǔn)確可靠的依據(jù)。而邊坡問(wèn)題的出現(xiàn)總是和邊坡的變形和破壞有關(guān),為了準(zhǔn)確的評(píng)價(jià)和預(yù)測(cè)邊坡工程的穩(wěn)定性,首先要確定邊坡是否可能發(fā)生變形與破壞以及變形和破壞的方式和規(guī)模。因此邊坡穩(wěn)定性的工程地質(zhì)要分析和研究邊坡變形和破壞的規(guī)律。邊坡變形和破壞表明了邊坡土層在不同的條件下變化的過(guò)程,同時(shí)為邊坡變形破壞力學(xué)模型的建立提供了重要依據(jù)。

邊坡工程穩(wěn)定性的研究邊坡工程的重要組成部分,越來(lái)越多的專家和研究人員加入到邊坡穩(wěn)定性研究的隊(duì)伍中,它會(huì)隨著邊坡工程的建設(shè)一直發(fā)展下去。

2 人工神經(jīng)網(wǎng)絡(luò)概述

2.1 人工神經(jīng)網(wǎng)絡(luò)的概念

人工神經(jīng)網(wǎng)絡(luò)是人工智能科學(xué)的一個(gè)重要分支,在21世紀(jì)得到了快速發(fā)展,通過(guò)人工神經(jīng)元之間的連接來(lái)處理網(wǎng)絡(luò)信息,來(lái)實(shí)現(xiàn)類似人的活動(dòng)和行為,以網(wǎng)絡(luò)元件建立知識(shí)與信息的關(guān)系,而構(gòu)成的一種信息處理體系。神經(jīng)元之間的變化過(guò)程決定了網(wǎng)絡(luò)的學(xué)習(xí)。神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)、信息處理、網(wǎng)絡(luò)模式識(shí)別等方面起著重要的作用,因此,它能將所有的控制因素考慮進(jìn)去。

2.2 評(píng)價(jià)信息表達(dá)

由于邊坡穩(wěn)定性的影響因素很多,定性的數(shù)據(jù)和資料錯(cuò)綜復(fù)雜,因此,要把這些定性的數(shù)據(jù)進(jìn)行量化,然后再輸入神經(jīng)網(wǎng)絡(luò)。邊坡結(jié)構(gòu)的高度、坡角等數(shù)據(jù)可直接進(jìn)行實(shí)際測(cè)定;巖體結(jié)構(gòu)類型和質(zhì)量類別等無(wú)法直接測(cè)定的數(shù)據(jù)要通過(guò)等級(jí)數(shù)字代碼來(lái)確定;巖體的巖性、破壞類型等定性數(shù)據(jù)則通過(guò)數(shù)字代碼來(lái)確定。將這些定性的數(shù)據(jù)進(jìn)行量化處理后,所有的信息數(shù)據(jù)就可以通過(guò)神經(jīng)網(wǎng)絡(luò)來(lái)處理,同時(shí)還能影響邊坡穩(wěn)定性因素的影響程度。顯而易見,當(dāng)我們獲得更多的原始信息,就能更加準(zhǔn)確的確定邊坡的特征,同時(shí)表達(dá)邊坡穩(wěn)定性因素的關(guān)系也更加復(fù)雜,通過(guò)神經(jīng)網(wǎng)絡(luò)的計(jì)算,就能確定邊坡穩(wěn)定性的評(píng)價(jià)信息,也就是邊坡的穩(wěn)定狀態(tài)。

2.3 人工神經(jīng)網(wǎng)絡(luò)的算法

人工神經(jīng)網(wǎng)絡(luò)是通過(guò)對(duì)人類大腦的結(jié)構(gòu)和運(yùn)行模式進(jìn)行研究而模擬其結(jié)構(gòu)和行為的工程系統(tǒng)。從20世紀(jì)40年代開始,人工神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型被第一次提出,從此人工神經(jīng)網(wǎng)絡(luò)的研究得到了快速發(fā)展,隨后很多專家和研究人員提出了其他的模型,極大地豐富了人工神經(jīng)網(wǎng)絡(luò)的研究?jī)?nèi)容。

近年來(lái),前饋神經(jīng)網(wǎng)絡(luò)模型BP是在工程建設(shè)中應(yīng)用最為廣泛的模型,其結(jié)構(gòu)由輸入層、隱含層和輸出層三部分組成,其中輸入層由N個(gè)神經(jīng)元組成,隱含層由P個(gè)神經(jīng)元組成,輸出層由q個(gè)神經(jīng)元組成。假設(shè)有i個(gè)學(xué)習(xí)樣本,F(xiàn)為輸出層神經(jīng)元的平方誤差,就構(gòu)成了BP網(wǎng)絡(luò)結(jié)構(gòu)。在學(xué)習(xí)的過(guò)程中,神經(jīng)元連接出現(xiàn)的錯(cuò)誤為網(wǎng)絡(luò)輸出的誤差,輸入層接收輸出層的神經(jīng)元的誤差后,分配給每一個(gè)神經(jīng)單元,最終確定各層神經(jīng)元的參考誤差。

前向計(jì)算過(guò)程和誤差接收過(guò)程共同組成了BP網(wǎng)絡(luò)學(xué)習(xí)過(guò)程,其分為以下三步進(jìn)行:

(1)網(wǎng)絡(luò)初始化:輸入學(xué)習(xí)率a和b,確定學(xué)習(xí)誤差e,確定權(quán)重矩陣U、V的初始值;

(2)確定學(xué)習(xí)樣本的輸入值和期望輸出值,計(jì)算網(wǎng)絡(luò)節(jié)點(diǎn)的具體數(shù)值,計(jì)算輸出層和隱含層的誤差,最后對(duì)各邊權(quán)值進(jìn)行調(diào)整;

(3)通過(guò)改變學(xué)習(xí)效率a和b,使BP算法更加合理,重復(fù)進(jìn)行計(jì)算一直到代價(jià)函數(shù)F小于學(xué)習(xí)誤差e,整個(gè)學(xué)習(xí)過(guò)程就結(jié)束了。

3 人工神經(jīng)網(wǎng)絡(luò)在邊坡穩(wěn)定性中的應(yīng)用

由于影響邊坡穩(wěn)定的因素的多樣性和不確定性,這些影響因素和邊坡穩(wěn)定性之間的關(guān)系非常復(fù)雜,所以邊坡工程是一個(gè)極其復(fù)雜的非線性系統(tǒng)。而人工神經(jīng)網(wǎng)絡(luò)通過(guò)人工神經(jīng)元之間的連接來(lái)獲取網(wǎng)絡(luò)信息,它能解決復(fù)雜的非線性問(wèn)題,所以人工神經(jīng)網(wǎng)絡(luò)在邊坡工程穩(wěn)定性中的應(yīng)用是非常必要的。通過(guò)對(duì)現(xiàn)實(shí)中的邊坡工程進(jìn)行學(xué)習(xí),人工神經(jīng)網(wǎng)絡(luò)把學(xué)習(xí)得到的結(jié)果儲(chǔ)存起來(lái),并作為網(wǎng)絡(luò)的權(quán)值。輸入影響邊坡工程穩(wěn)定性的各種因素,包括定性和定量因素,通過(guò)人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)的計(jì)算和處理,就會(huì)輸出邊坡穩(wěn)定性的實(shí)際情況,人工神經(jīng)網(wǎng)絡(luò)就會(huì)建立影響邊坡穩(wěn)定性的因素和邊坡穩(wěn)定性現(xiàn)實(shí)情況的非線性關(guān)系。人工神經(jīng)網(wǎng)絡(luò)通過(guò)建立的這種非線性關(guān)系就能夠?qū)π碌倪吰路€(wěn)定性做出詳細(xì)準(zhǔn)確的評(píng)價(jià)。大量的應(yīng)用實(shí)例表明,通過(guò)人工神經(jīng)網(wǎng)絡(luò)對(duì)邊坡工程的穩(wěn)定性進(jìn)行評(píng)價(jià)是一種切實(shí)可行且科學(xué)合理的方法。

4 結(jié)語(yǔ)

通過(guò)人工神經(jīng)網(wǎng)絡(luò)在邊坡穩(wěn)定性中的應(yīng)用實(shí)例可以看出,人工神經(jīng)網(wǎng)絡(luò)對(duì)邊坡穩(wěn)定性的應(yīng)用具有較好的適應(yīng)性,并且可以準(zhǔn)確地分析和評(píng)價(jià)邊坡工程的穩(wěn)定性。影響邊坡穩(wěn)定性的定性和定量因素會(huì)被納入到人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)中,因?yàn)槿斯ど窠?jīng)網(wǎng)絡(luò)是以邊坡工程變形和破壞的實(shí)例作為主要內(nèi)容,所以學(xué)習(xí)樣本的準(zhǔn)確性和內(nèi)容的完備性決定了邊坡工程穩(wěn)定性的評(píng)價(jià)是否準(zhǔn)確,如果信息準(zhǔn)確完備,就能達(dá)到預(yù)期的效果。人工神經(jīng)網(wǎng)絡(luò)在邊坡穩(wěn)定性評(píng)價(jià)中具有很好的實(shí)用性,相信在以后的邊坡工程建設(shè)中會(huì)得到廣泛的應(yīng)用。

參考文獻(xiàn)

[1] 童樹奇.人工神經(jīng)網(wǎng)絡(luò)在邊坡工程中的應(yīng)用研究[J]. 廣東土木與建筑. 2006(09).

[2] 陳華明.基于神經(jīng)網(wǎng)絡(luò)技術(shù)的邊坡穩(wěn)定性研究[J]. 科技創(chuàng)新導(dǎo)報(bào). 2007(35).

第2篇:人工神經(jīng)網(wǎng)絡(luò)范文

關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò);尖峰神經(jīng)元模型

近年來(lái),人們?cè)谟?jì)算機(jī)智能化領(lǐng)域上取得了很大的進(jìn)步,但計(jì)算機(jī)領(lǐng)域還有很多問(wèn)題無(wú)法解決,例如視覺(jué)、語(yǔ)言識(shí)別和計(jì)算機(jī)等技術(shù),人們?nèi)圆荒軐⒂?jì)算機(jī)系統(tǒng)設(shè)計(jì)得像生物系統(tǒng)那樣靈活。因此,大批研究者轉(zhuǎn)移到仿生科學(xué)研究,希望由此找到新的技術(shù),設(shè)計(jì)出新的智能計(jì)算機(jī),其中人工神經(jīng)網(wǎng)絡(luò)是其中一個(gè)比較熱門的領(lǐng)域。隨著這個(gè)領(lǐng)域的發(fā)展,一些團(tuán)隊(duì)已經(jīng)建立起一些創(chuàng)造性的、復(fù)雜的神經(jīng)電路模型,并將其應(yīng)用到一些項(xiàng)目中,也有研究團(tuán)隊(duì)在致力研究人工神經(jīng)網(wǎng)絡(luò)的軟件和硬件方案,希望能夠?yàn)橹悄苡?jì)算機(jī)提供更高層次的理解能力。

人工神經(jīng)網(wǎng)絡(luò)模型的并行特性使它與傳統(tǒng)的計(jì)算機(jī)模型相比具有更強(qiáng)的理能力,使它更有機(jī)會(huì)解決如手寫文字識(shí)別這類問(wèn)題。長(zhǎng)期以來(lái),大多數(shù)研究者都是在CPU上使用模擬的方式進(jìn)行神經(jīng)網(wǎng)絡(luò)的計(jì)算,由于CPU工作模式和結(jié)構(gòu)的限制,無(wú)法提供最佳的計(jì)算性能,因此本文尋求一種新的智能計(jì)算硬件平臺(tái),在硅芯片上設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)電路。

一、神經(jīng)網(wǎng)絡(luò)模型

人工神經(jīng)網(wǎng)絡(luò)理論已發(fā)展了很多年,并日益趨于成熟,在各領(lǐng)域都得到了一定的應(yīng)用。人工神經(jīng)網(wǎng)絡(luò)的運(yùn)算主要由計(jì)算的基本單位神經(jīng)元進(jìn)行,通過(guò)若干個(gè)神經(jīng)元構(gòu)成神經(jīng)網(wǎng)絡(luò)以解決現(xiàn)實(shí)中的各種問(wèn)題。

如圖1所示,一組神經(jīng)元構(gòu)成一個(gè)神經(jīng)網(wǎng)絡(luò)系統(tǒng)。每一個(gè)神經(jīng)元都有獨(dú)立的計(jì)算單元。神經(jīng)元計(jì)算公式如下:yi(t)=■W■?著ij(t-tij) (1)

公式(1)中yi(t)表示神經(jīng)元的輸出結(jié)果,i表示神經(jīng)元序號(hào),?著ij(t-tij)表示神經(jīng)元輸入值,W■表示每個(gè)神經(jīng)元的權(quán)值。

人工神經(jīng)網(wǎng)絡(luò)的基本運(yùn)算包括了乘法和加法運(yùn)算。為了能夠在硬件上執(zhí)行神經(jīng)網(wǎng)絡(luò)的理功能,必須為每個(gè)神經(jīng)元設(shè)計(jì)獨(dú)立的加法器和乘法器,我們將其稱為加乘法運(yùn)算單元(MAC),每個(gè)神經(jīng)元都包含了一個(gè)MAC單元。

為了使系統(tǒng)能夠更好地模擬人類神經(jīng)系統(tǒng)工作原理,發(fā)揮硬件的理能力,本文采用了Gerstner的尖峰神經(jīng)元模型構(gòu)建神經(jīng)元理器的工作流程。在該模型中,每個(gè)神經(jīng)元的膜電位在時(shí)間t時(shí)表示如下:

ui(t)=■■■W■?著ij(t-tij)+?濁i(t-tij) (2)

?著ij(t)=exp(-■)-exp(-■)*H(t-t■) (3)

公式(2)中,W■表示為第i神經(jīng)元和第j神經(jīng)元之間連接的權(quán)值,?著ij(t-tij)表示為神經(jīng)元i能夠提供給神經(jīng)元j的突觸后電位(PSP),而?濁i(t-tij)表示倔強(qiáng)函數(shù)。公式(3)表示突觸后電位(PSP)的計(jì)算方法,其中t■和t■為時(shí)間常數(shù),H(t-t■) 為Heaviside階梯函數(shù),t■為軸突傳輸延時(shí)系數(shù)。

二、神經(jīng)元硬件設(shè)計(jì)

如圖2所示,神經(jīng)網(wǎng)絡(luò)系統(tǒng)是由多個(gè)神經(jīng)元構(gòu)成,每個(gè)神經(jīng)元是一個(gè)單獨(dú)的實(shí)體,神經(jīng)元既相互獨(dú)立,又相互聯(lián)系,神經(jīng)元根據(jù)所受到外界的刺激(輸入)和鄰居神經(jīng)元對(duì)自己的影響,做出判斷與決策(輸出),并影響到周圍神經(jīng)元的反應(yīng)。為了能夠?qū)崿F(xiàn)神經(jīng)網(wǎng)絡(luò)功能,需要模擬神經(jīng)元單位設(shè)計(jì)一個(gè)特殊的理器用于計(jì)算外界刺激而做出的反應(yīng),它包含了簡(jiǎn)單的算數(shù)邏輯運(yùn)算單元、寄存器和控制器,在本文中使用PN表示該理器。

圖3顯示了一個(gè)PN理單元的工作流程圖,每個(gè)PN理器包括了進(jìn)行神經(jīng)元計(jì)算必須的運(yùn)算器和存儲(chǔ)器以及相關(guān)附屬器件。PN理單元的工作流程是:當(dāng)外部有輸入數(shù)據(jù)通過(guò)總線進(jìn)入PN理器時(shí)先存放在輸入事件存儲(chǔ)器;系統(tǒng)根據(jù)事件時(shí)間將數(shù)據(jù)輸入到突觸后電勢(shì)寄存器;同時(shí)輸入值被編號(hào)后分別放入公共連接存儲(chǔ)器;突觸后電勢(shì)PSP值與其他神經(jīng)元的權(quán)值相乘后與原有膜電位值相加,相加結(jié)果更新膜電位存儲(chǔ)器值;同時(shí)結(jié)果與閾值相比較,如果大于閾值則將結(jié)果輸出到輸出存儲(chǔ)器中作為該神經(jīng)元的輸出結(jié)果存放在輸出時(shí)間存儲(chǔ)器。

系統(tǒng)是由若干個(gè)神經(jīng)元理器構(gòu)成。如圖4所示,人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)由若干個(gè)神經(jīng)元共同構(gòu)成,圖5表示了人工神經(jīng)網(wǎng)絡(luò)的硬件構(gòu)成。每一個(gè)人工神經(jīng)網(wǎng)絡(luò)都是由若干個(gè)神經(jīng)元理單元構(gòu)成,每個(gè)神經(jīng)元理單元又是由邏輯運(yùn)算器、存儲(chǔ)器和通信單元構(gòu)成。將這些神經(jīng)元理器構(gòu)建在一塊電路板或者芯片上,同時(shí)理器與理器通過(guò)總線連接起來(lái)相互通信,共同完成神經(jīng)網(wǎng)絡(luò)的運(yùn)算。系統(tǒng)還為每一個(gè)神經(jīng)元單位配置了一個(gè)PN理器,理器之間相互獨(dú)立,并行計(jì)算。當(dāng)外部刺激(輸入)進(jìn)入系統(tǒng)時(shí),立刻被分配到各個(gè)PN理器并行計(jì)算神經(jīng)元對(duì)刺激的響應(yīng)(輸出),同時(shí)根據(jù)計(jì)算結(jié)果,調(diào)整神經(jīng)元之間的權(quán)值系數(shù),并更新存儲(chǔ)其中的權(quán)值。由于PN理器是并行計(jì)算,相對(duì)于傳統(tǒng)計(jì)算機(jī)模擬運(yùn)算,極大地提高了神經(jīng)網(wǎng)絡(luò)的計(jì)算速度。

本文以Gerstner的尖峰神經(jīng)元模型為基礎(chǔ),設(shè)計(jì)了模擬神經(jīng)元工作的PN理單元,并由若干個(gè)PN理單元構(gòu)成模擬人類神經(jīng)系統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)的硬件系統(tǒng)。相對(duì)于在傳統(tǒng)計(jì)算機(jī)上的操作,PN理單元的并行性使新系統(tǒng)有更強(qiáng)的理能力,有效地提高了神經(jīng)網(wǎng)絡(luò)的計(jì)算速度,使神經(jīng)網(wǎng)絡(luò)系統(tǒng)有更好的應(yīng)用前景。

(作者單位:廣東肇慶科技職業(yè)技術(shù)學(xué)院)

參考文獻(xiàn):

[1]Gerstner,W. & Kistler,W.M.Spiking neuron models:single neurons,populations,plasticity. Cambridge,UK:Cambridge University Press,2002.

[2]Mazad S. Zaveri. Dan Hammerstrom1. Performance/price estimates for cortex-scale hardware: A design space exploration,2011,(24).

[3]徐明華,甘強(qiáng).脈沖神經(jīng)網(wǎng)絡(luò)的振蕩與分割[J].生物物理學(xué)報(bào),1997,(1).

第3篇:人工神經(jīng)網(wǎng)絡(luò)范文

當(dāng)今的社會(huì)是信息的社會(huì)。要使信息得到及時(shí)利用,為國(guó)民經(jīng)濟(jì)和科學(xué)技術(shù)以及國(guó)防工業(yè)的發(fā)展服務(wù),必須對(duì)信息數(shù)據(jù)的采集、加工處理、傳輸、存儲(chǔ)、決策和執(zhí)行等進(jìn)行全面的技術(shù)革新,以適應(yīng)社會(huì)發(fā)展形式的需求。因此,信息科學(xué)技術(shù)有著極其廣泛的重要應(yīng)用領(lǐng)域,如通信、雷達(dá)、聲納、電子測(cè)量?jī)x器、生物醫(yī)學(xué)工程、振動(dòng)工程、地震勘探、圖像處理、計(jì)算機(jī)科學(xué)等。各領(lǐng)域的電子信息系統(tǒng)往往具有不同的性能和特征,但是電子信息系統(tǒng)設(shè)備的設(shè)計(jì)都涉及到信息表征和信息處理技術(shù),如果這種信息科技能獲得新的突破,電子信息系統(tǒng)產(chǎn)品將走上新的臺(tái)階。

當(dāng)前信息系統(tǒng)智能化和具有高的魯棒性及容錯(cuò)性是值得研究的重大問(wèn)題,雖然人工智能和專家系統(tǒng)已取得好的成績(jī),但還不適應(yīng)信息社會(huì)發(fā)展的需求,需尋求新的發(fā)展途徑。21世紀(jì)被稱為“智能化世紀(jì)和人工神經(jīng)網(wǎng)絡(luò)世紀(jì)”,信息科學(xué)與腦科學(xué)、認(rèn)知科學(xué)、神經(jīng)生物學(xué)、計(jì)算機(jī)科學(xué)、非線性科學(xué)、數(shù)學(xué)、物理學(xué)諸學(xué)科相結(jié)合所產(chǎn)生的神經(jīng)計(jì)算科學(xué),為實(shí)現(xiàn)新的信息表征和信息處理提供了新的手段,將使信息技術(shù)和信息系統(tǒng)智能化得到飛躍的發(fā)展。

21世紀(jì)是信息社會(huì)的智能化時(shí)代,信息高速公路的發(fā)展加速了通信技術(shù)和多媒體通信系統(tǒng)進(jìn)入網(wǎng)絡(luò)化、智能化進(jìn)程;開拓國(guó)際互聯(lián)網(wǎng),使千家萬(wàn)戶能在因特網(wǎng)和大型計(jì)算機(jī)網(wǎng)絡(luò)上搜索和瀏覽各種信息,這都涉及到通信系統(tǒng)和信息處理系統(tǒng)的高度智能化問(wèn)題。

現(xiàn)代信息處理要解決的問(wèn)題往往是很復(fù)雜的,它要完成由輸入空間到輸出空間的映射,這個(gè)映射可以是線性的,也可以是非線性的,所以信息處理系統(tǒng)是有序結(jié)構(gòu)的物理系統(tǒng)中的映射,恰好是與神經(jīng)網(wǎng)絡(luò)信息處理同構(gòu)。

2 人工神經(jīng)網(wǎng)絡(luò)信息處理

一般來(lái)說(shuō),智能信息處理可以劃分為兩大類,一類為基于傳統(tǒng)計(jì)算機(jī)的智能信息處理,另一類為基于神經(jīng)計(jì)算的智能信息處理。前者信息系統(tǒng)包括智能儀器、自動(dòng)跟蹤監(jiān)測(cè)儀器系統(tǒng)、自動(dòng)控制制導(dǎo)系統(tǒng)、自動(dòng)故障診斷和報(bào)警系統(tǒng)等。在人工智能系統(tǒng)中,它們具有模仿或代替與人的思維有關(guān)的功能,通過(guò)邏輯符號(hào)處理系統(tǒng)的推理規(guī)則來(lái)實(shí)現(xiàn)自動(dòng)診斷、問(wèn)題求解以及專家系統(tǒng)的智能。這種智能實(shí)際上體現(xiàn)了人類的邏輯思維方式,主要應(yīng)用串行工作程序按照一些推理規(guī)則一步一步進(jìn)行計(jì)算和操作,應(yīng)用領(lǐng)域很廣。后者是用人工神經(jīng)網(wǎng)絡(luò)來(lái)模仿延伸人腦認(rèn)知功能的新型智能信息處理系統(tǒng),即仿造人腦的思維、聯(lián)想記憶、推理及意識(shí)等高級(jí)精神活動(dòng)的智能,這類神經(jīng)智能系統(tǒng)可以解決傳統(tǒng)方法所不能或難以解決的問(wèn)題。例如美國(guó)研制出的一種電子“偵探”(蘇聯(lián)《科學(xué)與生活》,1990年),就是用神經(jīng)網(wǎng)絡(luò)做的能辨識(shí)人面孔的智能系統(tǒng),只要讓它看一下某人或他的照片就能記住描述此人面貌的256個(gè)數(shù)字參數(shù),同時(shí)能記住達(dá)500人,思考辨認(rèn)時(shí)間總共為1s。人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有很高的容錯(cuò)性和魯棒性及自組織性,即使連接線被破壞了50%,它仍能處在優(yōu)化工作狀態(tài),這在軍事系統(tǒng)電子設(shè)備中有著特別重要的意義,故美國(guó)無(wú)人偵察飛機(jī)已用上這種神經(jīng)信息系統(tǒng)。美國(guó)許多公司生產(chǎn)的神經(jīng)網(wǎng)絡(luò)芯片及神經(jīng)智能系統(tǒng)已商品化。今年最新報(bào)導(dǎo):美Attrasoft公司做出世界上最大的百萬(wàn)個(gè)神經(jīng)元的神經(jīng)網(wǎng)絡(luò)(軟件)。

3 盲信號(hào)處理技術(shù)

盲信號(hào)處理包括多個(gè)信源混合的盲源分離、多通道傳輸信道的參數(shù)估計(jì)和系統(tǒng)辨識(shí)、盲解卷積和盲均衡技術(shù)、盲陣列信號(hào)處理和盲波束形成技術(shù)等,在通信、雷達(dá)、聲納、控制工程、地震勘探、生物醫(yī)學(xué)工程等領(lǐng)域有著極其重要的應(yīng)用價(jià)值,是國(guó)際上非常重視的熱門研究課題。從數(shù)學(xué)上講,盲信號(hào)處理問(wèn)題可以用X(t)=AS(t)來(lái)描述,這里X(t)是已知觀測(cè)數(shù)據(jù)矢量,而信號(hào)矢量S(t)和系統(tǒng)參數(shù)矩陣A都是未知的,如何只由觀測(cè)矢量X(t)來(lái)推求S(t)或A,其解將存在不定因素,可能有許多不同的兩個(gè)量相乘而得到同一個(gè)觀測(cè)數(shù)據(jù)X(t)。求解這類問(wèn)題是一個(gè)國(guó)際性的盲處理難題,但該問(wèn)題有很高的實(shí)用價(jià)值。圖像、語(yǔ)聲、中文詩(shī)詞及英文文字等多媒體信息混合后的盲分離問(wèn)題,最高信號(hào)干擾之比高于70dB。

第4篇:人工神經(jīng)網(wǎng)絡(luò)范文

關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò);BP算法;程序

中圖分類號(hào):TP183文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1009-3044(2008)05-00ppp-0c

1 引言

人工神經(jīng)網(wǎng)絡(luò)是一種信息處理系統(tǒng),它有很多種模型。其中有一種用誤差傳播學(xué)習(xí)算法(Error Back-Propagation,即BP算法)進(jìn)行訓(xùn)練的多層前饋神經(jīng)網(wǎng)絡(luò),簡(jiǎn)稱為BP網(wǎng)絡(luò)。它是目前人工神經(jīng)網(wǎng)絡(luò)中應(yīng)用最為廣泛的網(wǎng)絡(luò),在文字識(shí)別、模式分類、文字到聲音的轉(zhuǎn)換、圖像壓縮、決策支持等方面都有廣泛的應(yīng)用。本文對(duì)BP算法進(jìn)行簡(jiǎn)單的介紹,并給出其在VC++6.0中的實(shí)現(xiàn)方法。

2 BP算法的原理

2.1 BP網(wǎng)絡(luò)的結(jié)構(gòu)

BP網(wǎng)絡(luò)是由一組相互連接的運(yùn)算單元組成,其中每一個(gè)連接都有相對(duì)應(yīng)的權(quán)值。網(wǎng)絡(luò)結(jié)構(gòu)如圖1(以三層網(wǎng)絡(luò)為例)所示,它包括輸入層節(jié)點(diǎn)、輸出層節(jié)點(diǎn),一層或多層隱含層節(jié)點(diǎn)。在BP網(wǎng)絡(luò)中,層與層之間采用全互連方式,同一層的節(jié)點(diǎn)之間不存在相互連接。

2.2 BP算法的原理

BP算法簡(jiǎn)單的來(lái)說(shuō),是把訓(xùn)練樣本從輸入層輸入,通過(guò)每個(gè)節(jié)點(diǎn)對(duì)應(yīng)的閾值、函數(shù)以及節(jié)點(diǎn)之間連接權(quán)值的運(yùn)算,經(jīng)過(guò)輸入層、隱含層,傳播到輸出層得到計(jì)算輸出,該輸出和其對(duì)應(yīng)的期望輸出比較,得出誤差。如果誤差不符合要求,將誤差沿輸入相反的方向進(jìn)行傳播并沿誤差降低方向調(diào)節(jié)權(quán)值和函數(shù)的閾值。用多個(gè)訓(xùn)練樣本對(duì)網(wǎng)絡(luò)進(jìn)行反復(fù)的訓(xùn)練,直至誤差符合要求。

2.3 算法中主要的數(shù)據(jù)結(jié)構(gòu)和用到的公式

為方便說(shuō)明,對(duì)算法中的主要數(shù)據(jù)結(jié)構(gòu)做如下約定。網(wǎng)絡(luò)為三層,P[m]為單個(gè)樣本輸入數(shù)據(jù), m為輸入向量維數(shù),也等于輸入層節(jié)點(diǎn)數(shù);T[n]為單個(gè)樣本期望輸出數(shù)據(jù),n為輸出向量維數(shù),也等于輸出層節(jié)點(diǎn)數(shù);W[h][m]為輸入層至隱層權(quán)值,其中h為隱層節(jié)點(diǎn)數(shù);V[n][h]為隱層至輸出層權(quán)值;X[h]為隱層的輸入;O[h]為隱層的輸出;U[n]為輸出層的輸入;Y[n]為輸出層的計(jì)算輸出;YZH[h]為隱層的閾值;YZO[n]為輸出層的閾值;DeltaO[n]為輸出層一般化誤差;DeltaH[h]為隱層一般化誤差;E為預(yù)先設(shè)定的總體誤差;η為學(xué)習(xí)速率參數(shù);設(shè)隱含層和輸出層的激活函數(shù)采用S型函數(shù),即lxg02.tif。

算法中主要公式如下:

隱層第 個(gè)單元的輸入:lxg03.tif(1)

隱層第 個(gè)單元的輸出:lxg04.tif (2)

輸出層第 個(gè)單元的輸入: lxg05.tif (3)

輸出層第 個(gè)單元的輸出: lxg06.tif (4)

輸出層單元 的一般化誤差:DeltaO[i]=(T[i]-Y[i])?Y[i]?(1-Y[i]) (5)

隱含層單元 的一般化誤差:lxg07.tif(6)

輸出層至隱含層的權(quán)值調(diào)整:V[i][j]=η?DeltaO[i]?O[j] (7)

輸出層閾值調(diào)整:YZO[i]=η?DeltaO[i] (8)

隱含層至輸入層的權(quán)值調(diào)整:W[i][j]= η?DeltaH[i] ?P[j] (9)

隱含層閾值調(diào)整:YZH[i]=η?DeltaH[i] (10)

2.4 算法的描述

算法可描述如下:

(1)初始化:在小隨機(jī)值上初始化連接權(quán)值和閾值;給出各層節(jié)點(diǎn)數(shù)、η、預(yù)定誤差。

(2)輸入訓(xùn)練樣本集中一個(gè)樣本。

(3)依據(jù)式1、2、3、4計(jì)算該樣本的實(shí)際輸出,和教師信號(hào)做比較,依據(jù)公式5和6分別求輸出層單元和隱含層單元一般化誤差。

(4)依據(jù)誤差根據(jù)公式7、8、9、10分別調(diào)整輸出層和隱含層的連接權(quán)和閾值。

(5)對(duì)訓(xùn)練樣本集中所有樣本重復(fù)2到4。

(6)訓(xùn)練次數(shù)加1。

(7)如果總誤差小于預(yù)定值則執(zhí)行8,否則對(duì)訓(xùn)練樣本集返回2重復(fù)訓(xùn)練。

(8)記下權(quán)值和閾值,結(jié)束本次訓(xùn)練。

3 BP算法關(guān)鍵步驟在VC++6.0中實(shí)現(xiàn)

首先按照2.3所述定義數(shù)據(jù)結(jié)構(gòu),再定義一個(gè)放學(xué)習(xí)樣本的結(jié)構(gòu):

struct {

double input[m];

double teach[n];

}Study_Data[N];

以下是實(shí)現(xiàn)算法公式的各個(gè)子程序:

/*初始化權(quán)、閾值子程序*/

initial()

{

srand( (unsigned)time( NULL ) );

for(int i=0;i

{

for(int j=0;j

W[i][j]= (double)((rand()/32767.0)*2-1);

}

for(int ii=0;ii

{for(int jj=0;jj

V[ii][jj]= (double)((rand()/32767.0)*2-1);

}

for(int k=0;k

{YZH[k=(double)((rand()/32767.0)*2-1);

}

for(int kk=0;kk

{YZO[kk]=(double)((rand()/32767.0)*2-1);

}

return 1;

}

/*第m個(gè)學(xué)習(xí)樣本輸入子程序*/

input_P(int m)

{

for (int i=0;i

P[i]=Study_Data[m].input[i];

return 1;

}

/*第m個(gè)樣本教師信號(hào)子程序*/

input_T(int m)

{

for (int k=0;k

T[k]=Study_Data[m].teach[k];

return 1;

}

/*隱層各單元輸入、輸出值子程序*/

H_I_O(){

double sigma;

int i,j;

for (j=0;j

sigma=0.0;

for (i=0;i

sigma+=W[j][i]*P[i];

X[j]=sigma - YZH[j];

H[j]=1.0/(1.0+exp(-X[j]));

}

return 1;

}

/*輸出層各單元輸入、輸出值子程序*/

O_I_O()

{

double sigma;

for (int k=0;k

sigma=0.0;

for (int j=0;j

sigma+=V[k][j]*H[j];

}

Y[k]=sigma-YZO[k];

O[k]=1.0/(1.0+exp(-Y[k]));

}

return 1;

}

/*輸出層至隱層的一般化誤差子程序*/

double d_err[n];

Err_O_H(int m)

{

double abs_err[n];

double sqr_err=0;

for (int k=0;k

abs_err[k]=T[k]-O[k];

sqr_err+=(abs_err[k])*(abs_err[k]);

d_err[k]=abs_err[k]*O[k]*(1.0-O[k]);

}

err_m[m]=sqr_err/2;

return 1;

}

/*隱層至輸入層的一般化誤差子程序*/

double e_err[h];

Err_H_I(){

double sigma;

for (int j=0;j

sigma=0.0;

for (int k=0;k

sigma+=d_err[k]*V[k][j];

}

e_err[j]=sigma*H[j]*(1.0-H[j]);

}

return 1;

}

/*輸出層至隱層的權(quán)值調(diào)整、輸出層閾值調(diào)整計(jì)算子程序*/

Delta_O_H(int m)

{

for (int k=0;k

for (int j=0;j

{V[k][j]+=a*d_err[k]*H[j];

YZO[k]+=a*d_err[k];

}

return 1;

}

/*隱層至輸入層的權(quán)值調(diào)整、隱層閾值調(diào)整計(jì)算子程序*/

Delta_H_I(int m)

{

for (int j=0;j

for (int i=0;i

{W[j][i]+=b*e_err[j]*P[i];

}

YZH[j]+=b*e_err[j];

}

return 1;

}

/*N個(gè)樣本的全局均方誤差計(jì)算子程序*/

double Err_Sum()

{

double total_err=0;

for (int m=0;m

total_err+=err_m[m];

}

return total_err;

}

參考文獻(xiàn):

[1]徐勇,等,譯.神經(jīng)網(wǎng)絡(luò)模式識(shí)別及實(shí)現(xiàn)[M].電子工業(yè)出版社,1999.

[2]戴葵,等,譯.神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)[M].機(jī)械工業(yè)出版社,2002.

[3]Berthold M,D J Hand,et al.Intelligent Data Analysis-An Introduction[M].Springer Berlin,1999.

收稿日期:2007-12-20

第5篇:人工神經(jīng)網(wǎng)絡(luò)范文

【關(guān)鍵詞】人口預(yù)測(cè);人工神經(jīng)網(wǎng)絡(luò);BP神經(jīng)網(wǎng)絡(luò)

0 引言

中國(guó)是一個(gè)人口大國(guó), 人口問(wèn)題始終是制約我國(guó)發(fā)展的關(guān)鍵因素之一, 但是要確定人口發(fā)展戰(zhàn)略, 必須既著眼于人口本身的問(wèn)題, 又處理好人口與經(jīng)濟(jì)社會(huì)資源環(huán)境之間的相互關(guān)系, 構(gòu)建社會(huì)主義和諧社會(huì), 統(tǒng)籌解決人口數(shù)量、素質(zhì)、結(jié)構(gòu)、分布等問(wèn)題。已有的文獻(xiàn)采用微分方程、灰色系統(tǒng)和曲線擬合等方法研究了我國(guó)人口問(wèn)題[1-2]。本文根據(jù)近年來(lái)中國(guó)的人口發(fā)展所出現(xiàn)一些新的特點(diǎn), 以及近幾年中國(guó)人口抽樣數(shù)據(jù)及現(xiàn)有全國(guó)人口普查數(shù)據(jù), 運(yùn)用人工神經(jīng)網(wǎng)絡(luò)算法[3-4]對(duì)中國(guó)人口做出了分析和預(yù)測(cè)。人工神經(jīng)網(wǎng)絡(luò)(ANN)可以通過(guò)學(xué)習(xí)來(lái)抽取和逼近輸入輸出之間存在的非線性關(guān)系。因此,基于人工神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法成為近幾年研究的熱點(diǎn)。目前,主要采用BP神經(jīng)網(wǎng)絡(luò)、局部反饋性神經(jīng)網(wǎng)絡(luò)等。BP神經(jīng)網(wǎng)絡(luò)是人工神經(jīng)網(wǎng)絡(luò)中應(yīng)用最廣泛的算法。

1 BP神經(jīng)網(wǎng)絡(luò)模型

BP神經(jīng)網(wǎng)絡(luò)的輸入與輸出之間是一種高度非線性映射關(guān)系,如果輸入節(jié)點(diǎn)數(shù)是N,輸出節(jié)點(diǎn)數(shù)是M,則網(wǎng)絡(luò)是從N維歐式空間到M 維歐式空間的映射。通過(guò)調(diào)整BP神經(jīng)網(wǎng)絡(luò)的連接權(quán)值和網(wǎng)絡(luò)的規(guī)模(包括N,M和隱層節(jié)點(diǎn)數(shù)),可以以任意精度逼近任何非線性函數(shù)。

BP算法的訓(xùn)練過(guò)程包括輸入信號(hào)的正向傳播和輸出誤差的反向傳播兩個(gè)過(guò)程。BP算法首先進(jìn)行輸入信號(hào)的正向傳播。輸入的樣本首先進(jìn)入網(wǎng)絡(luò)的輸入層,經(jīng)中間隱含層的分析計(jì)算處理后,進(jìn)入輸出層得到樣本訓(xùn)練輸出結(jié)果。如果網(wǎng)絡(luò)最終輸出與網(wǎng)絡(luò)期望輸出值(導(dǎo)師信號(hào))存在誤差,那么就進(jìn)行誤差的反向傳播。誤差的反向傳播首先將誤差按照一定的學(xué)習(xí)算法整理成相應(yīng)的形式,由隱含層傳播至輸入層,并將誤差分配給各層的所有神經(jīng)元上,從而獲得各層神經(jīng)元的誤差信號(hào),此誤差信號(hào)即作為修正各神經(jīng)元權(quán)值的依據(jù)。這種權(quán)值修正的過(guò)程,也就是網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過(guò)程。這種過(guò)程不斷迭代,最后使得誤差信號(hào)達(dá)到允許的范圍內(nèi)。

在BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)前,首先要訓(xùn)練網(wǎng)絡(luò),通過(guò)訓(xùn)練使網(wǎng)絡(luò)有聯(lián)想記憶和預(yù)測(cè)的能力。具體的步驟如下:

第一步:設(shè)置好已知參數(shù),包括目標(biāo)輸出、預(yù)期平均誤差、隱含層的數(shù)量與神經(jīng)元個(gè)數(shù)、輸出層的神經(jīng)元個(gè)數(shù)、各層的權(quán)值與閥值等。

第二步:數(shù)據(jù)歸一化。在設(shè)定好各種參數(shù)之后,確定每一樣本的參數(shù)。每一樣本的每個(gè)數(shù)據(jù)作為輸入層神經(jīng)元,所有樣本計(jì)算做為一個(gè)學(xué)習(xí)周期,為了使網(wǎng)絡(luò)能更快地收斂,應(yīng)該將輸入層神經(jīng)元?dú)w一化,即將其按照式(1)轉(zhuǎn)換為(0,1)之間的值,其中x是樣本數(shù)據(jù)。

第三步:確定樣本數(shù)據(jù)之后,通過(guò)每一個(gè)樣本數(shù)據(jù)對(duì)網(wǎng)絡(luò)進(jìn)行的計(jì)算。計(jì)算時(shí)首先將輸入層神經(jīng)元按照式(2)計(jì)算出隱含層輸入,其中h表示隱含層,k表示第k個(gè)樣本,wih表示第i個(gè)輸入層神經(jīng)元與第h個(gè)隱含層神經(jīng)元之間連接的權(quán)值,bh表示隱含層第h個(gè)神經(jīng)元的閥值。計(jì)算隱含層輸入之后通過(guò)可導(dǎo)函數(shù)(一般選擇sigmond函數(shù),如式(3)所示,其中x表示隱含層輸入)處理得出隱含層輸出;將第一層隱含層的輸出作為下一隱含層的神經(jīng)元進(jìn)行下一隱含層輸入計(jì)算,在通過(guò)可導(dǎo)函數(shù)處理得出下一層隱含層的輸出如此反復(fù)計(jì)算,直至隱含層全部計(jì)算完;

2 人口預(yù)測(cè)

2.1 數(shù)據(jù)來(lái)源

為了驗(yàn)證神經(jīng)網(wǎng)絡(luò)模型在人口預(yù)測(cè)中的效果,本文采用的我國(guó)人口數(shù)據(jù)均來(lái)自1995 -2012年的《中國(guó)統(tǒng)計(jì)年鑒》,具體數(shù)值如表1所示。我們將數(shù)據(jù)分為兩部分,1995-2008年作為訓(xùn)練樣本,2009-2012年作為測(cè)試樣本。

2.2 BP神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的確定

如果隱含層神經(jīng)元數(shù)目過(guò)少,網(wǎng)絡(luò)很難識(shí)別樣本,難以完成訓(xùn)練,并且網(wǎng)絡(luò)的容錯(cuò)性也會(huì)降低;如果數(shù)目過(guò)多,則會(huì)增加網(wǎng)絡(luò)的迭代次數(shù),從而延長(zhǎng)網(wǎng)絡(luò)的訓(xùn)練時(shí)間,同時(shí)也會(huì)降低網(wǎng)絡(luò)的泛化能力,導(dǎo)致預(yù)測(cè)能力下降。在選擇隱含層層數(shù)時(shí)要從網(wǎng)絡(luò)精度和培訓(xùn)時(shí)間上綜合考慮。在具體設(shè)計(jì)時(shí),首先根據(jù)經(jīng)驗(yàn)公式初步確定隱含層神經(jīng)元個(gè)數(shù),然后通過(guò)對(duì)不同神經(jīng)元數(shù)的網(wǎng)絡(luò)進(jìn)行訓(xùn)練對(duì)比,再最終確定神經(jīng)元數(shù)。通用的隱含層神經(jīng)元數(shù)的確定經(jīng)驗(yàn)公式有:

其中i為隱含層神經(jīng)元的個(gè)數(shù),n為輸入層神經(jīng)元的個(gè)數(shù),m為輸出層神經(jīng)元的個(gè)數(shù), a為常數(shù)且1

2.3 人口預(yù)測(cè)結(jié)果

由圖2可知,神經(jīng)網(wǎng)絡(luò)很快就訓(xùn)練收斂了。經(jīng)過(guò)多次訓(xùn)練和學(xué)習(xí),得到BP網(wǎng)絡(luò)的預(yù)測(cè)值。預(yù)測(cè)結(jié)果是2009-2012年人口預(yù)測(cè)數(shù)量分別為:133487,133985,135139,135431.(單位:萬(wàn)人)。

2.4 結(jié)束語(yǔ)

將BP 預(yù)測(cè)值與實(shí)際值做比較, 2009-2012年的相對(duì)誤差為0. 01%、0. 01%、0.3%、0. 009%.

BP 網(wǎng)絡(luò)預(yù)測(cè)結(jié)果表明, 比其他數(shù)學(xué)方法預(yù)測(cè)值更接近實(shí)際值. 這是因?yàn)槲覈?guó)的人口數(shù)量受多種因素的影響,人口的增長(zhǎng)呈非線性局勢(shì), 而BP 網(wǎng)絡(luò)的優(yōu)點(diǎn)就在于它的非線性趨近性和泛化能力。本文采用自適應(yīng)學(xué)習(xí)速率和附加動(dòng)量法相結(jié)合的方法, 比應(yīng)用單一的方法效果要好很多。BP 網(wǎng)絡(luò)具有它的局限性, 隱含層的設(shè)計(jì)是人為設(shè)定的, 這樣很容易造成誤差。因此, 如何更好的將BP 網(wǎng)絡(luò)與其他神經(jīng)網(wǎng)絡(luò)結(jié)合起來(lái)應(yīng)用于人口預(yù)測(cè)系統(tǒng), 是我們以后努力的方向。

【參考文獻(xiàn)】

[1]王曉龍,楊廣,張保華.灰色及其改進(jìn)模型在人口預(yù)測(cè)中的應(yīng)用[J].世界科技研究與發(fā)展,2009,31(4):757-758.

[2]蔣超,楊琳,付敏.中國(guó)人口預(yù)測(cè)的數(shù)學(xué)模型[J].內(nèi)江師范學(xué)院學(xué)報(bào),2008,3(12): 33-35.

第6篇:人工神經(jīng)網(wǎng)絡(luò)范文

人工神經(jīng)網(wǎng)絡(luò)(Aartificial Neural Network,下簡(jiǎn)稱ANN)是模擬生物神經(jīng)元的結(jié)構(gòu)而提出的一種信息處理方法。早在1943年,已由心理學(xué)家Warren S.Mcculloch和數(shù)學(xué)家Walth H.Pitts提出神經(jīng)元數(shù)學(xué)模型,后被冷落了一段時(shí)間,80年代又迅猛興起[1]。ANN之所以受到人們的普遍關(guān)注,是由于它具有本質(zhì)的非線形特征、并行處理能力、強(qiáng)魯棒性以及自組織自學(xué)習(xí)的能力。其中研究得最為成熟的是誤差的反傳模型算法(BP算法,Back Propagation),它的網(wǎng)絡(luò)結(jié)構(gòu)及算法直觀、簡(jiǎn)單,在工業(yè)領(lǐng)域中應(yīng)用較多。

經(jīng)訓(xùn)練的ANN適用于利用分析振動(dòng)數(shù)據(jù)對(duì)機(jī)器進(jìn)行監(jiān)控和故障檢測(cè),預(yù)測(cè)某些部件的疲勞壽命[2]。非線形神經(jīng)網(wǎng)絡(luò)補(bǔ)償和魯棒控制綜合方法的應(yīng)用(其魯棒控制利用了變結(jié)構(gòu)控制或滑動(dòng)??刂疲?,在實(shí)時(shí)工業(yè)控制執(zhí)行程序中較為有效[3]。人工神經(jīng)網(wǎng)絡(luò)(ANN)和模糊邏輯(Fuzzy Logic)的綜合,實(shí)現(xiàn)了電動(dòng)機(jī)故障檢測(cè)的啟發(fā)式推理。對(duì)非線形問(wèn)題,可通過(guò)ANN的BP算法學(xué)習(xí)正常運(yùn)行例子調(diào)整內(nèi)部權(quán)值來(lái)準(zhǔn)確求解[4]。

因此,對(duì)于電力系統(tǒng)這個(gè)存在著大量非線性的復(fù)雜大系統(tǒng)來(lái)講,ANN理論在電力系統(tǒng)中的應(yīng)用具有很大的潛力,目前已涉及到如暫態(tài),動(dòng)穩(wěn)分析,負(fù)荷預(yù)報(bào),機(jī)組最優(yōu)組合,警報(bào)處理與故障診斷,配電網(wǎng)線損計(jì)算,發(fā)電規(guī)劃,經(jīng)濟(jì)運(yùn)行及電力系統(tǒng)控制等方面[5]。

本文介紹了一種基于人工神經(jīng)網(wǎng)絡(luò)(ANN)理論的保護(hù)原理。

1、人工神經(jīng)網(wǎng)絡(luò)理論概述

BP算法是一種監(jiān)控學(xué)習(xí)技巧,它通過(guò)比較輸出單元的真實(shí)輸出和希望值之間的差別,調(diào)整網(wǎng)絡(luò)路徑的權(quán)值,以使下一次在相同的輸入下,網(wǎng)絡(luò)的輸出接近于希望值。

在神經(jīng)網(wǎng)絡(luò)投運(yùn)前,就應(yīng)用大量的數(shù)據(jù),包括正常運(yùn)行的、不正常運(yùn)行的,作為其訓(xùn)練內(nèi)容,以一定的輸入和期望的輸出通過(guò)BP算法去不斷修改網(wǎng)絡(luò)的權(quán)值。在投運(yùn)后,還可根據(jù)現(xiàn)場(chǎng)的特定情況進(jìn)行現(xiàn)場(chǎng)學(xué)習(xí),以擴(kuò)充ANN內(nèi)存知識(shí)量。從算法原理看,并行處理能力和非線性功能是BP算法的一大優(yōu)點(diǎn)。

2、神經(jīng)網(wǎng)絡(luò)型繼電保護(hù)

神經(jīng)網(wǎng)絡(luò)理論的保護(hù)裝置,可判別更復(fù)雜的模式,其因果關(guān)系是更復(fù)雜的、非線性的、模糊的、動(dòng)態(tài)的和非平穩(wěn)隨機(jī)的。它是神經(jīng)網(wǎng)絡(luò)(ANN)與專家系統(tǒng)(ES)融為一體的神經(jīng)網(wǎng)絡(luò)專家系統(tǒng),其中,ANN是數(shù)值的、聯(lián)想的、自組織的、仿生的方式,ES是認(rèn)知的和啟發(fā)式的。

文獻(xiàn)[1]認(rèn)為全波數(shù)據(jù)窗建立的神經(jīng)網(wǎng)絡(luò)在準(zhǔn)確性方面優(yōu)于利用半波數(shù)據(jù)窗建立的神經(jīng)網(wǎng)絡(luò),因此保護(hù)應(yīng)選用全波數(shù)據(jù)窗。

ANN保護(hù)裝置出廠后,還可以在投運(yùn)單位如網(wǎng)調(diào)、省調(diào)實(shí)驗(yàn)室內(nèi)進(jìn)行學(xué)習(xí),學(xué)習(xí)內(nèi)容針對(duì)該省的保護(hù)的特別要求進(jìn)行(如反措)。到現(xiàn)場(chǎng),還可根據(jù)該站的干擾情況進(jìn)行反誤動(dòng)、反拒動(dòng)學(xué)習(xí),特別是一些常出現(xiàn)波形間斷的變電站內(nèi)的高頻保護(hù)。

3、結(jié)論

本文基于現(xiàn)代控制技術(shù)提出了人工神經(jīng)網(wǎng)絡(luò)理論的保護(hù)構(gòu)想。神經(jīng)網(wǎng)絡(luò)軟件的反應(yīng)速度比純數(shù)字計(jì)算軟件快幾十倍以上,這樣,在相同的動(dòng)作時(shí)間下,可以大大提高保護(hù)運(yùn)算次數(shù),以實(shí)現(xiàn)在時(shí)間上即次數(shù)上提高冗余度。

一套完整的ANN保護(hù)是需要有很多輸入量的,如果對(duì)某套保護(hù)來(lái)說(shuō),區(qū)內(nèi)、區(qū)外故障時(shí)其輸入信號(hào)幾乎相同,則很難以此作為訓(xùn)練樣本訓(xùn)練保護(hù),而每套保護(hù)都增多輸入量,必然會(huì)使保護(hù)、二次接線復(fù)雜化。變電站綜合自動(dòng)化也許是解決該問(wèn)題的一個(gè)較好方法,各套保護(hù)通過(guò)總線聯(lián)網(wǎng),交換信息,充分利用ANN的并行處理功能,每套保護(hù)均對(duì)其它線路信息進(jìn)行加工,以此綜合得出動(dòng)作判據(jù)。每套保護(hù)可把每次錄得的數(shù)據(jù)文件,加上對(duì)其動(dòng)作正確性與否的判斷,作為本身的訓(xùn)練內(nèi)容,因?yàn)榧词褂袝r(shí)人工分析也不能區(qū)分哪些數(shù)據(jù)特征能使保護(hù)不正確動(dòng)作,特別是高頻模擬量。

神經(jīng)網(wǎng)絡(luò)的硬件芯片現(xiàn)在仍很昂貴,但技術(shù)成熟時(shí),應(yīng)利用硬件實(shí)現(xiàn)現(xiàn)在的軟件功能。另外,神經(jīng)網(wǎng)絡(luò)的并行處理和信息分布存儲(chǔ)機(jī)制還不十分清楚,如何選擇的網(wǎng)絡(luò)結(jié)構(gòu)還沒(méi)有充分的理論依據(jù)。所有這些都有待于對(duì)神經(jīng)網(wǎng)絡(luò)基本理論進(jìn)行深入的研究,以形成完善的理論體系,創(chuàng)造出更適合于實(shí)際應(yīng)用的新型網(wǎng)絡(luò)及學(xué)習(xí)算法[5]。

參考文獻(xiàn)

1、陳炳華。采用模式識(shí)別(智能型)的保護(hù)裝置的設(shè)想。中國(guó)電機(jī)工程學(xué)會(huì)第五屆全國(guó)繼電保護(hù)學(xué)術(shù)會(huì)議,[會(huì)址不詳],1993

2、Robert E.Uhrig.Application of Artificial Neural Networks in Industrial Technology.IEEE Trans,1994,10(3)。(1):371~377

3、Lee T H,Wang Q C,Tan W K.A Framework for Robust Neural Network-Based Control of Nonlinear Servomechannisms.IEEE Trans,1993,3(2)。(3):190~197

第7篇:人工神經(jīng)網(wǎng)絡(luò)范文

關(guān)鍵詞:  人工神經(jīng)網(wǎng)絡(luò); 應(yīng)用

人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,ANN)方法自從本世紀(jì)40年代被提出以來(lái),許多從事人工智能、計(jì)算機(jī)科學(xué)、信息科學(xué)的科學(xué)家都在對(duì)它進(jìn)行研究,已在軍事、醫(yī)療、航天、自動(dòng)控制、金融等許多領(lǐng)域取得了成功的應(yīng)用。目前出現(xiàn)了許多模仿動(dòng)物和人的智能形式與功能的某個(gè)方面的神經(jīng)網(wǎng)絡(luò),例如,Grossberg提出的自適應(yīng)共振理論(Adaptive Resonance Theory,ART),T-Kohenen的自組織特征映射網(wǎng)絡(luò)(Self-Organizing feature Map,SOM),徑向基函數(shù)網(wǎng)絡(luò)(Radial Basis Function,RBF),Hopfield網(wǎng)等。進(jìn)入90年代以后,由于計(jì)算機(jī)技術(shù)和信息技術(shù)的發(fā)展,以及各種算法的不斷提出,神經(jīng)網(wǎng)絡(luò)的研究逐漸深化,應(yīng)用面也逐步擴(kuò)大,本研究對(duì)常用的神經(jīng)網(wǎng)絡(luò)方法及其在醫(yī)學(xué)領(lǐng)域中的應(yīng)用做一簡(jiǎn)單綜述。

    1  自組織特征映射網(wǎng)絡(luò)(self-organizing feature map,SOM)在基因表達(dá)數(shù)據(jù)分析中的應(yīng)用

   1.1   方法介紹

    腦神經(jīng)學(xué)的研究表明,人腦中大量的神經(jīng)元處于空間的不同區(qū)域,有著不同的功能,各自敏感著各自的輸入信息模式的不同特征。芬蘭赫爾辛基大學(xué)神經(jīng)網(wǎng)絡(luò)專家T.Kohonen根據(jù)大腦神經(jīng)系統(tǒng)的這一特性,于1981年提出了自組織特征映射網(wǎng)絡(luò),它模擬人的大腦,利用競(jìng)爭(zhēng)學(xué)習(xí)的方式進(jìn)行網(wǎng)絡(luò)學(xué)習(xí),具有很強(qiáng)的自組織、自適應(yīng)學(xué)習(xí)能力,魯棒性和容錯(cuò)能力,其理論及應(yīng)用發(fā)展很快,目前已在信息處理、模式識(shí)別、圖像處理、語(yǔ)音識(shí)別、機(jī)器人控制、數(shù)據(jù)挖掘等方面都有成功應(yīng)用的實(shí)例。

    Kohonen網(wǎng)絡(luò)由輸入層和競(jìng)爭(zhēng)層組成,網(wǎng)絡(luò)結(jié)構(gòu)見圖1。輸入層由N個(gè)神經(jīng)元組成,競(jìng)爭(zhēng)層由M個(gè)輸出神經(jīng)元組成,輸入層與競(jìng)爭(zhēng)層各神經(jīng)元之間實(shí)現(xiàn)全互連接,競(jìng)爭(zhēng)層之間實(shí)行側(cè)向連接。設(shè)輸入向量為x=(x1,…,xd)T ,輸出神經(jīng)元j對(duì)應(yīng)的權(quán)重向量為wj=(wj1,…,wjd)T ,對(duì)每一輸出神經(jīng)元計(jì)算輸入向量x 和權(quán)重向量wj 間的距離,據(jù)此利用競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則對(duì)權(quán)向量進(jìn)行調(diào)節(jié)。在網(wǎng)絡(luò)的競(jìng)爭(zhēng)層,各神經(jīng)元競(jìng)爭(zhēng)對(duì)輸入模式的響應(yīng)機(jī)會(huì),最后僅一個(gè)神經(jīng)元成為勝利者,并對(duì)與獲勝神經(jīng)元有關(guān)的各權(quán)重朝著更有利于它競(jìng)爭(zhēng)的方向調(diào)整,這樣在每個(gè)獲勝神經(jīng)元附近形成一個(gè)“聚類區(qū)”,學(xué)習(xí)的結(jié)果使聚類區(qū)內(nèi)各神經(jīng)元的權(quán)重向量保持與輸入向量逼近的趨勢(shì),從而使具有相近特性的輸入向量聚集在一起,這種自組織聚類過(guò)程是系統(tǒng)自主、無(wú)教師示教的聚類方法,能將任意維輸入模式在輸出層映射成一維或二維離散圖形,并保持其拓?fù)浣Y(jié)構(gòu)不變。網(wǎng)絡(luò)通過(guò)對(duì)輸入模式的學(xué)習(xí),網(wǎng)絡(luò)競(jìng)爭(zhēng)層神經(jīng)元相互競(jìng)爭(zhēng),自適應(yīng)地形成對(duì)輸入模式的不同響應(yīng),模擬大腦信息處理的聚類功能、自組織、自學(xué)習(xí)功能,實(shí)現(xiàn)用低維目標(biāo)空間的點(diǎn)去表示高維原始空間的點(diǎn),其工作原理和聚類算法及改進(jìn)方法參見相關(guān)文獻(xiàn)[1]。

    1.2  應(yīng)用

    基因芯片技術(shù)的應(yīng)用使得人們可以從基因水平探討疾病的病因及預(yù)后,而基因芯片產(chǎn)生的數(shù)據(jù)具有高維度(變量多)、樣本量小、高噪聲的特點(diǎn),樣本量遠(yuǎn)小于變量數(shù),如何從海量的數(shù)據(jù)中挖掘信息或知識(shí)成為重大課題。聚類分析是數(shù)據(jù)挖掘中的一類重要技術(shù),傳統(tǒng)方法主要有系統(tǒng)聚類、k-means聚類等,但在處理復(fù)雜非線性關(guān)系及變量間的交互作用時(shí)效果較差,受異常值影響較大。近年來(lái)神經(jīng)網(wǎng)絡(luò)技術(shù)法成為聚類領(lǐng)域的研究熱點(diǎn),其中自組織特征映射網(wǎng)絡(luò)由于其良好的自適應(yīng)性,其算法對(duì)基因表達(dá)數(shù)據(jù)的聚類有較高的穩(wěn)定性和智能性,尤其在處理基因表達(dá)中有缺失數(shù)據(jù)及原始空間到目標(biāo)空間存在非線性映射結(jié)構(gòu)時(shí)有較好的體現(xiàn),適用于復(fù)雜的多維數(shù)據(jù)的模式識(shí)別和特征分類等探索性分析,同時(shí)可實(shí)現(xiàn)聚類過(guò)程和結(jié)果的可視化[2]。目前Kohonen網(wǎng)絡(luò)已被成功用到許多基因表達(dá)數(shù)據(jù)的分析中,Jihua Huang等[3]設(shè)計(jì)6×6的網(wǎng)絡(luò)對(duì)酵母細(xì)胞周期數(shù)據(jù)進(jìn)行分析,總正確率為67.7%;曹暉等[4]將其算法改進(jìn)后用在酵母菌基因表達(dá)數(shù)據(jù)中,總正確率高達(dá)84.73%,有較高的聚類效能;鄧慶山[5]將該模型與K平均值聚類方法結(jié)合用于公開的結(jié)腸基因表達(dá)數(shù)據(jù)集和白血病基因表達(dá)數(shù)據(jù)集,聚類的準(zhǔn)確率分別為94.12%和90.32%。目前Kohonen網(wǎng)絡(luò)在醫(yī)學(xué)領(lǐng)域中主要應(yīng)用前景有:① 發(fā)現(xiàn)與疾病相關(guān)的新的未知基因,對(duì)目標(biāo)基因進(jìn)一步研究,提高診斷的正確率,并對(duì)藥物的開發(fā)研究提供重要的線索;② 對(duì)腫瘤組織的基因表達(dá)譜數(shù)據(jù)聚類,以期發(fā)現(xiàn)新的、未知的疾病亞型(腫瘤亞型),以便提出更加有針對(duì)性的治療方案,為從分子水平對(duì)疾病分型、診斷、預(yù)后等提供依據(jù);③ 發(fā)現(xiàn)與已知基因有相似功能的基因,為推斷未知基因的可能功能提供線索。

    2  BP神經(jīng)網(wǎng)絡(luò)在醫(yī)學(xué)研究中的應(yīng)用

    2.1  BP神經(jīng)網(wǎng)絡(luò)在疾病輔助診斷中的應(yīng)用

    2.1.1  方法介紹

    BP神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最多的神經(jīng)網(wǎng)絡(luò),一般由一個(gè)輸入層(input layer)、一個(gè)輸出層(output layer)、一個(gè)或幾個(gè)中間層(隱層)組成。每一層可包含一個(gè)或多個(gè)神經(jīng)元,其中每一層的每個(gè)神經(jīng)元和前一層相連接,同一層之間沒(méi)有連接。輸入層神經(jīng)元傳遞輸入信息到第一隱層或直接傳到輸出層,隱層的神經(jīng)元對(duì)輸入層的信息加權(quán)求和,加一個(gè)常數(shù)后,經(jīng)傳遞函數(shù)運(yùn)算后傳到下一個(gè)隱層(或輸出層),常用的傳遞函數(shù)是logistic函數(shù),即Φh=1/(1+exp(-z)) ,輸出層神經(jīng)元對(duì)前一層的輸入信息加權(quán)求和經(jīng)傳遞函數(shù)Φ0 (線性或logistic函數(shù)或門限函數(shù))運(yùn)算后輸出,BP神經(jīng)網(wǎng)絡(luò)一般采用BP算法訓(xùn)練網(wǎng)絡(luò),關(guān)于BP算法及改進(jìn)可參考相關(guān)文獻(xiàn)[1]。

第8篇:人工神經(jīng)網(wǎng)絡(luò)范文

關(guān)鍵詞:相關(guān)性分析;客戶流失;人工神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào):TP183文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1009-3044(2012)03-0665-03

The Analysis Model of the Bank Customer Churn Based on Artificial Neural Network

LIN Rui1,2, CHI Xue-zhi3

(1. China Construction Bank, Dongying 257000, China; 2. China University of Petroleum, Dongying 257000, China; 3. Shandong Police College, Jinan 250014, China)

Abstract: For the current customer churn problem of China Construction Bank, using the BP neural network network stability, good learning ability characteristics, through the correlation analysis between the input variables and output variables,establish a bank customer churn analysis model, through this model we can access to the data of customer’s loss, so that the bank make business decisions, retain the user to ensure that bank efficiency is not affected. Experiments show that this model can well predict the loss of bank customers.

Key words: correlation analysis; customer’s loss; artificial neural network

隨著國(guó)際金融一體化和網(wǎng)絡(luò)經(jīng)濟(jì)的發(fā)展,我國(guó)商業(yè)銀行面臨更加激烈的市場(chǎng)競(jìng)爭(zhēng),如何有效的應(yīng)對(duì)競(jìng)爭(zhēng),抓住給銀行帶來(lái)效益的客戶資源,提高中國(guó)建設(shè)銀行的市場(chǎng)份額,增加企業(yè)的效益,成為擺在中國(guó)建設(shè)銀行面前的重要課題。但是,國(guó)內(nèi)許多銀行往往把精力放在發(fā)展新客戶上,而對(duì)于現(xiàn)有客戶的需求沒(méi)有進(jìn)行深入分析,以致造成現(xiàn)有客戶的流失。因此,如何對(duì)銀行客戶流失進(jìn)行有效的分析,針對(duì)不同的客戶實(shí)行差別化服務(wù),滿足客戶的不同需求,避免客戶的流失,這樣可以大大地提高銀行的競(jìng)爭(zhēng)力。本文利用人工神經(jīng)網(wǎng)絡(luò)的魯棒性和容錯(cuò)性、能夠處理負(fù)責(zé)的非線性關(guān)系、可學(xué)習(xí)和自適應(yīng)能力強(qiáng)的特點(diǎn),通過(guò)對(duì)保留在銀行數(shù)據(jù)庫(kù)中的客戶數(shù)據(jù)進(jìn)行分析,建立客戶流失模型,預(yù)測(cè)客戶流失情況,從而幫準(zhǔn)銀行調(diào)整服務(wù)和經(jīng)營(yíng)策略,給銀行帶來(lái)更大的效益。

1客戶流失分析

TNS日前首份中國(guó)銀行業(yè)調(diào)查報(bào)告,該公司北京、上海、廣州三地,對(duì)1500名零售銀行客戶以及900名信用卡用戶進(jìn)行調(diào)研,分析顯示目前中國(guó)銀行業(yè)客戶維系指數(shù)低于全球平均水平,調(diào)查也顯示目前國(guó)有商業(yè)銀行的客戶流失率高達(dá)30%。銀行客戶流失的原因有很多,客戶信息中的哪些關(guān)鍵因素會(huì)導(dǎo)致客戶的流失,面對(duì)客戶的流失銀行應(yīng)該采取怎樣的應(yīng)對(duì)措施成為銀行需要重點(diǎn)關(guān)注的問(wèn)題。為此,銀行需要建立客戶流失分析模型,作用有兩個(gè)方面:

1)通過(guò)對(duì)客戶數(shù)據(jù)的分析,獲取客戶信息中的關(guān)鍵因素和客戶流失之間的必然關(guān)系,從而有針對(duì)性的改變銀行的經(jīng)營(yíng)和服務(wù)策略。

2)對(duì)可能流失的客戶進(jìn)行預(yù)警。

目前的相關(guān)研究中,典型的客戶流失分析主要有分類回歸樹、決策樹、C4.5、偏差統(tǒng)計(jì)等方法。但是勛在精確度低,客戶特征之間的相互影響的關(guān)系難于表達(dá),對(duì)噪音數(shù)據(jù)非常敏感等問(wèn)題,使用這些方法建立的客戶流失分析模型往往比較負(fù)責(zé),達(dá)不到對(duì)客戶進(jìn)行流失分析的需要。

2基于BP人工神經(jīng)網(wǎng)絡(luò)的客戶流失分析模型

2.1在客戶流失分析中應(yīng)用BP人工神經(jīng)網(wǎng)絡(luò)

BP(Back Propagation)人工神經(jīng)網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出,是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。由于BP人工神經(jīng)網(wǎng)絡(luò)具有自適應(yīng)和學(xué)習(xí)能力強(qiáng)的特點(diǎn),我們將它引入客戶流失分析中,通過(guò)對(duì)與獲得樣本數(shù)據(jù)的訓(xùn)練和學(xué)習(xí),確定客戶流失分析的基本模型,通過(guò)模型一方面可獲得銀行客戶的基本特征信息與客戶流失之間的必然聯(lián)系,另一方面也可以對(duì)現(xiàn)有客戶是否流失進(jìn)行預(yù)警,從而達(dá)到挽留即將流失客戶的目的。

在客戶流失分析中應(yīng)用BP人工神經(jīng)網(wǎng)絡(luò),作者對(duì)以下4個(gè)方面進(jìn)行了重點(diǎn)考慮:

1)關(guān)鍵屬性變量的選取

2)特征數(shù)據(jù)預(yù)處理

3)基于BP網(wǎng)絡(luò)的客戶分析模型的建立4)BP人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練

2.2關(guān)鍵屬性變量的選取

為得到更為準(zhǔn)確的客戶流失分析模型,首先要收集高質(zhì)量的訓(xùn)練用銀行客戶樣本。本文從中國(guó)建設(shè)銀行xx分行數(shù)據(jù)庫(kù)中獲取6個(gè)月的客戶數(shù)據(jù)作為樣本,數(shù)據(jù)包括這家銀行客戶的基本信息特征和行為特征。全部客戶樣本共4412個(gè),其中撤銷賬戶的有167個(gè),保持開戶的有4245個(gè)。

從提取的資料來(lái)看,字段變量非常復(fù)雜,共58個(gè)字段變量,為適應(yīng)BP人工神經(jīng)網(wǎng)絡(luò)對(duì)數(shù)據(jù)數(shù)據(jù)的要求,減少網(wǎng)絡(luò)復(fù)雜度,首先對(duì)這些變量的進(jìn)行相關(guān)性分析,去除對(duì)客戶流失分析模型無(wú)用或意義不大的變量,并且歸約派生有用的新變量。根據(jù)現(xiàn)有國(guó)際上對(duì)客戶流失影響因素的研究和領(lǐng)域?qū)<覍?duì)客戶數(shù)據(jù)的分析,最終確定影響中國(guó)建設(shè)銀行客戶流失的關(guān)鍵變量有10個(gè),顯示在表1中。

表1影響客戶流失的關(guān)鍵變量及代碼

2

.3數(shù)據(jù)預(yù)處理

在客戶樣本數(shù)據(jù)應(yīng)用于人工神經(jīng)網(wǎng)絡(luò)測(cè)試和訓(xùn)練之前,要對(duì)所取得的數(shù)據(jù)進(jìn)行量化處理以滿足BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的需要,需要量化的是關(guān)鍵屬性變量輸入和某一樣本的期望輸出。

由于存在多個(gè)關(guān)鍵屬性變量,各個(gè)屬性變量之間存在著不可公度性和矛盾性,各屬性變量的量綱、數(shù)量級(jí)和指標(biāo)類型也不盡相同。為了消除這種差異對(duì)預(yù)測(cè)結(jié)果的影響,在評(píng)價(jià)時(shí)首先要將訓(xùn)練樣本的向量歸一化,使網(wǎng)絡(luò)的訓(xùn)練樣本的值都在[0,1]范圍內(nèi),從而網(wǎng)絡(luò)的性能會(huì)發(fā)揮得更好。筆者采用最大最小函數(shù)法對(duì)原始輸入進(jìn)行預(yù)處理,得到BP神經(jīng)網(wǎng)絡(luò)輸入層輸入節(jié)點(diǎn)的初始值為{ci1,ci2,?,cin},期望輸出的值0或1,如果樣本數(shù)據(jù)中客戶沒(méi)有流失,輸出為0,否則為1。假設(shè)有m篇樣本,則BP神經(jīng)網(wǎng)絡(luò)的輸入層數(shù)據(jù)為:

2.4模型的建立

建立一個(gè)人工神經(jīng)網(wǎng)絡(luò)模型,該模型包括10個(gè)輸入單元,1個(gè)輸出單元。由于BP人工神經(jīng)網(wǎng)絡(luò)具有的最大特點(diǎn)就是非線性函數(shù)的逼近,而且只含有一個(gè)隱藏層的BP網(wǎng)絡(luò)即可完成此任務(wù),因此,采用一個(gè)隱藏層。輸入層節(jié)點(diǎn)的個(gè)數(shù)為前面取得的影響客戶流失的關(guān)鍵屬性變量數(shù)目;隱含層節(jié)點(diǎn)數(shù)目根據(jù)具體情況在實(shí)驗(yàn)過(guò)程中確定,一般不少于輸入層節(jié)點(diǎn)的個(gè)數(shù);由于神經(jīng)網(wǎng)絡(luò)最終的輸出結(jié)果為計(jì)算出的客戶流失度的大小,因此,輸出層節(jié)點(diǎn)在本文中設(shè)計(jì)了一個(gè)。

根據(jù)模型中輸入層數(shù)據(jù)的取值范圍,模型中在每個(gè)隱含節(jié)點(diǎn)和輸出節(jié)點(diǎn)的值都是用Sigmoid轉(zhuǎn)移函數(shù)(f( ) x = 1+e-x)計(jì)算獲得?;贐P人工神經(jīng)網(wǎng)絡(luò)的客戶流失分析模型的基本結(jié)構(gòu)如圖1。

2.5 BP人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程

為了對(duì)BP人工神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,我們將選取的4412個(gè)樣本分為兩類,其中,70%的用于訓(xùn)練,其余30%用于測(cè)試。這樣分別構(gòu)成了三個(gè)樣本輸入矩陣I3088×100和三個(gè)期望輸出矩陣O3088×1。接著,初始化BP人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),主要是確定了隱含層節(jié)點(diǎn) 的個(gè)數(shù)16。

BP人工神經(jīng)網(wǎng)絡(luò)的一般訓(xùn)練過(guò)程如下[4]:

假設(shè)第k-1層有n個(gè)神經(jīng)元,對(duì)于第k層的第i個(gè)神經(jīng)元,則有n個(gè)權(quán)系數(shù)wi1,wi2,......win,另外取多一個(gè)win+1用于表示閾值θi;并且對(duì)第k-1層的輸出Xk-1取Xk-1=(X1k-1,X2k-1,......Xnk-1,1),多出的一個(gè)神經(jīng)元稱為偏置神經(jīng)元。

算法的執(zhí)行步驟如下:

1)對(duì)輸入層權(quán)系數(shù)Wij置初值

首次學(xué)習(xí)時(shí)輸入層的權(quán)系數(shù)Wij取一個(gè)較小的非零隨機(jī)數(shù),以后學(xué)習(xí)時(shí)為加快學(xué)習(xí)速度,Wij取以前網(wǎng)絡(luò)學(xué)習(xí)收斂時(shí)的穩(wěn)定權(quán)值。另外取Win+1=-θi

2)輸入一個(gè)樣本X1=(X11,X21,???,Xn1,1),以及對(duì)應(yīng)期望輸出Y=(Y1,Y2,???,Yn,Y0)。

3)計(jì)算各層的輸出

對(duì)于第k層第i個(gè)神經(jīng)單元的輸出Xik,有:

4)求各層的學(xué)習(xí)誤差dik對(duì)于輸入層有k=m,有

對(duì)于其它隱含層,有

5)修正權(quán)系數(shù)Wij

使用一般化的Delta法則公式

及其修正公式

6)當(dāng)求出各層各個(gè)權(quán)系數(shù)之后,可按給定條件判別是否滿足要求。如果滿足要求,則算法結(jié)束;否則返回3執(zhí)行。

3訓(xùn)練結(jié)果及模型評(píng)價(jià)

3.1訓(xùn)練結(jié)果

我們對(duì)上述模型進(jìn)行訓(xùn)練,最后樣本在循環(huán)了528,630次達(dá)到收斂,證明可以使用該網(wǎng)絡(luò)模型對(duì)客戶流失進(jìn)行預(yù)測(cè)分析。

3.2模型評(píng)價(jià)

客戶流失模型要求兩個(gè)方面的準(zhǔn)確率:一個(gè)是預(yù)測(cè)準(zhǔn)確率,一個(gè)是預(yù)測(cè)覆蓋率,對(duì)模型的評(píng)價(jià)可以用如表2所示的評(píng)價(jià)矩陣表示。

表2客戶流失評(píng)價(jià)矩陣

其中:

預(yù)測(cè)準(zhǔn)確度: 預(yù)測(cè)覆蓋率:

C+D

根據(jù)中國(guó)建設(shè)銀行的運(yùn)營(yíng)要求,將預(yù)測(cè)覆蓋率設(shè)定為80%以上,預(yù)測(cè)命中率設(shè)定在75%以上。

使用前面測(cè)試樣本的1324條數(shù)據(jù)作為測(cè)試數(shù)據(jù),對(duì)建立的客戶流失模型進(jìn)行評(píng)估,結(jié)果如表3所示。

表3評(píng)估結(jié)果

從模型評(píng)估結(jié)果可以看出,模型的預(yù)測(cè)命中率為84.58%;預(yù)測(cè)覆蓋率為81.17%。從中國(guó)建設(shè)銀行對(duì)客戶流失分析模型的需求來(lái)看,模型已達(dá)到了要求,可以投入使用。將需要檢測(cè)的樣本通過(guò)BP人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練,就可以得到每個(gè)樣本所對(duì)應(yīng)的客戶是否有較大可能流失,然后,銀行就可以有的放矢地采取必要措施來(lái)挽留客戶。

4結(jié)束語(yǔ)

本文將人工神經(jīng)網(wǎng)絡(luò)技術(shù)應(yīng)用于銀行客戶流失分析,建立了基于人工神經(jīng)網(wǎng)絡(luò)的客戶流失分析模型,并對(duì)模型中的關(guān)鍵問(wèn)題:關(guān)鍵屬性變量的選取、數(shù)據(jù)預(yù)處理、流失模型建立、人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程等進(jìn)行了重點(diǎn)研究,測(cè)試結(jié)果表明運(yùn)用此模型對(duì)銀行客戶進(jìn)行流失預(yù)測(cè)分析是可行的。它使得銀行決策者能夠及時(shí)了解客戶流失情況發(fā)生,制定相應(yīng)經(jīng)營(yíng)決策,挽留有關(guān)用戶,確保銀行效益不受影響。

參考文獻(xiàn):

[1]張?jiān)茲?龔玲.數(shù)據(jù)挖掘原理與技術(shù).[M].北京:電子工業(yè)出版社,2004.

[2]郭明,鄭惠莉,盧毓偉.基于貝葉斯網(wǎng)絡(luò)的客戶流失分析[J].南京郵電大學(xué)學(xué)報(bào):自然科學(xué)版,2005,25(5):79-83.

第9篇:人工神經(jīng)網(wǎng)絡(luò)范文

摘要:工程造價(jià)估算是招標(biāo)投標(biāo)中的重要一環(huán),探尋一套快速、簡(jiǎn)捷、實(shí)用的工程造價(jià)估算方法已經(jīng)成為建筑行業(yè)的迫切需要。為了建設(shè)工程造價(jià)估算技術(shù)的發(fā)展及文聯(lián)面臨的問(wèn)題,提出在建設(shè)工程造價(jià)估算技術(shù)系統(tǒng)中應(yīng)用人工神經(jīng)網(wǎng)絡(luò)技術(shù)來(lái)提高估算精確度,并且給出系統(tǒng)的設(shè)計(jì)模型。

關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò);工程造價(jià);造價(jià)估算

人工神經(jīng)網(wǎng)絡(luò)(ArtificialNeuralNetworks,簡(jiǎn)寫為ANNs)也簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)(NNs)或稱作連接模型(ConnectionistModel),它是一種模范動(dòng)物神經(jīng)網(wǎng)絡(luò)行為特征,進(jìn)行分布式并行信息處理的算法數(shù)學(xué)模型。這種網(wǎng)絡(luò)依靠系統(tǒng)的復(fù)雜程度,通過(guò)調(diào)整內(nèi)部大量節(jié)點(diǎn)之間相互連接的關(guān)系,從而達(dá)到處理信息的目的。人工神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)和自適應(yīng)的能力,可以通過(guò)預(yù)先提供的一批相互對(duì)應(yīng)的輸入-輸出數(shù)據(jù),分析掌握兩者之間潛在的規(guī)律,最終根據(jù)這些規(guī)律,用新的輸入數(shù)據(jù)來(lái)推算輸出結(jié)果,這種學(xué)習(xí)分析的過(guò)程被稱為“訓(xùn)練”。

一、神經(jīng)網(wǎng)絡(luò)的建立

雖然人們還并不完全清楚生物神經(jīng)網(wǎng)絡(luò)是如何進(jìn)行工作的,但還是幻想能否構(gòu)造一些“人工神經(jīng)元”,然后將這些神經(jīng)元以某種特定的方式連接起來(lái),模擬“人腦”的某些功能。

在1943年,心理學(xué)家W. McCulloch和數(shù)學(xué)家W. Pitts合作,從數(shù)理邏輯的角度,提出了神經(jīng)元和神經(jīng)網(wǎng)絡(luò)最早的數(shù)學(xué)模型(MP模型),是神經(jīng)網(wǎng)絡(luò)研究的開端,更為后面的研究發(fā)展奠定了基礎(chǔ)。經(jīng)歷了半個(gè)多世紀(jì),神經(jīng)網(wǎng)絡(luò)度過(guò)了萌芽期、第一次期、反思低潮期、第二次期、再認(rèn)識(shí)與應(yīng)用研究期五個(gè)階段。目前,神經(jīng)網(wǎng)絡(luò)已成為涉及多種學(xué)科和領(lǐng)域的一門新興的前沿交叉學(xué)科。

神經(jīng)元分為分層網(wǎng)絡(luò)和相互連接型網(wǎng)絡(luò)。所謂分層網(wǎng)絡(luò),就是一個(gè)網(wǎng)絡(luò)模型中的所有神經(jīng)元按功能分層,一般分為輸入層、中間層(隱含層)、輸出層,各層按順序連接,隔層之間均采用的是全互連接,但對(duì)于同一單元間,不互相連接。分層網(wǎng)絡(luò)可細(xì)分為簡(jiǎn)單前向網(wǎng)絡(luò)、反饋前向網(wǎng)絡(luò)和層內(nèi)互相連接的網(wǎng)絡(luò)。人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)是一種多層的網(wǎng)絡(luò)結(jié)構(gòu),一個(gè)典型的前向網(wǎng)絡(luò)。

某個(gè)神經(jīng)元 j 的輸入―輸出關(guān)系為

其中,θj為閥值,ωji為連接權(quán),f(•)為變換函數(shù),也稱活化函數(shù)(activation function)

對(duì)于人工神經(jīng)網(wǎng)絡(luò)模型,我們只可能在某種程度上去描述我們所了解的情況。同樣,人工神經(jīng)網(wǎng)絡(luò)也只可能是在某種程度上對(duì)真實(shí)的神經(jīng)網(wǎng)絡(luò)的一種模擬和逼近。

二、在工程造價(jià)中的運(yùn)用

成都市工程造價(jià)計(jì)價(jià)模式后選取了基礎(chǔ)類型、結(jié)構(gòu)類型、工期、層數(shù)、建址、層高、內(nèi)裝修、門窗、單位造價(jià)等10個(gè)影響工程造價(jià)和工程量的特征作為模型的輸入??紤]到各個(gè)工程中門和窗數(shù)量差別很大為提高估算的精度我們把門數(shù)量和窗數(shù)量作為輸入,其數(shù)量在工程施工圖紙上很容易查得,不需作復(fù)雜的計(jì)算。對(duì)于其他文字性表達(dá)的工程特征需轉(zhuǎn)變成數(shù)字后作為網(wǎng)絡(luò)的輸入。

很明顯的看出,測(cè)試樣本總體誤差率比較小,平均誤差為283%,基本滿足估算要求,隨著工程資料的不斷積累,選取有代表性的數(shù)據(jù)作為樣本,誤差將不斷縮小。

意義:

通過(guò)這次研究,我們了解了人工神經(jīng)網(wǎng)絡(luò)的基本原理,即通過(guò)誤差反向傳播建立多層前饋網(wǎng)絡(luò)的學(xué)習(xí)收斂過(guò)程,該過(guò)程主要包括三個(gè)層次,即輸入層、隱含層和輸出層。在訓(xùn)練中通過(guò)計(jì)算輸出值與期望值之間的誤差,來(lái)求解輸出層單元的一般化誤差,再將誤差進(jìn)行反向傳播,求出隱含層。并了解了基于人工神經(jīng)網(wǎng)絡(luò)之上的建設(shè)項(xiàng)目的投資估算模型,了解了平滑指數(shù)法、類比系數(shù)法、模糊數(shù)學(xué)估算法的基本原理與其自身的優(yōu)勢(shì)與不足,也讓我們更深刻地認(rèn)識(shí)到,人工神經(jīng)網(wǎng)絡(luò),作為90年代逐漸被運(yùn)用的人工智能技術(shù)之一,能像一個(gè)經(jīng)驗(yàn)深厚的造價(jià)師,根據(jù)工程類型、特征及其相關(guān)情況,結(jié)合數(shù)據(jù)和經(jīng)驗(yàn),準(zhǔn)確的估算出其造價(jià)。我們也通過(guò)計(jì)算驗(yàn)證了模型的可行性。對(duì)于我們從事建筑造價(jià)的大學(xué)生來(lái)說(shuō),是一次難能可貴的研究機(jī)會(huì),能夠較深層次的了解行業(yè)中的專業(yè)知識(shí)。隨著中國(guó)改革開放和市場(chǎng)經(jīng)濟(jì)的不斷深入,中國(guó)建筑企業(yè)在面臨很好的機(jī)遇的同時(shí),也面臨著嚴(yán)峻的考驗(yàn)?,F(xiàn)在的市場(chǎng)競(jìng)爭(zhēng)機(jī)制已表現(xiàn)得越來(lái)越明顯,他要求我們提高效率,盡快拿出自己招投標(biāo)方案,但是傳統(tǒng)的預(yù)算方法以及現(xiàn)行的計(jì)算軟件都必須花費(fèi)較長(zhǎng)的時(shí)間才能計(jì)算出結(jié)果,而且計(jì)算的結(jié)果準(zhǔn)確度還不是很高。怎樣解決這個(gè)問(wèn)題,成了建筑界的熱門話題。同時(shí)作為建設(shè)方的業(yè)主,他們同樣對(duì)快速預(yù)算很感興趣。因?yàn)榇_定工程造價(jià)是建設(shè)工作中十分重要的一環(huán),在不同階段有著不同的方法。如建設(shè)前期的工程造價(jià)估算、初步設(shè)計(jì)階段編制概算、施工圖設(shè)計(jì)階段編制預(yù)算,特別是建設(shè)前的估算是我們工作的重點(diǎn),因?yàn)樗俏覀冞M(jìn)行成本控制的起點(diǎn)。對(duì)于建設(shè)單位而言,它們不僅能在進(jìn)行設(shè)計(jì)招標(biāo)之前大致確定該工程的造價(jià),而且還能在工程施工招標(biāo)前定出合理的標(biāo)底。可見快速預(yù)算有其很現(xiàn)實(shí)的發(fā)展研究背景。近幾年許多學(xué)者都在這方面努力探索,并取得了很好成果。 神經(jīng)網(wǎng)絡(luò)和模糊數(shù)學(xué)的快速發(fā)展應(yīng)用為工程快速預(yù)算提供了很好的思路。我們通過(guò)查閱資料了解了模糊數(shù)學(xué)和神經(jīng)網(wǎng)絡(luò)的結(jié)合原理,認(rèn)識(shí)了基于模糊神經(jīng)網(wǎng)絡(luò)和工程預(yù)算原理的工程快速估價(jià)的模型,并通過(guò)住宅建筑估價(jià)模型的建立,說(shuō)明模型的實(shí)現(xiàn)方法且驗(yàn)證其實(shí)用性。這次研究對(duì)于行業(yè)經(jīng)驗(yàn)不足的我們十分寶貴,我們通過(guò)書籍等資料更加全方位的了解了我們未來(lái)所講從事的行業(yè)的知識(shí),為我們以后的工作做了良好的鋪墊,積累了寶貴財(cái)富,我們將在了解這些專業(yè)知識(shí)之后熟練地運(yùn)用,以更好地促進(jìn)行業(yè)的發(fā)展。(西華大學(xué);四川;成都;610039)

參考文獻(xiàn):

① 汪應(yīng)洛、楊耀紅,工程項(xiàng)目管理中的人工神經(jīng)網(wǎng)絡(luò)方法及其應(yīng)用[J].中國(guó)工程科學(xué).2004,6(7):26-33.

② 袁曾仁,人工背景:神經(jīng)網(wǎng)絡(luò)及其應(yīng)用[M]清華大學(xué)出版社,1991

相關(guān)熱門標(biāo)簽