公務(wù)員期刊網(wǎng) 精選范文 神經(jīng)網(wǎng)絡(luò)提取特征范文

神經(jīng)網(wǎng)絡(luò)提取特征精選(九篇)

前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)提取特征主題范文,僅供參考,歡迎閱讀并收藏。

神經(jīng)網(wǎng)絡(luò)提取特征

第1篇:神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞:圖像分類;深度學(xué)習(xí);Caffe框架;卷積神經(jīng)網(wǎng)絡(luò)

中圖分類號:TP18 文獻(xiàn)標(biāo)識碼:A 文章編號:1009-3044(2016)35-0209-03

Research and Implementation of Image Classification Based on Convolution Neural Network

WANG Chao

(Information Engineering Institute,East China University of Technology, Nanchang 330013, China)

Abstract: The problem of image classification has been the core problem in computer vision. A good solution is developed by further study which can solve the problem of extracting image features in image classification. In order to learn image features efficiently, constructing the machine learning model with hidden layer as well as training a large number of image data will eventually promote the accuracy of image classification or prediction. This paper is intended as an in-depth Caffe learning framework to construct a small image data-base. The convolutional neural network provided by Caffe framework will make a training analysis of the data set and then extract the information of target image features. These can be used for the final prediction of the target image. Compared with the traditional image classification algorithm, the accuracy of the prediction will be greatly improved.

Key words: image classification; deep learning; Caffe framework; Convolutional Neural Network

S著計(jì)算機(jī)與互聯(lián)網(wǎng)技術(shù)的快速發(fā)展,我們已經(jīng)進(jìn)入了一個(gè)以圖像構(gòu)建的世界。但是面臨有海量圖像信息卻找不到所需要的數(shù)據(jù)的困境,因而圖像分類技術(shù)應(yīng)運(yùn)而生。通過各種機(jī)器學(xué)習(xí)算法使計(jì)算機(jī)自動將各類圖像進(jìn)行有效管理和分類,但是由于圖像內(nèi)容包含著大量復(fù)雜且難以描述的信息,圖像特征提取和相識度匹配技術(shù)也存在一定的難題,要使得計(jì)算機(jī)能夠像人類一樣進(jìn)行分類還是有很大的困難。

深度學(xué)習(xí)是近十年來人工智能領(lǐng)域取得的重要突破,在圖像識別中的應(yīng)用取得了巨大的進(jìn)步,傳統(tǒng)的機(jī)器學(xué)習(xí)模型屬于神經(jīng)網(wǎng)絡(luò)模型,神經(jīng)網(wǎng)絡(luò)有大量的參數(shù),經(jīng)常會出現(xiàn)過擬合問題,因而對目標(biāo)檢測準(zhǔn)確率上比較低。本文采用卷積神經(jīng)網(wǎng)絡(luò)框架,圖像特征是從大數(shù)據(jù)中自動學(xué)習(xí)得到,而且神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)深由很多層組成,通過重復(fù)利用中間層的計(jì)算單元來減少參數(shù),在特征匯聚階段引入圖像中目標(biāo)的顯著信信息,增強(qiáng)了圖像的特征表達(dá)能力。通過在圖像層次稀疏表示中引入圖像顯著信息,加強(qiáng)了圖像特征的語義信息,得到圖像顯著特征表示,通過實(shí)驗(yàn)測試,效果比傳統(tǒng)的圖像分類算法預(yù)測的準(zhǔn)確度有明顯的提升。

1 基于卷積神經(jīng)網(wǎng)絡(luò)的圖像分類方法

1.1 人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network, ANN)是描述生物神經(jīng)網(wǎng)絡(luò)運(yùn)行機(jī)理和工作過程的抽象和簡化了的數(shù)學(xué)物理模型,使用路徑權(quán)值的有向圖來表示模型中的人工神經(jīng)元節(jié)點(diǎn)和神經(jīng)元之間的連接關(guān)系,之后通過硬件或軟件程序?qū)崿F(xiàn)上述有向圖的運(yùn)行[1]。目前最典型的人工神經(jīng)網(wǎng)絡(luò)算法包括:目前最典型的人工神經(jīng)網(wǎng)絡(luò)有BP網(wǎng)絡(luò) [2]Hopfield網(wǎng)絡(luò)[3]Boltzmann機(jī)[4]SOFM網(wǎng)絡(luò)[5]以及ART網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)[6],算法流程圖如圖1所示[7]。

1.2 卷積神經(jīng)網(wǎng)絡(luò)框架的架構(gòu)

Caffe是Convolutional Architecture for Fast Feature Embedding的縮寫[8],意為快速特征嵌入的卷積結(jié)構(gòu),包含最先進(jìn)的深度學(xué)習(xí)算法以及一系列的參考模型,圖2表示的是卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖。Caffe深度學(xué)習(xí)框架主要依賴CUDA,IntelMKL,OpenCV,glog軟件以及caffe文件。本文使用的各個(gè)軟件版本說明,如表1所示。

Caffe深度學(xué)習(xí)框架提供了多個(gè)經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò)模型,卷積神經(jīng)網(wǎng)絡(luò)是一種多層的監(jiān)督學(xué)習(xí)神經(jīng)網(wǎng)絡(luò),利用隱含層的卷積層和池采樣層是實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)特征提取功能,卷積神經(jīng)網(wǎng)絡(luò)模型通過采取梯度下降法最小化損失函數(shù)對網(wǎng)絡(luò)中的權(quán)重參數(shù)逐層反向調(diào)節(jié),通過頻繁的迭代訓(xùn)練來提高網(wǎng)絡(luò)的精度。卷積神經(jīng)網(wǎng)絡(luò)使用權(quán)值共享,這一結(jié)構(gòu)類似于生物神經(jīng)網(wǎng)絡(luò),從而使網(wǎng)絡(luò)的復(fù)雜程度明顯降低,并且權(quán)值的數(shù)量也有大幅度的減少,本文使用這些模型直接進(jìn)行訓(xùn)練,和傳統(tǒng)的圖像分類算法對比,性能有很大的提升,框架系統(tǒng)訓(xùn)練識別基本流程如圖3表示。

1.3 圖像分類特征提取

卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)層次相比傳統(tǒng)的淺層的神經(jīng)網(wǎng)絡(luò)來說,要復(fù)雜得多,每兩層的神經(jīng)元使用了局部連接的方式進(jìn)行連接、神經(jīng)元共享連接權(quán)重以及時(shí)間或空間上使用降采樣充分利用數(shù)據(jù)本身的特征,因此決定了卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)相比維度大幅度降低,從而降低計(jì)算時(shí)間的復(fù)雜度。卷積神經(jīng)網(wǎng)絡(luò)主要分為兩個(gè)過程,分為卷積和采樣,分別的對上層數(shù)據(jù)進(jìn)行提取抽象和對數(shù)據(jù)進(jìn)行降維的作用。

本文以Caffe深度學(xué)習(xí)框架中的 CIFAR-10數(shù)據(jù)集的貓的網(wǎng)絡(luò)模型為例,如圖4所示,對卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練。CIFAR-10是一個(gè)標(biāo)準(zhǔn)圖像圖像訓(xùn)練集,由六萬張圖像組成,共有10類(分為飛機(jī),小汽車,鳥,貓,鹿,狗,青蛙,馬,船,卡車),每個(gè)圖片都是32×32像素的RGB彩色圖像。通過對數(shù)據(jù)進(jìn)行提取和降維的方法來提取圖像數(shù)據(jù)的特征。

2 實(shí)驗(yàn)分析

將貓的圖像訓(xùn)練集放在train的文件夾下,并統(tǒng)一修改成256×256像素大小,并對貓的圖像訓(xùn)練集進(jìn)行標(biāo)記,標(biāo)簽為1,運(yùn)行選擇cpu進(jìn)行訓(xùn)練,每進(jìn)行10次迭代進(jìn)行一次測試,測試間隔為10次,初始化學(xué)習(xí)率為0.001,每20次迭代顯示一次信息,最大迭代次數(shù)為200次,網(wǎng)絡(luò)訓(xùn)練的動量為0.9,權(quán)重衰退為0.0005,5000次進(jìn)行一次當(dāng)前狀態(tài)的記錄,記錄顯示如下圖5所示,預(yù)測的準(zhǔn)度在98%以上。而相比傳統(tǒng)的圖像分類算法BP神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)的收斂性慢,訓(xùn)練時(shí)間長的,網(wǎng)絡(luò)的學(xué)習(xí)和記憶具有不穩(wěn)定性,因而卷e神經(jīng)網(wǎng)絡(luò)框架在訓(xùn)練時(shí)間和預(yù)測準(zhǔn)度上具有非常大的優(yōu)勢。

3 結(jié)束語

本文使用Caffe深度學(xué)習(xí)框架,以CIFAR-10數(shù)據(jù)集中貓的網(wǎng)絡(luò)模型為例,構(gòu)建小型貓的數(shù)據(jù)集,提取貓的圖象特征信息,最后和目標(biāo)貓圖像進(jìn)行預(yù)測,并和傳統(tǒng)的圖像分類算法進(jìn)行對比,預(yù)測的準(zhǔn)確率有很大的提升。

參考文獻(xiàn):

[1] 楊錚, 吳陳沭, 劉云浩. 位置計(jì)算: 無線網(wǎng)絡(luò)定位與可定位性[M]. 北京: 清華大學(xué)出版社, 2014.

[2] 丁士折. 人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)[M]. 哈爾濱: 哈爾濱工程大學(xué)出版社, 2008.

[3] McClelland J L, Rumelhart D E, PDP Research Group. Parallel distributedprocessing[J]. Explorations in the microstructure of cognition, 1986, 2.

[4] Hopfield J J. Neural networks and physical systems with emergent collectivecomputational abilities[J]. Proceedings of the national academy of sciences, 1982, 79(8): 2554-2558.

[5] Ackley D H, Hinton G E, Sejnowski T J. A learning algorithm for boltzmannmachines[J]. Cognitive science, 1985, 9(1): 147-169.

[6] Kohonenmaps T. Self-Organized Formation of Topologically Correct Feature Maps[J]. Biological Cybernetics,1982, 43(1): 59-69.

第2篇:神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞:乳腺癌;計(jì)算機(jī)輔助診斷;腫瘤;B 神經(jīng)網(wǎng)絡(luò)

中圖分類號:TB

文獻(xiàn)標(biāo)識碼:A

doi:10.19311/ki.16723198.2016.26.149

1 研究背景

乳腺癌在初期常無明顯臨床癥狀,或者僅僅表征為輕微的疼痛。至今為止,乳腺癌發(fā)病的確切原因還不明確,雖然已知遺傳因素、環(huán)境因素和生活方式對乳腺癌的發(fā)病有一定影響,但60%以上的乳腺癌并不存在明顯的危險(xiǎn)因素。目前還沒有有效的預(yù)防乳腺癌方法,而且中、晚期乳腺癌患者的愈后效果很差,任何干預(yù)都很難見效。因此,早發(fā)現(xiàn)、早診斷仍是當(dāng)前提高乳腺癌治愈率和降低死亡率的最有效途徑。

腫瘤是乳腺癌的直接病理征象,也是乳腺癌的主要診斷依據(jù),但盡管腫瘤是乳腺癌的一個(gè)重要早期跡象,但是醫(yī)師用肉眼很難將它們與正常的乳腺組織區(qū)分開來。但計(jì)算機(jī)輔助診斷(CAD)技術(shù)可以幫助醫(yī)師有效地進(jìn)行對乳腺異常的檢測。

近些年來,隨著B 神經(jīng)網(wǎng)絡(luò)理論的飛速發(fā)展和高度成熟,B 神經(jīng)網(wǎng)絡(luò)在醫(yī)學(xué)領(lǐng)域得到了廣泛應(yīng)用,如趙炳讓利用B 神經(jīng)網(wǎng)對冠心病進(jìn)行來輔助診斷,取得了很好的效果。EI-Solh用B 神經(jīng)網(wǎng)絡(luò)對活動性肺結(jié)核進(jìn)行輔助診斷,實(shí)驗(yàn)結(jié)果顯示正確診斷肺結(jié)核的靈敏度為100%,其表明了B 神經(jīng)網(wǎng)絡(luò)在診斷活動性肺結(jié)核的應(yīng)用效果上高于臨床醫(yī)生的主觀評價(jià),具備廣泛的推廣價(jià)值。Monica DiLuca等人通過基于B 神經(jīng)網(wǎng)絡(luò)的仿真實(shí)驗(yàn)對早期阿爾茨海默病進(jìn)行了輔助診斷。

2 基于B 神經(jīng)網(wǎng)絡(luò)的乳腺腫瘤計(jì)算機(jī)輔助診斷方法

2.1 提取ROI

本文實(shí)驗(yàn)對象為選自DDSM數(shù)據(jù)庫中的乳腺圖像,首先將ROI從實(shí)驗(yàn)樣本圖像中提取出。

2.2 提取特征

特征的提取是所有工作中關(guān)鍵的一環(huán),是模式識別和專家自動診斷系統(tǒng)的關(guān)鍵技術(shù)之一。其基本流程是:在對實(shí)驗(yàn)圖像進(jìn)行預(yù)處理(包括圖像定向、圖像去噪和圖像增強(qiáng)等)后,進(jìn)行圖像的分割以提取出所需的ROI,最后對ROI進(jìn)行特征提取。經(jīng)過以上步驟提取出的特征被用于對乳腺腫瘤良惡性的診斷,從而為醫(yī)師提供醫(yī)療建議。

對2.1節(jié)實(shí)驗(yàn)中所得到的ROI進(jìn)行特征提取,提取到基于不變矩、基于圖像內(nèi)容等的79維特征。

2.3 輔助診斷

將2.2節(jié)實(shí)驗(yàn)所得的79維特征值進(jìn)行歸一化處理,再將經(jīng)過處理的79個(gè)特征數(shù)據(jù)作為B 神經(jīng)網(wǎng)絡(luò)的79個(gè)輸入。將良性乳腺腫瘤和惡性乳腺腫瘤這兩個(gè)不同的乳腺腫瘤類別作為B 神經(jīng)網(wǎng)絡(luò)的期望輸出。

下面通過仿真實(shí)驗(yàn),記錄其迭代次數(shù)、程序運(yùn)行時(shí)間和診斷準(zhǔn)確率,并取其平均值,以完成對網(wǎng)絡(luò)性能的評價(jià)。

將樣本數(shù)據(jù)隨機(jī)排序并編號后,采用5-折交叉法將其分為5組。每次實(shí)驗(yàn)所使用的訓(xùn)練樣本數(shù)據(jù)和測試樣本數(shù)據(jù)如表1所示。

平均迭代次數(shù)為10.2次,乳腺腫瘤診斷準(zhǔn)確率平均值為94.41434%,并且每次仿真的迭代次數(shù)和準(zhǔn)確率都非常的接近,網(wǎng)絡(luò)的性能優(yōu)良。這說明,使用B 神經(jīng)網(wǎng)絡(luò)對乳腺腫瘤進(jìn)行輔助診斷是可行的且取得了良好的診斷效果。

3 總結(jié)

本文在B 神經(jīng)網(wǎng)絡(luò)方法的基礎(chǔ)上,對實(shí)驗(yàn)所用的乳腺圖像樣本進(jìn)行了輔助診斷。主要工作為:

(1)分割出樣本圖像的ROI;

(2)提取了樣本圖像ROI的79維特征;

(3)使用B 神經(jīng)網(wǎng)絡(luò)方法對樣本數(shù)據(jù)進(jìn)行輔助診斷,仿真結(jié)果顯示將B 神經(jīng)網(wǎng)絡(luò)用于檢測乳腺腫瘤的良惡性時(shí),網(wǎng)絡(luò)的性能優(yōu)良且有很好的診斷準(zhǔn)確率。

參考文獻(xiàn)

[1]胡永升.現(xiàn)代乳腺影像診斷學(xué)[M].北京:科學(xué)出版社,2001.

[2]劉君,方志沂.乳腺癌的早期診斷.中國全科醫(yī)學(xué),2002,5(6):431432.

[3]郝欣,曹穎,夏順仁.基于醫(yī)學(xué)圖像內(nèi)容檢索的計(jì)算機(jī)輔助乳腺x線影像診斷技術(shù).中國生物醫(yī)學(xué)工程學(xué)報(bào),2009,28(6):922930.

[4]高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實(shí)例[M].北京:機(jī)械工業(yè)出版社,2007.

[5]趙炳讓,胡北來,秦勤.人工神經(jīng)網(wǎng)絡(luò)在冠心病診斷中的應(yīng)用.天津醫(yī)藥,2002,30(9):575576.

[6]Ali A,EI-Solh,Chiu-Bin Hsiao,Susan Goodnough,et al. redicting active pulmonary tuberculosis using an artificial network.Chest,2009,(116):968973.

第3篇:神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò);模糊邏輯;模式識別;具體應(yīng)用

現(xiàn)階段人工智能領(lǐng)域正在開展關(guān)于多種智能識別方法的融合應(yīng)用來改善識別效果,基于模糊邏輯與神經(jīng)網(wǎng)絡(luò)而成的模糊神經(jīng)網(wǎng)絡(luò)對于真正智能模擬的實(shí)現(xiàn)有著極為重要的作用。

1.模式識別概述

模式在本質(zhì)上是一個(gè)內(nèi)涵十分豐富的概念,其主要是指人類可以利用感官直接或間接接受的外界信息,Watanabe等人在研究中將模式定義為:凡是可以給出一個(gè)名字的便可以稱為“模式”,并且其在定義過程中將某些具有共同特性的模式集合統(tǒng)稱為“模式類”?!澳J阶R別”在本質(zhì)上是識別特定事物或模式相同點(diǎn)與相似點(diǎn)的過程,所以在研究過程中主要是利用自動技術(shù)來實(shí)現(xiàn)這一過程,在該類技術(shù)的支撐下計(jì)算機(jī)可以自動地將待識別模式分配到各自的模式類中,在這個(gè)過程中用到的技術(shù)統(tǒng)稱為模式識別技術(shù),尤其是在計(jì)算機(jī)技術(shù)的支撐下使其發(fā)展形成一種模擬人的識別方法,所以對于模式識別的概念應(yīng)該定義為自動判別和分類的過程。模式識別的過程為研究對象、數(shù)據(jù)采集、數(shù)據(jù)預(yù)處理、測量空間、特征選擇與提出、特征空間比對、模式分類、儲存至類型空間等,對于整個(gè)模式識別過程來說數(shù)據(jù)采集、數(shù)據(jù)預(yù)處理、特征提取以及特征選擇是其重點(diǎn)。在模式識別中,數(shù)據(jù)預(yù)處理后所獲取的原始數(shù)據(jù)所在空間則被稱為測量空間,將模式進(jìn)行分類的空間則稱為特征空間。模式識別系統(tǒng)在設(shè)計(jì)過程中主要由學(xué)習(xí)模塊與測試模塊兩個(gè)核心模塊組成,并且整個(gè)系統(tǒng)在運(yùn)行過程中具備訓(xùn)練模式樣本特征數(shù)據(jù)輸入、制定分類判決規(guī)則、錯(cuò)誤率檢測、模式樣本特征選擇和正特提取方法調(diào)整等多項(xiàng)功能。

2.模式識別系統(tǒng)分析

模式識別系統(tǒng)在運(yùn)行中的學(xué)習(xí)模塊與測試模塊中都設(shè)計(jì)了數(shù)據(jù)預(yù)處理的功能,其可以根據(jù)用戶需求將感興趣的模式從背景中進(jìn)行分離處理,并且可以避免噪聲信號對整個(gè)系統(tǒng)的運(yùn)行產(chǎn)生影響,還可以根據(jù)用戶的實(shí)際需求來建立標(biāo)準(zhǔn)化模式樣本等。學(xué)習(xí)模塊在運(yùn)行中會將已知的樣本模式進(jìn)行數(shù)值化處理后輸入計(jì)算機(jī),這個(gè)過程被稱為訓(xùn)練模式樣本特征數(shù)據(jù)的輸入,系統(tǒng)可以對輸入的樣本進(jìn)行分析并排除無效或容易出現(xiàn)混淆的特征,對于一些對分類判別有效的數(shù)據(jù)特征則可以進(jìn)行界定并保留,這個(gè)過程被稱為模式識別系統(tǒng)在運(yùn)行階段的特征選擇。

模式識別系統(tǒng)在運(yùn)行過程中還需要將一些變換技術(shù)作為支撐,這是因?yàn)橥ㄟ^變換技術(shù)的應(yīng)用可以得出比原來數(shù)目少的綜合性特征作為分類用,這一過程被稱為特征維數(shù)壓縮或特征提取,系統(tǒng)會按照設(shè)想的分類判決數(shù)學(xué)模型對樣本模式進(jìn)行訓(xùn)練來得出分類的判決規(guī)則。模式識別系統(tǒng)在獲取判決規(guī)則后便可以開始整個(gè)識別過程,其需要將未知模式特征數(shù)據(jù)進(jìn)行采集、選擇與提取,然后根據(jù)已有的判決規(guī)則對輸入的模式進(jìn)行分類,最后便可以根據(jù)用戶需求來輸入整個(gè)模式識別的結(jié)果。系統(tǒng)還可以將已識別的分類結(jié)果與已知分類輸入模式進(jìn)行對比,以便于對判決規(guī)則與特征選擇、提取方法進(jìn)行不斷的優(yōu)化,系統(tǒng)只有在該種模式下才能制定出錯(cuò)誤率最小的判決規(guī)則與特征選擇、提取策略,對于模式識別系統(tǒng)來說,這一過程被稱為再學(xué)習(xí)的過程。

3.神經(jīng)網(wǎng)絡(luò)在模式識別中的具體應(yīng)用

國內(nèi)在較早階段便開始了神經(jīng)網(wǎng)絡(luò)在模式識別中應(yīng)用的相關(guān)研究,但是學(xué)者所提出的研究成果并沒有得到廣泛應(yīng)用。在20世紀(jì)80年代末期,我國一些專家對模式識別在地震特征提取等方面的應(yīng)用進(jìn)行了優(yōu)化與改進(jìn),并結(jié)合不同地區(qū)不同地質(zhì)條件開展了一系列試驗(yàn)研究,先后取得了很多效果十分顯著的成果,并且在這個(gè)基礎(chǔ)上為整個(gè)系統(tǒng)增加了人機(jī)交互功能,改進(jìn)后的模式識別系統(tǒng)開始在國內(nèi)相關(guān)領(lǐng)域中得到了廣泛應(yīng)用。我國部分領(lǐng)域所使用的模式識別系統(tǒng)在最初以統(tǒng)計(jì)識別策略為主,在最近幾年才將神經(jīng)網(wǎng)絡(luò)識別策略應(yīng)用于模式識別系統(tǒng)中。20世紀(jì)80年代后期,世界上關(guān)于人工神經(jīng)網(wǎng)絡(luò)的研究開始進(jìn)入一個(gè)熱潮,這是因?yàn)樵谠撾A段由Rumelhart等人在研究中提出了反向傳播學(xué)習(xí)算法,對于神經(jīng)網(wǎng)絡(luò)來說其可以有效解決前饋反向神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的問題,所以對于整個(gè)神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域來說開辟了一條新的途徑。前饋反向神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)問題的有效解決使神經(jīng)網(wǎng)絡(luò)的各項(xiàng)優(yōu)勢充分彰顯出來,而前饋反向神經(jīng)網(wǎng)絡(luò)模式識別則成為模式識別中的一個(gè)核心發(fā)展方向,并且開始被廣泛應(yīng)用于生物、醫(yī)學(xué)、地質(zhì)以及化工等產(chǎn)品檢測領(lǐng)域中,本文認(rèn)為關(guān)于神經(jīng)網(wǎng)絡(luò)在模式識別中的應(yīng)用將會給社會帶來巨大變革,同時(shí)也意味著基于神經(jīng)網(wǎng)絡(luò)的模式識別技術(shù)將成為網(wǎng)絡(luò)數(shù)字化時(shí)代的一項(xiàng)核心技術(shù)。

4.結(jié)語

現(xiàn)階段前饋反向神經(jīng)網(wǎng)絡(luò)模式識別已經(jīng)開始在社會各領(lǐng)域進(jìn)行實(shí)踐應(yīng)用,雖然在該技術(shù)體系中還存在一些不足與缺陷,但是在現(xiàn)代科技的支持下其勢必會迎來一個(gè)新的發(fā)展時(shí)期,對于我國社會各生產(chǎn)領(lǐng)域來說有著極為重要的推動作用。

參考文獻(xiàn):

[1]汪烈軍.一種改進(jìn)的結(jié)構(gòu)自適應(yīng)自組織神經(jīng)網(wǎng)絡(luò)算法[J].微電子學(xué)與計(jì)算機(jī),2007(01).

[2]趙菊敏,程海青,張立毅.基于動量項(xiàng)前饋神經(jīng)網(wǎng)絡(luò)盲均衡算法[J].太原理工大學(xué)學(xué)報(bào),2007(03).

第4篇:神經(jīng)網(wǎng)絡(luò)提取特征范文

【關(guān)鍵詞】人工神經(jīng)網(wǎng)絡(luò);故障診斷;模式識別;Matlab軟件

一、人工神經(jīng)網(wǎng)絡(luò)綜述

BP神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最為廣泛和成功的神經(jīng)網(wǎng)絡(luò)之一,它是由一個(gè)輸入層,一個(gè)或多個(gè)隱層以及一個(gè)輸出層組成,上下層之間實(shí)現(xiàn)全連接,而每層神經(jīng)元之間沒有連接。網(wǎng)絡(luò)的學(xué)習(xí)過程包括信號正向傳播和誤差反向傳播。在正向傳播進(jìn)程中,輸入信息從輸入層經(jīng)隱層加權(quán)處理傳向輸出層,經(jīng)功能函數(shù)運(yùn)算后得到的輸出值與期望值進(jìn)行比較,若有誤差,則誤差反向傳播,沿原先的連接通道返回,通過逐層修改各層的權(quán)重系數(shù),減小誤差。隨著這種誤差逆向傳播修正的不斷進(jìn)行,網(wǎng)絡(luò)對輸入模式響應(yīng)的正確率也不斷上升。

二、人工神經(jīng)網(wǎng)絡(luò)的識別、診斷過程

滾動軸承在設(shè)備中是比較典型的,本文以滾動軸承的故障識別、診斷為例。進(jìn)行模式識別的大體步驟為:首先對經(jīng)過零均值化后的振動信號數(shù)據(jù)進(jìn)行時(shí)域、頻域分析,將篩選后的有效時(shí)域、頻域特征值作為人工神經(jīng)網(wǎng)絡(luò)輸入層的輸入,經(jīng)Matlab軟件進(jìn)行神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,最后可得出一個(gè)可以識別軸承工作狀態(tài)的神經(jīng)網(wǎng)絡(luò),進(jìn)而可以對滾動軸承進(jìn)行模式識別??梢姴捎谜駝有盘枡z測法對機(jī)器設(shè)備進(jìn)行故障診斷的過程包含信號采集、特征提取、狀態(tài)識別、故障分析和決策干預(yù)等五個(gè)基本環(huán)節(jié),在滾動軸承故障診斷中,振動信號的采集是關(guān)鍵,保證信號采集的準(zhǔn)確性、合理性和實(shí)時(shí)性是正確實(shí)現(xiàn)故障診斷的前提。(1)信號采集。每臺機(jī)器設(shè)備都有自身的固有頻率,若設(shè)備發(fā)生故障,其頻率變化,其振動信號也會發(fā)生變化。因此,振動信號可以作為故障診斷的一個(gè)重要標(biāo)準(zhǔn)。在信號采集中主要用到加速度傳感器、電荷放大器、帶濾波的A/D轉(zhuǎn)換器。先通過壓電式加速度傳感器對振動信號進(jìn)行拾取,然后經(jīng)過電荷放大器及通過帶濾波的A/D轉(zhuǎn)換電路得到微機(jī)可以識別的數(shù)字信號,從而實(shí)現(xiàn)振動信號的采集。(2)特征值提取。為了便于觀察,要把采樣點(diǎn)的值分布在0附近,故先對采集的采樣點(diǎn)值進(jìn)行零均值化。用matlab對零均值化后的的采樣點(diǎn)進(jìn)行時(shí)域、頻域分析。時(shí)域分析是計(jì)算振動信號的在時(shí)域范圍內(nèi)的特征參數(shù),包括:平均值、方差、均方根、峰值峰值因子、峭度系數(shù)等參數(shù)。頻域分析是對零均值化后數(shù)據(jù)進(jìn)行傅里葉變換,繪制頻譜圖,對不同樣本故障軸承和正常軸承的頻譜圖進(jìn)行對比,找出幅值差別比較明顯的幾組,作為頻域分析的特征值。由于各個(gè)特征值的幅值大小不一致,不便于比較同一特征值在不同樣本之間的差異,所以對所有有效特征值進(jìn)行歸一化,歸一化后的結(jié)果可以作為神經(jīng)網(wǎng)絡(luò)的輸入值。(3)模式識別和故障分析。在狀態(tài)檢測過程中,樣本數(shù)據(jù)來源于實(shí)驗(yàn)數(shù)據(jù)分析后提取的有效特征值,這些有效的特征值作為神經(jīng)網(wǎng)絡(luò)的輸入。神經(jīng)網(wǎng)絡(luò)的輸出為軸承狀態(tài),分為正常軸承和故障軸承(也可以把故障具體分,比如內(nèi)圈、外圈、滾動體故障等),可以用(0 1)表示正常軸承,(1 1)表示故障軸承,因此網(wǎng)絡(luò)中設(shè)計(jì)2個(gè)輸出神經(jīng)元表示這2個(gè)狀態(tài)。對軸承的不同狀態(tài)進(jìn)行識別,建立神經(jīng)網(wǎng)絡(luò)對它進(jìn)行訓(xùn)練,可以用公式(其中是輸入層神經(jīng)元數(shù),是隱層神經(jīng)元數(shù))大體的計(jì)算出隱層神經(jīng)元層數(shù)。我們設(shè)計(jì)一個(gè)隱層可以隨意改變的BP神經(jīng)網(wǎng)絡(luò),通過誤差對比確定隱層數(shù)目。設(shè)定神經(jīng)網(wǎng)絡(luò)的隱含層神經(jīng)元的傳遞函數(shù)為tansig,輸出層神經(jīng)元的傳遞函數(shù)為logsig,目標(biāo)誤差為0.001,最大訓(xùn)練步數(shù)為1000。由以上設(shè)計(jì)寫出網(wǎng)絡(luò)訓(xùn)練代碼,經(jīng)Matlab運(yùn)行,找出網(wǎng)絡(luò)誤差最小所對應(yīng)層數(shù),該層數(shù)作為神經(jīng)網(wǎng)絡(luò)的隱層。

確定神經(jīng)網(wǎng)絡(luò)的隱層后便可確定神經(jīng)網(wǎng)絡(luò)的最終結(jié)構(gòu),下一步就要對網(wǎng)絡(luò)進(jìn)行訓(xùn)練,使人工神經(jīng)網(wǎng)絡(luò)所產(chǎn)生的網(wǎng)絡(luò)誤差小于目標(biāo)誤差,對神經(jīng)網(wǎng)絡(luò)訓(xùn)練好以后,接下來就是對軸承的測試,神經(jīng)網(wǎng)絡(luò)測試代碼為:y=sim(net,測試數(shù)據(jù))。把正常軸承和故障軸承的測試數(shù)據(jù)導(dǎo)入Matlab程序中,結(jié)果整理后可得(以實(shí)驗(yàn)室中的一組實(shí)驗(yàn)數(shù)據(jù)為例):

用均值表示結(jié)果為:

把預(yù)先設(shè)定好的狀態(tài)值和測試后的結(jié)果進(jìn)行比較,很清楚的可以辨別出正常軸承和故障軸承。可見,對機(jī)器設(shè)備或者系統(tǒng)的故障診斷實(shí)質(zhì)是一個(gè)模式識別過程。利用神經(jīng)網(wǎng)絡(luò)的模式識別能力,直接識別系統(tǒng)的當(dāng)前模式,實(shí)現(xiàn)正常模式和故障模式之間、以及不同故障模式或不同故障程度之間的區(qū)分。

參 考 文 獻(xiàn)

第5篇:神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞:手勢動作識別 PNN 傳播率 識別率

中圖分類號:TP183 文獻(xiàn)標(biāo)識碼:A 文章編號:1672-3791(2013)07(a)-0217-01

表面肌電信號(sEMG)是從皮膚表面由電極引導(dǎo)記錄下來的一種重要的生物電信號。表面肌電信號使用方便,對人體無損傷,被廣大的手勢動作識別研究中應(yīng)用,同時(shí)也是智能假肢理想的控制信號源。目前,在手勢動作識別方面國內(nèi)外學(xué)者取得了有效的成果。例如K.Englehart等對四種手勢動作進(jìn)行識別,識別率為90%。2004年Kiguchi.K等人提出的識別方法大致可分為統(tǒng)計(jì)識別方法、句法識別、集成識別方法、神經(jīng)網(wǎng)絡(luò)識別方法等。本文采用改進(jìn)的PNN神經(jīng)網(wǎng)絡(luò)方法進(jìn)行識別,該方法結(jié)構(gòu)簡單、訓(xùn)練時(shí)間短且識別率較高不僅克服了傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)識別率低、訓(xùn)練時(shí)間長的缺點(diǎn)同時(shí)也克服了傳統(tǒng)PNN網(wǎng)絡(luò)傳播率系數(shù)需要手動設(shè)置的不足,較好的改善了識別率。本文采用改進(jìn)的PNN神經(jīng)網(wǎng)絡(luò)對造型“C”、食指伸展、伸腕、向下曲腕、握拳、向側(cè)曲腕、手掌伸展7種手勢動作進(jìn)行模式識別。

1 sEMG的特征提取與特征選擇

表面肌電信號的特征提取對手勢動作的識別率有直接影響。本文采用時(shí)域、頻域及時(shí)頻域的特征作為不同手勢動作的特征。但是,特征太多會給計(jì)算帶來困難,而且會造成分類效果的惡化。因此本文采用K-W檢驗(yàn)的方法對時(shí)域、頻域及時(shí)頻域的單個(gè)特征進(jìn)行評價(jià),選擇最具有分離度的特征。本文將提取的特征作為改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)的輸入信息對7種手勢動作識別分類,并與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)進(jìn)行識別率對比分析。

2 改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)模型

PNN神經(jīng)網(wǎng)絡(luò)是1990年由Specht提出的一種徑向基函數(shù)(RBF)網(wǎng)絡(luò)的重要變形。它的訓(xùn)練學(xué)習(xí)過程是一個(gè)完全正向的過程這一點(diǎn)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)不同,大大減少了訓(xùn)練時(shí)間。不僅如此該網(wǎng)絡(luò)不易陷入局部極小值點(diǎn),非常適合模式識別研究。在進(jìn)行仿真實(shí)驗(yàn)時(shí),傳播率的改變對識別結(jié)果的影響明顯,總會有一個(gè)值能使識別率最高,但是在概率神經(jīng)網(wǎng)絡(luò)中該參數(shù)一般是手工設(shè)定,增加了訓(xùn)練時(shí)間,為了提高效率本文通過仿真實(shí)驗(yàn),在多次試驗(yàn)中找使結(jié)果最好的取值。粒子群優(yōu)化算法被廣泛應(yīng)用與優(yōu)化數(shù)值的求解,本文采用該方法選取最優(yōu)的傳播率參數(shù)。

3 仿真實(shí)驗(yàn)及結(jié)果分析

將本文的改進(jìn)算法統(tǒng)傳統(tǒng)的算法進(jìn)行比較分析,改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)算法記為P1算法,傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)算法記為P2算法。對于P1算法:設(shè)計(jì)的PNN網(wǎng)絡(luò)的結(jié)構(gòu)為:輸入層有4個(gè)神經(jīng)元,輸出層有7個(gè)神經(jīng)元,中間層的傳遞函數(shù)為高斯函數(shù),輸出層的傳遞函數(shù)為線性函數(shù)。將第1通道均值、第2通道均值、第1通道功率譜密度、第2通道功率譜密度作為輸入特征,進(jìn)行仿真實(shí)驗(yàn)研究。

4 結(jié)論

傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)間長且易陷入局部極小值,在手勢動作識別研究中正確識別率也并不高,本文針對這些問題提出的改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)有效克服了這些不足,識別率提高到90%左右,并且訓(xùn)練時(shí)間也縮短了一半。有效的改善了手勢動作識別效果。

改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)的提出為手勢動作識別分類提供了理論基礎(chǔ),為智能假肢的研究提高的科學(xué)依據(jù),但是,為了將手勢動作的識別算法應(yīng)用于智能假肢,改進(jìn)的概率神經(jīng)網(wǎng)絡(luò)識別算法的識別率仍有待提高。因此,尋找更有效的識別算法,提高手勢動作的識別準(zhǔn)確率是今后的研究熱點(diǎn)問題。

參考文獻(xiàn)

[1] JIN D W,WANG R CH.Artificial lntelligent prosthesis[J].Chinese J. Clinical Rehabilitation,2002,5(20):2994-2995.

[2] Paclik P,Novovicova J,Pudil P.Road sign classification using Laplace classifier[J].Pattern Recognition Letters,2000,21(13-14):1165-1173.

[3] Sueteus P,F(xiàn)ua P, Hanson A putational strategies for object recognition[J].ACM Computing Surveys,1992,24(1):5-61.

[4] Specht D.Probabilistic neural network[J].Neural Networks,1990,3(1):109-118.

[5] McDuff R J,Simpson P K.An Investigation of Neural Networks for F-16 Fault Dignosis:II.System Performance[C]//SPIE 1294 Application of Artificial Neural Networks.1990:42-45.

第6篇:神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵字:木材表面缺陷,神經(jīng)網(wǎng)絡(luò),BP網(wǎng)絡(luò)

Abstract: from now neural network in pattern recognition of the development perspective, in large network structure optimization problem and network learning problems is still open to solve and improve. Therefore, to study various neural network in the wood surface defect recognition of the practicability and accuracy, wood surface defect recognition to promote the study of the method, has very important practical significance.

Key word: wood surface defect, neural network, and BP network

中圖分類號:F762.4 文獻(xiàn)標(biāo)識碼:A 文章編號:

隨著科學(xué)技術(shù)的發(fā)展,神經(jīng)網(wǎng)絡(luò)理論作為一門新興學(xué)科,近年來被廣泛應(yīng)用于木材表面缺陷的識別分類中,以達(dá)到神經(jīng)網(wǎng)絡(luò)具有的實(shí)時(shí)性、容錯(cuò)性以及學(xué)習(xí)性等特點(diǎn)。然而,由于木材表面缺陷種類繁多,隨機(jī)性比較強(qiáng),這些都給分類器提出了很高的要求。現(xiàn)階段,人們普遍采用都是基于誤差逆?zhèn)鞑ニ惴ǎ˙P)的神經(jīng)網(wǎng)絡(luò),然而BP網(wǎng)絡(luò)的缺點(diǎn)是對干擾量非常敏感、隱含層節(jié)點(diǎn)數(shù)需要經(jīng)過多次嘗試、學(xué)習(xí)速度慢且易陷入局部極小點(diǎn)。

1.誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò)(BP網(wǎng)絡(luò))

按照誤差逆?zhèn)鞑W(xué)習(xí)算法進(jìn)行訓(xùn)練的多階層神經(jīng)網(wǎng)絡(luò)被直接稱為誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò),即BP網(wǎng)絡(luò)。BP網(wǎng)絡(luò)是一種具有三層神經(jīng)元的階層神經(jīng)網(wǎng)絡(luò),不同階層神經(jīng)元之間實(shí)現(xiàn)權(quán)重連接,而每層內(nèi)各個(gè)神經(jīng)元之間不連接。

2.木材缺陷特征提取

⑴ 劃分缺陷區(qū)域并確定缺陷的尺寸和位置

在二值化圖像中,相互連接的黑像素的集合稱為一個(gè)區(qū)域。在這部分程序設(shè)計(jì)中,通過對圖像內(nèi)每個(gè)區(qū)域進(jìn)行標(biāo)記操作(標(biāo)號),求得這樣區(qū)域的數(shù)目(也就是在這幅二值圖像中存在的缺陷數(shù)),進(jìn)而計(jì)算每個(gè)缺陷的邊界,再按照求得條件進(jìn)行區(qū)域劃分,把每個(gè)缺陷均劃在一個(gè)區(qū)域中,使一幅圖像分成多幅圖像。然后分別對每個(gè)小幅圖像進(jìn)行計(jì)算,確定缺陷的位置及尺寸。

⑵ 根據(jù)缺陷位置及尺寸提取灰度特征

根據(jù)M[][]數(shù)組中的缺陷位置數(shù)據(jù),從二值化前的灰度圖像中提取缺陷的灰度特征,由此依次地得到缺陷特征數(shù)組BB[Rmax-Rmin][Lmax-Lmin]。其中缺陷部分為具體的灰度值,其它均為0。

3.BP網(wǎng)絡(luò)設(shè)計(jì)

BP神經(jīng)網(wǎng)絡(luò)是目前所有神經(jīng)網(wǎng)絡(luò)中算法最為成熟,應(yīng)用最為廣泛的一種神經(jīng)網(wǎng)絡(luò),且具有簡單、易于實(shí)現(xiàn)等特點(diǎn)。

⑴ 輸入層和輸出層的設(shè)計(jì)

BP神經(jīng)網(wǎng)絡(luò)的輸入,輸出層維數(shù)完全根據(jù)使用者的要求來設(shè)計(jì)。本實(shí)驗(yàn)研究對象為木材缺陷圖像,輸入為表征木材圖像缺陷特征的特征向量,在圖像處理過程中,我們提取了缺陷的3個(gè)特征數(shù)據(jù):缺陷灰度均值、缺陷灰度方差和缺陷形狀。

如果把它們作為網(wǎng)絡(luò)的輸入,則網(wǎng)絡(luò)的輸入層的單元個(gè)數(shù)便確定為3個(gè),根據(jù)所達(dá)到的識別要求,對木材的十種缺陷進(jìn)行有效識別,選擇輸出層單元的個(gè)數(shù)十個(gè),即每個(gè)單元的輸出代表一種缺陷類型,這樣便確定了網(wǎng)絡(luò)的輸入和輸出層單元數(shù)目,再根據(jù)這兩個(gè)數(shù)據(jù)確定中間層(隱層)單元數(shù)。

⑵ 隱層的設(shè)計(jì)

1989年,RobertHeeht-Nielson證明了對于任意在閉區(qū)間內(nèi)的一個(gè)連續(xù)函數(shù)都可以用含一個(gè)隱層的BP神經(jīng)網(wǎng)絡(luò)來逼近,因而一個(gè)單隱層的BP神經(jīng)網(wǎng)絡(luò)可以完成任意的n維空間到m維空間的映射,隱層神經(jīng)元數(shù)目選擇是一個(gè)十分復(fù)雜的問題,往往需要根據(jù)設(shè)計(jì)者的經(jīng)驗(yàn)和多次試驗(yàn)來確定,不存在一個(gè)理想的解析式來計(jì)算。

⑶ 初始值的選取

由于系統(tǒng)是非線性的,初始值對于學(xué)習(xí)能否達(dá)到局部最小和是否能夠收斂的結(jié)果關(guān)系很大。一個(gè)重要的要求是:初始值在輸入累加時(shí)使每個(gè)神經(jīng)元的狀態(tài)值接近于零,權(quán)值一般取隨機(jī)數(shù),要比較小。輸入樣本也同樣希望進(jìn)行歸一化處理,使那些比較大的輸入仍落在傳遞函數(shù)梯度大的地方。

⑷ 傳遞函數(shù)的選擇

BP神經(jīng)網(wǎng)絡(luò)傳遞函數(shù)必須是可微的,根據(jù)網(wǎng)絡(luò)的要求和所要達(dá)到的網(wǎng)絡(luò)輸出目的,選擇網(wǎng)絡(luò)中間層的傳遞函數(shù)為s形函數(shù),它主要根據(jù)值的大小作出運(yùn)算和判斷,它的輸出性質(zhì)與所要求的網(wǎng)絡(luò)輸出具有相同的性質(zhì)。

⑸ 網(wǎng)絡(luò)學(xué)習(xí)算法的構(gòu)成

木材缺陷的識別應(yīng)用BP神經(jīng)網(wǎng)絡(luò)模型,網(wǎng)絡(luò)訓(xùn)練采用梯度下降法,使輸出誤差最小,直到滿足給定的精度要求。利用圖像處理模塊部分構(gòu)成網(wǎng)絡(luò)的輸入特征量,即把缺陷的灰度均值、灰度方差和形狀的長寬比作為輸入向量{xl、x2、x3)選擇值。這一步也就是向神經(jīng)網(wǎng)絡(luò)輸入的待識別圖像的數(shù)字特征通過計(jì)算機(jī)利用一定的算法對這些數(shù)字化特征進(jìn)行分類。當(dāng)神經(jīng)元的非線性函數(shù)是s型時(shí),由神經(jīng)元組成的前傳型網(wǎng)絡(luò)的傳遞函數(shù)是連續(xù)可微的,故誤差反向傳播算法可以用LMS法則進(jìn)行。

⑹識別網(wǎng)絡(luò)的系統(tǒng)模型及構(gòu)成

板材表面特征通常是表現(xiàn)為存在表面缺陷和無表面缺陷兩種情況,所以適合選用兩級神經(jīng)網(wǎng)絡(luò)板材表面缺陷檢測模型。一級神經(jīng)網(wǎng)絡(luò)用于檢測圖像是否存在缺陷,如果存在缺陷,則圖像存入緩沖區(qū),利用二級神經(jīng)網(wǎng)絡(luò)對緩沖區(qū)的圖像進(jìn)行分析處理,如果沒有缺陷,則不保存圖像,直接輸出檢測結(jié)果;二級神經(jīng)網(wǎng)絡(luò)根據(jù)缺陷圖像特征參數(shù)對缺陷進(jìn)行分類,確定圖像中每個(gè)缺陷的位置。

將人工神經(jīng)網(wǎng)終與有效的特征提取結(jié)合起來,有可能獲得更為滿意的識別效果。根據(jù)圖像處理模塊分析提取反映缺陷形態(tài)的特征向量,這些特征向量既可直接輸入神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn),作為網(wǎng)絡(luò)訓(xùn)練或形態(tài)識別的參數(shù),也可導(dǎo)入形態(tài)識別特征數(shù)據(jù)庫。另外,為了提高網(wǎng)絡(luò)的自適應(yīng)性,進(jìn)一步完善識別診斷模型,還可在原有的訓(xùn)練的網(wǎng)絡(luò)基礎(chǔ)上,對神經(jīng)網(wǎng)絡(luò)模型進(jìn)行再學(xué)習(xí)。

4.識別結(jié)果與討論

訓(xùn)練后的BP網(wǎng)絡(luò)是否滿足需要,必須經(jīng)過檢驗(yàn)才能確定。驗(yàn)證網(wǎng)絡(luò)的正確性一般采用與實(shí)際樣本數(shù)據(jù)相比較的方法,即先把驗(yàn)證樣本的數(shù)據(jù)經(jīng)初始化后輸入模型號,經(jīng)BP網(wǎng)絡(luò)模型計(jì)算,輸出相應(yīng)數(shù)據(jù),然后將對照樣本的實(shí)際值與網(wǎng)絡(luò)輸出值相比較,若誤差在允講范圍內(nèi),此網(wǎng)絡(luò)是可用的,否則要重新訓(xùn)練。

5.結(jié)束語

神經(jīng)網(wǎng)絡(luò)算法識別給傳統(tǒng)模式識別法帶來了巨大的挑戰(zhàn)。它具有記憶、學(xué)習(xí)和算法多樣等功能,在識別中能夠得到非常準(zhǔn)確的識別結(jié)果,所以神經(jīng)網(wǎng)絡(luò)識別在對于板材表面缺陷識別這一方面具有可行性和應(yīng)用價(jià)值。由于實(shí)驗(yàn)尚處于對神經(jīng)網(wǎng)絡(luò)開發(fā)的初級階段,所選擇的網(wǎng)絡(luò)算法((BP算法)是神經(jīng)網(wǎng)絡(luò)算法中比較成熟的算法,它具有構(gòu)造、學(xué)習(xí)等比較容易的優(yōu)點(diǎn),但它的一些不可克服的缺點(diǎn)卻影響了它在應(yīng)用中效果。但是這些缺點(diǎn)是可以克服的,神經(jīng)網(wǎng)絡(luò)識別的強(qiáng)大優(yōu)勢和識別效果是非常吸引人的。應(yīng)用一些新型的網(wǎng)絡(luò)算法,在多次實(shí)驗(yàn)研究的基礎(chǔ)上,可以根據(jù)對板材表面缺陷識別的一些特有的要求來構(gòu)造有利于這一識別的新型網(wǎng)絡(luò),那么神經(jīng)網(wǎng)絡(luò)方法對表面缺陷的識別即可達(dá)到優(yōu)于其它傳統(tǒng)識別方法的性能。所以,神經(jīng)網(wǎng)絡(luò)算法上的改進(jìn)是今后研究木材表面缺陷神經(jīng)網(wǎng)絡(luò)識別首先解決的工作。

參考文獻(xiàn):

[1]王業(yè)琴等 計(jì)算機(jī)視覺木材表面色差檢測的研究[J] 林業(yè)科技 2005

[2]趙茂程等 基于BP網(wǎng)絡(luò)的樹形識別系統(tǒng)研究[J] 林業(yè)科學(xué) 2004

第7篇:神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞:徑向基,神經(jīng)網(wǎng)絡(luò),特征提取,有價(jià)證券識別

中圖分類號:G64 文獻(xiàn)標(biāo)識碼:A 文章編號:1672-3791(2015)05(c)-0000-00

1引言

隨著我國經(jīng)濟(jì)快速發(fā)展,有價(jià)證券在日常經(jīng)濟(jì)活動中的流通也更加頻繁,如何對有價(jià)證券進(jìn)行快速鑒偽越來越重要。每張有價(jià)證券都具有獨(dú)一無二的序列號,是每張有價(jià)證券的“身份證”,金融領(lǐng)域常采用有價(jià)證券序列號來進(jìn)行有價(jià)證券的鑒偽,因此,如何對有價(jià)證券序列號進(jìn)行快速識別是有價(jià)證券鑒偽工作的關(guān)鍵,也成為圖像識別與人工智能領(lǐng)域研究的熱點(diǎn)問題[1]。

傳統(tǒng)的有價(jià)證券序列號主要采取人工識別,人工識別不但浪費(fèi)大量的人力成本,而且識別效率低,已經(jīng)不能適應(yīng)快速發(fā)展的經(jīng)濟(jì)活動需求。隨著計(jì)算機(jī)技術(shù)與自動驗(yàn)鈔技術(shù)的發(fā)展,有價(jià)證券序列號自動識別系統(tǒng)引起了廣大學(xué)者的廣泛關(guān)注,新的算法與技術(shù)不斷涌現(xiàn)出來。有價(jià)證券序列號識別主要為序列號圖像特征的提取與分類兩個(gè)階段,其中分類器算法的設(shè)計(jì)是整個(gè)識別過程的關(guān)鍵。目前分類器算法主要采取模式匹配法。模式匹配算法是一種數(shù)字統(tǒng)計(jì)方法,在識別過程中由于有價(jià)證券自身的殘缺、特征提取不夠明顯的前提下,會出現(xiàn)錯(cuò)識別現(xiàn)象,影響了整個(gè)系統(tǒng)的識別精度。同時(shí)模式匹配算法也缺乏智能性,無法適應(yīng)整個(gè)清分系統(tǒng)的發(fā)展需求[2]。近年隨著人工智能算法的不斷發(fā)展,在不同領(lǐng)域得到了廣泛應(yīng)用,其中人工神經(jīng)網(wǎng)絡(luò)更是在模式識別算法中得到了重要應(yīng)用,也為有價(jià)證券序列號識別提供了新的解決思路。

本文基于人工神經(jīng)網(wǎng)絡(luò)算法,提出了一種快速的有價(jià)證券序列號模式識別算法,并運(yùn)用模擬仿真與模式識別算法進(jìn)行了對比分析。

2 有價(jià)證券序列號碼識別流程

有價(jià)證券序列號識別系統(tǒng)通常有硬件部分與軟件部分組成。硬件部分包括計(jì)算機(jī)、光學(xué)圖像傳感器與數(shù)字信號處理單元,軟件部分包括圖像預(yù)處理、序列號特征提取與序列號識別等[3]。本文算法主演研究軟件部分,識別系統(tǒng)如圖1所示。

圖1 有價(jià)證券序列號識別流程圖

3 有價(jià)證券圖像預(yù)處理與序列號特征提取

3.1有價(jià)證券圖像預(yù)處理

圖像預(yù)處理是機(jī)器視覺實(shí)際應(yīng)用中非常重要的一個(gè)環(huán)節(jié),能有效提高有價(jià)證券序列號的識別準(zhǔn)確率。預(yù)處理包括對圖像進(jìn)行噪聲抑制、信號增強(qiáng)及目標(biāo)提取等。

有價(jià)證券放入驗(yàn)鈔機(jī)后,通過CIS采集序列號正反兩面圖像,通常序列號的透射圖像與反射圖像位置信息基本一致,但由于有價(jià)證券在流通過程中會不可避免出現(xiàn)磨損、污染、缺損等現(xiàn)象,加上圖像傳感器本身存在的噪聲源,因此圖像采集過程中噪聲會加載到原始圖像上而影響后期處理。抑制噪聲通常采用濾波操作,本文采用中值濾波法去除圖像噪聲。中值濾波法是基于鄰域的算法,不僅可以有效清除脈沖噪聲,同時(shí)能較好地保護(hù)圖像邊沿。其核心思想是為待處理像素點(diǎn)選取一個(gè)鄰域,然后將鄰域中所有的像素點(diǎn)按灰度級排序,再取中間值作為該點(diǎn)輸出的像素。中值濾波的效果通常由鄰域的空間范圍和中值計(jì)算中所涉及的像素個(gè)數(shù)決定。去噪后的圖像采用基于占空比的二值化方法對序列號圖像進(jìn)行二值化,同時(shí)利用Hough變換對序列號碼圖像進(jìn)行了傾斜校正[4]。

基于有價(jià)證券圖像特征,采用垂直投影法對字符上下邊界及左右邊界進(jìn)行了準(zhǔn)確定位與切分。切分好的序列號圖像采用線性歸一化方法,通過最近鄰域插值法縮放成32x48的字符圖像。

3.2有價(jià)證券序列號特征提取

特征提取是整個(gè)字符識別系統(tǒng)中十分重要的步驟,其基本任務(wù)是從原始數(shù)據(jù)中找到最能代表同類數(shù)據(jù)的特征及同類數(shù)據(jù)中的差異,從而有效提高識別率[5]。通過對比分析,本文采用基于網(wǎng)格的八方向梯度特征作為序列號字符的識別特征,網(wǎng)格特征能有效降低圖像的維度并具有較好地區(qū)分性能,而梯度信息能反映出圖像的輪廓信息。

4基于BP神經(jīng)網(wǎng)絡(luò)的有價(jià)證券序列號識別

人工神經(jīng)網(wǎng)絡(luò)是由許多神經(jīng)元的節(jié)點(diǎn)相互連接構(gòu)成,通常采用基本的BP(Back Propagation)神經(jīng)網(wǎng)絡(luò)或其衍生網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)是單向傳播的多層前饋網(wǎng)絡(luò),第一層為輸入節(jié)點(diǎn),最后一層為輸出節(jié)點(diǎn),中間有一層或多層隱藏節(jié)點(diǎn)。一般中間層采用Sigmoid傳遞函數(shù),而輸出層一般采用線性變換函數(shù)。BP神經(jīng)網(wǎng)絡(luò)的特點(diǎn)是各神經(jīng)元僅與相鄰層神經(jīng)元有連接而與本層神經(jīng)元無連接,如圖2所示。

圖2 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

根據(jù)BP神經(jīng)網(wǎng)絡(luò)的特性,其初始值與激勵(lì)函數(shù)對模型的識別性能有較大的影響。初始值選取不當(dāng)可能造成神經(jīng)網(wǎng)絡(luò)的早熟或不收斂。本文采用遺傳算法確定BP神經(jīng)網(wǎng)絡(luò)初值,激勵(lì)函數(shù)采用經(jīng)典Sigmoid函數(shù),其模型如下式:

其中為閾值,T為網(wǎng)絡(luò)溫度常數(shù)。

本文針對有價(jià)證券序列號包含字符與數(shù)字的特征,采用的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如表1所示,識別基本步驟如下:

1) 按照3.1所示方法對有價(jià)證券圖像進(jìn)行預(yù)處理;

2) 按照3.2所示方法對有價(jià)證券序列號圖像進(jìn)行字符分割與特征提??;

3) 對特征向量采取BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,建立有價(jià)證券序列號識別模型;

4) 對待識別有價(jià)證券序列號模型進(jìn)行識別,輸出結(jié)果。

5仿真分析

為驗(yàn)證BP神經(jīng)網(wǎng)絡(luò)在有價(jià)證券序列號識別中的有效性,選擇了500張有價(jià)證券進(jìn)行仿真測試,其中450張用于學(xué)習(xí)建模,50張用于測試,檢驗(yàn)?zāi)P托阅?,運(yùn)行結(jié)果表明,該方法能夠很好對有價(jià)證券進(jìn)行識別。該仿真采用PC機(jī)配置為:CPU PⅣ 2.4G,內(nèi)存為2G,操作系統(tǒng)為Windows XP,編程語言Matlab,調(diào)用Matlab人工神經(jīng)網(wǎng)絡(luò)工具箱。同時(shí)以識別率和耗時(shí)最為指標(biāo)對識別模型進(jìn)行評估,并與模式匹配算法和向量機(jī)作為對比算法[6],樣本測試結(jié)果如表2所示。

從表2結(jié)果分析,采用BP神經(jīng)網(wǎng)絡(luò)算法正確率達(dá)到96%,高于其他兩種算法的識別效果,識別速度也有較大的提升,更加符合有價(jià)證券序列號的在線、實(shí)時(shí)識別,結(jié)果表明了算法的有效性。

6 結(jié)論

本文以圖像處理技術(shù)為基礎(chǔ),提出了一種基于BP神經(jīng)網(wǎng)絡(luò)的有價(jià)證券序列號識別算法。首先通過中值濾波降噪、二值化等技術(shù)對圖像預(yù)處理,然后采用基于網(wǎng)格的八方向梯度特征對序列號進(jìn)行特征提取,最后采用BP神經(jīng)網(wǎng)絡(luò)對其進(jìn)行識別,并運(yùn)用MATLAB進(jìn)行仿真分析。仿真結(jié)果表明,本文算法具有識別準(zhǔn)確率高,識別速度快的優(yōu)點(diǎn),驗(yàn)證了算法的有效性。

參考文獻(xiàn)

[1]胡學(xué)娟阮雙琛等.基于改進(jìn)梯度方向直方圖的有價(jià)證券識別.深圳大學(xué)學(xué)報(bào)理工版.2014(9)Vol.31

[2]涂豫.神經(jīng)網(wǎng)絡(luò)的有價(jià)證券序列號識別算法.計(jì)算機(jī)仿真.2011(12)

[3]劉洋.有價(jià)證券紙幣號碼識別算法的研究.遼寧工程技術(shù)大學(xué).2012

[4]朱雪嬌.圖像清分的有價(jià)證券序列號碼識別關(guān)鍵技術(shù)研究.南京理工大學(xué)2014

第8篇:神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞:卷積神經(jīng)網(wǎng)絡(luò) 人體行為識別 Dropout

中圖分類號:TP391.41 文獻(xiàn)標(biāo)識碼:A 文章編號:1672-3791(2017)04(c)-0028-02

該文采用隨機(jī)Dropout卷積神經(jīng)網(wǎng)絡(luò),筆者將此法的優(yōu)點(diǎn)大致概況為將繁瑣雜亂的前期圖像處理簡易化,原來的圖像不可以直接輸入,現(xiàn)在的原始圖像即可實(shí)現(xiàn)直輸功能,因其特性得到廣泛研究與應(yīng)用。另外,卷積神經(jīng)網(wǎng)絡(luò)在圖像的處理中能夠?qū)⒅付ǖ淖藙?、陽光的照射反?yīng)、遮避、平面移動、縮小與放大等其他形式的扭曲達(dá)到魯棒性,從而達(dá)到良好的容錯(cuò)能力,進(jìn)而可以發(fā)現(xiàn)其在自適應(yīng)能力方面也非常強(qiáng)大。因?yàn)榫矸e神經(jīng)網(wǎng)絡(luò)在之前建立網(wǎng)絡(luò)模型時(shí),樣本庫為訓(xùn)練階段提供的樣本,數(shù)量有限,品質(zhì)上也很難滿足要求,致使網(wǎng)絡(luò)權(quán)值參數(shù)不能夠完成實(shí)時(shí)有效的調(diào)度與整理。

1 卷積神經(jīng)網(wǎng)絡(luò)

據(jù)調(diào)查卷積神經(jīng)網(wǎng)絡(luò)由K.Fukushima在80年代提出,那時(shí)候它被稱為神經(jīng)認(rèn)知機(jī),這一認(rèn)知成為當(dāng)時(shí)的第一個(gè)網(wǎng)絡(luò),后來網(wǎng)絡(luò)算法發(fā)生了規(guī)模性變革,由LeCun為代表提出了第一個(gè)手寫數(shù)字識別模型,并成功投入到商業(yè)用途中。LeNet被業(yè)界冠以卷積神經(jīng)網(wǎng)絡(luò)的代表模型,這類系統(tǒng)在很多方面都起到了不容小趨的作用,它多數(shù)應(yīng)用于各類不同的識別圖像及處理中,在這些層面上取得了重要成果。

筆者經(jīng)查閱資料發(fā)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)其實(shí)是由兩個(gè)種類組合而來,它們分別是特征提取、分類器,這種組成我們可以看到特征提取類可由一定數(shù)量的卷積層以及子采樣層相互重疊組合而成,全部都連接起來的1層或者2層神經(jīng)網(wǎng)絡(luò),就是由分類器來進(jìn)行安排的。卷積神經(jīng)網(wǎng)絡(luò)中的局部區(qū)域得到的感覺、權(quán)值的參數(shù)及子采樣等可以說是重要網(wǎng)絡(luò)結(jié)構(gòu)特征。

1.1 基本CNN網(wǎng)絡(luò)結(jié)構(gòu)

圖1中就是最為經(jīng)典的LeNet-5網(wǎng)絡(luò)模型結(jié)構(gòu)圖。通過圖1中我們可以獲悉,該模型有輸入輸出層,除這兩層外還有6層,其征提取可在前4層中體現(xiàn),后兩層體現(xiàn)的是分類器。

在特征提取部分,6個(gè)卷積核通過卷積,是圖像經(jīng)尺寸為32×32的輸入而得見表1,運(yùn)算過程如式(1):

(1)

式中:卷積后的圖像與一個(gè)偏置組合起來,使函數(shù)得到激活,因此特征圖變誕生了,通過輸出得到了6個(gè)尺寸的特征圖,這6個(gè)尺寸均為28×28,近而得到了第一層的卷積,以下筆者把它簡要稱為c1;那么c1層中的6個(gè)同尺寸圖再經(jīng)由下面的子采樣2×2尺寸,再演變成特征圖,數(shù)量還是6個(gè),尺寸卻變成了14×14,具體運(yùn)算如公式(2):

通過表2我們可以使xi生成的和與采樣系數(shù)0.25相乘,那么采樣層的生成也就是由加上了一個(gè)偏置,從而使函數(shù)被激活形成了采樣層的第1個(gè)層次,以下我們簡要稱為s1;這種過程我們可反復(fù)運(yùn)用,從而呈現(xiàn)出卷積層中的第2層,可以簡要稱之為c2,第2層簡稱s2;到目前為止,我們對特征的提取告一段落。

神經(jīng)網(wǎng)絡(luò)的識別,我們可以看到它是由激活函數(shù)而形成的一個(gè)狀態(tài),這一狀態(tài)是由每個(gè)單元的輸出而得;那么分類器在這里起到的作用是將卷積層全部連接起來,這種通過連接而使1層與上面1層所有特征圖進(jìn)行了串連,簡要稱之為c5;因而2層得到了退變與簡化效應(yīng),從而使該神經(jīng)網(wǎng)絡(luò)成為經(jīng)典,簡要稱之為F6,向量及權(quán)值是由F6 輸送,然后由點(diǎn)積加上偏置得到結(jié)果的有效判定。

1.2 改進(jìn)的隨機(jī)DropoutCNN網(wǎng)絡(luò)

1.2.1 基本Dropout方法

神經(jīng)網(wǎng)絡(luò)泛化能力能夠得到提升,是基于Dropout方法的深入學(xué)習(xí)。固定關(guān)系中存在著節(jié)點(diǎn)的隱含,為使權(quán)值不再依附于這種關(guān)系,上述方法可隨機(jī)提取部分神經(jīng)元,這一特性是通過利用Dropout在網(wǎng)絡(luò)訓(xùn)練階段中隨機(jī)性而得,對于取值能夠有效的存儲及保護(hù)存留,這一特性在輸出設(shè)定方面一定要注重為0,這些被選擇的神經(jīng)元隨然這次被抽中應(yīng)用,但并不影響下次訓(xùn)練的過程,并具還可以恢復(fù)之前保留的取值,那么每兩個(gè)神經(jīng)元同時(shí)產(chǎn)生作用的規(guī)避,可以通過重復(fù)下次隨機(jī)選擇部分神經(jīng)元的過程來解決;我們通過這種方法,使網(wǎng)絡(luò)結(jié)構(gòu)在每次訓(xùn)練階段中都能呈現(xiàn)不同變化,使一些受限制的特征,不再受到干擾,使其真正能展現(xiàn)自身的優(yōu)點(diǎn),在基于Dropout方法中,我們可以將一些神經(jīng)元的一半設(shè)為0來進(jìn)行輸出,隨機(jī)神經(jīng)元的百分比可控制在50%,有效的避免了特征的過度相似與穩(wěn)合。

1.2.2 隨機(jī)Dropout方法

Dropout方法就是隨機(jī)輸出為0的設(shè)定,它將一定比例神經(jīng)元作為決定的因素,其定義網(wǎng)絡(luò)在構(gòu)建模型時(shí)得到廣泛采用。神經(jīng)元基于隨機(jī)Dropout的方法是該文的重要網(wǎng)絡(luò)輸出途徑,通過設(shè)定輸出為0,使其在網(wǎng)絡(luò)中得到變。圖2是隨機(jī)Dropout的加入神經(jīng)元連接示意圖,其在圖中可知兩類神經(jīng)元:一類是分類器的神經(jīng)元,這一階段的神經(jīng)元可分榱講悖渙硪煥嗌窬元是由輸出而形成的層次。模型在首次訓(xùn)練的階段會使神經(jīng)元隨機(jī)形成凍結(jié)狀態(tài),這一狀態(tài)所占的百分比為40%、60%,我們還可以看到30%及50%的神經(jīng)元可能在網(wǎng)絡(luò)隨機(jī)被凍結(jié),那么這次凍結(jié)可以發(fā)生在模型第二次訓(xùn)練,那么第三次神經(jīng)元的凍結(jié)可從圖示中得出70%及40%,還可以通過變化用人工設(shè)置,其范圍值宜為35%~65%,那么網(wǎng)絡(luò)神經(jīng)元連接次序的多樣化,也因此更為突出與精進(jìn),網(wǎng)絡(luò)模型的泛化能力也得到了跨越勢的提高。

2 實(shí)驗(yàn)及結(jié)果分析

2.1 實(shí)驗(yàn)方法

卷積神經(jīng)網(wǎng)絡(luò)通過實(shí)驗(yàn),通過輸入層呈現(xiàn)一灰色圖像,該圖像尺寸被設(shè)定成28×28的PNG格式,這里我們以圖像框架圖得到雙線性差值,用來處理圖像及原視頻中的影像,將框架圖的卷積核設(shè)定為5×5的尺寸,子采樣系數(shù)控制值為0.25,采用SGD迭代200次,樣本數(shù)量50個(gè)進(jìn)行設(shè)定,一次誤差反向傳播實(shí)現(xiàn)批量處理,進(jìn)行權(quán)值調(diào)整。實(shí)驗(yàn)采用交叉驗(yàn)證留一法,前四層為特征提取層,C1-S1-C2-S2按順序排列,6-6-12-12個(gè)數(shù)是相應(yīng)特征,通過下階段加入隨機(jī)Dropout,這階段為雙層也就是兩層,進(jìn)行連接,連接層為全體,從而可知結(jié)果由分類得出,又從輸出層輸出。

2.2 實(shí)驗(yàn)結(jié)果分析

識別錯(cuò)誤率可通過卷積神經(jīng)網(wǎng)絡(luò)模型,及訓(xùn)練過程與檢測過程中可查看到的。在訓(xùn)練階段中,我們可以將Dropout的網(wǎng)絡(luò)中融入200次訓(xùn)練,在將沒有使用該方法的網(wǎng)絡(luò)進(jìn)行相互比較分析,我可以得知,后者訓(xùn)練時(shí)的識別錯(cuò)誤率稍高于前者,前者與后的相比較所得的差異不是很大,進(jìn)而我們可知使用Dropout方法,對卷積神經(jīng)網(wǎng)絡(luò)在泛化能力上得到有效的提升,從而有效的防止擬合。

3 結(jié)語

筆者基于Dropout卷積神經(jīng)網(wǎng)絡(luò),人體行為識別在視頻中進(jìn)行, 通過Weizmann數(shù)據(jù)集檢測實(shí)驗(yàn)結(jié)果,隨機(jī)Dropout在分類器中加入。通過實(shí)驗(yàn)可以得知:隨機(jī)Dropout的加入,使卷積神經(jīng)構(gòu)建了完美網(wǎng)絡(luò)模型,并且使其在人體行為識別中的效率贏得了大幅度的提升,近而使泛化能力可以通過此類方法得到提高,可以防止擬合。

參考文獻(xiàn)

[1] 其它計(jì)算機(jī)理論與技術(shù)[J].電子科技文摘,2002(6).

第9篇:神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò);預(yù)測;剩余油氣;模式識別;訓(xùn)練

中圖分類號:TP18 文獻(xiàn)標(biāo)識碼:A 文章編號:1009-3044(2015)09-0200-02

Abstract: The paper is aimed at the problem of traditional exploration methods can not predict the remaining oil and gas accurately, the methods of fuzzy theory and self-organizing map are approached. It takes the advantage of Fuzzy neural network system converging faster and higher prediction accuracy, as well as the unsupervised competitive learning mechanism of self-organizing map, it achieves the goal of predicting the remaining oil and gas. The method of neural network improve the precision of remaining oil and gas, it obtains better effect of prediction.

Key words: neural network; predict; remaining oil and gas; pattern recognition; train

石油是國家經(jīng)濟(jì)發(fā)展的命脈,油氣勘探開發(fā)則是石油工業(yè)的基礎(chǔ),在國民經(jīng)濟(jì)的地位舉足輕重。隨著地震勘探理論方法日趨成熟,我國各大油氣田勘探程度相繼提高,油氣田已經(jīng)被大幅度開采。然而我國的石油平均采收率并不高,約為30%多一點(diǎn),還有近70%的油氣并未采收,傳統(tǒng)的油氣勘探方法已經(jīng)不能滿足增加石油的采收率。當(dāng)前我國各大油田的地質(zhì)勘探工作已經(jīng)進(jìn)入中后期,迫切需要一些新的方法研究方法和技術(shù),對油氣田剩余油氣的分布和變化趨勢做出預(yù)測,以便在尋找新的勘探開發(fā)領(lǐng)域,同時(shí)也能繼續(xù)對老油氣田進(jìn)行挖掘,從而提高油氣產(chǎn)量。

近些年來,隨著神經(jīng)網(wǎng)絡(luò)技術(shù)[1]的日趨成熟,基于模式識別的各類方法技術(shù),如統(tǒng)計(jì)模式識別、神經(jīng)網(wǎng)絡(luò)、模糊判別等技術(shù)和理論在剩余油氣預(yù)測方面都得到了較多的應(yīng)用,也取得了較好的結(jié)果。其中模糊理論具有很強(qiáng)的表達(dá)能力并且容易被人理解,神經(jīng)網(wǎng)絡(luò)的自適應(yīng)學(xué)習(xí)能力很強(qiáng)。由于模糊理論和人工神經(jīng)網(wǎng)絡(luò)各自的優(yōu)點(diǎn),常常被單獨(dú)或者是組合起來運(yùn)用到實(shí)踐中,本文主要介紹神經(jīng)網(wǎng)絡(luò)的方法運(yùn)用于預(yù)測剩余油氣的工作中。

1 模糊理論

1.1 發(fā)展歷程

1965年美國加州大學(xué)伯里克分校的扎德教授首先創(chuàng)立了模糊集合的數(shù)學(xué)理論,隨后P.N.Marions也開始從事相關(guān)研究,于1966年發(fā)表了一份關(guān)于模糊邏輯的研究報(bào)告。1974年扎德教授作了模糊推理的研究報(bào)告,同年英國的E.H.Mamdanl運(yùn)用模糊邏輯和模糊推理首次實(shí)現(xiàn)了蒸汽機(jī)的實(shí)驗(yàn)性控制,從此模糊理論的雛形形成了,隨后模糊理論[2]掀起了一波熱潮。

1.2 在剩余油氣預(yù)測中的應(yīng)用

在預(yù)測剩余油氣[3]的實(shí)踐中,首先對地震資料做初步的特征提取,然后將提取的樣本用模糊理論的聚類方法進(jìn)行訓(xùn)練,對訓(xùn)練樣本進(jìn)行幾類。每類都有各自對應(yīng)的神經(jīng)網(wǎng)絡(luò),用專屬于每類的樣本依次訓(xùn)練各自對應(yīng)的神經(jīng)網(wǎng)絡(luò)。具體步驟如下:

1)流體屬性的提取

流體屬性數(shù)據(jù)是三維數(shù)據(jù),屬性的提取方法依賴于具體的物理問題與數(shù)據(jù)網(wǎng)格的劃分。三維數(shù)據(jù)場屬性邊界的提取所采用的方法是求出網(wǎng)格點(diǎn)的梯度,特征區(qū)域一般是梯度模值較大的區(qū)域。對于均勻的三維網(wǎng)格,估計(jì)其梯度的方法可采用三維差分。為得到網(wǎng)格點(diǎn)上的梯度值,簡單的方法是利用前、后、左、右、上、下六個(gè)鄰近點(diǎn)的場值進(jìn)行簡單的差分估計(jì)。在計(jì)算流體力學(xué)問題中,采用的網(wǎng)格大都是結(jié)構(gòu)化網(wǎng)格,為計(jì)算網(wǎng)格點(diǎn)上的梯度,需將網(wǎng)格變換為均勻規(guī)則正交網(wǎng)格。設(shè)三維網(wǎng)格交換為[x=T1(ξ,η,?)],[y=T2(ξ,η,?)],[z=T3(ξ,η,?)],在點(diǎn)(m,n,p),其場值梯度在兩種網(wǎng)格上的關(guān)系式為:

[?f?ξ?f?η?f??=?f?x?f?y?f?z?x?ξ?x?η?x???y?ξ?y?η?y???z?ξ?z?η?z??]

2)模糊系統(tǒng)處理流體屬性

確定輸入輸出的學(xué)習(xí)樣本[(αK,βK,γk)],k為樣本個(gè)數(shù)。利用模糊聚類的方法將輸入樣本分成N類,N類樣本對應(yīng)N條神經(jīng)網(wǎng)絡(luò)。利用各自的樣本訓(xùn)練各自的神經(jīng)網(wǎng)絡(luò),選擇合適的學(xué)習(xí)樣本,系統(tǒng)經(jīng)過多次樣本訓(xùn)練和樣本學(xué)習(xí)之后,優(yōu)化出一部分識別精度高的樣本,優(yōu)選的樣本到達(dá)能辨別精度后,將該樣本輸出,這樣就可以被識別了。

2 自組織神經(jīng)網(wǎng)絡(luò)

2.1 結(jié)構(gòu)與工作過程

自組織神經(jīng)網(wǎng)絡(luò)是上世紀(jì)80年代芬蘭Helsink大學(xué)的Kohonen在Willshaw與Von der Malsberg在的工作上,結(jié)合對自然界中的生物神經(jīng)系統(tǒng)的理解,創(chuàng)建Kohonen模型,又稱Kohonen網(wǎng)絡(luò)。自組織神經(jīng)網(wǎng)絡(luò)[4]的特征映射是基于生物的大腦神經(jīng)系統(tǒng),模擬它的自組織特征映射機(jī)制,在樣本訓(xùn)練中有很強(qiáng)大學(xué)習(xí)能力,在組織學(xué)習(xí)中不需要監(jiān)控,是一種無監(jiān)督競爭式學(xué)習(xí)的前饋網(wǎng)絡(luò)。自組織神經(jīng)網(wǎng)絡(luò)通過學(xué)習(xí),從而提取某組數(shù)據(jù)中的某種重要特征或內(nèi)在規(guī)律,按離散時(shí)間的方式進(jìn)行分類。網(wǎng)絡(luò)可以把任意高維的輸入作為輸入神經(jīng)元,映射到低維空間得到輸出神經(jīng)元,并且使得輸入神經(jīng)元內(nèi)部的某些相似性質(zhì)表現(xiàn)為幾何上鄰近的特征映射,這就是人們常說的降維處理。這樣輸出神經(jīng)元會聚集成一個(gè)輸出層,輸出層就可以繪制成一維或二維離散幾何圖形,并且其拓?fù)浣Y(jié)構(gòu)保持不變。此分類反映了樣本集之間的本質(zhì)區(qū)別,大幅度降低了一致性準(zhǔn)則中的人為因素。

如圖1所示,SOM網(wǎng)絡(luò)是一種比較簡單的雙層網(wǎng)絡(luò), 由若干輸入神經(jīng)元和輸出神經(jīng)元組成。輸入層與輸出層各神經(jīng)元之間實(shí)現(xiàn)了全部互相直接或間接的連接方式,每個(gè)輸出神經(jīng)元可通過可變連接權(quán)與所有輸入神經(jīng)元相連, 且輸出神經(jīng)元間存在局部相互連接。每個(gè)連接都具有對應(yīng)的連接權(quán)值,用于表示該連接的強(qiáng)度。各個(gè)神經(jīng)元的連接權(quán)值均具有一定的分布,每個(gè)輸入神經(jīng)元與輸出神經(jīng)元之間的聯(lián)系通過連接權(quán)來傳達(dá)。輸出層的神經(jīng)元之間實(shí)行側(cè)向連接,相鄰的神經(jīng)元相互激勵(lì),距離較遠(yuǎn)的神經(jīng)元?jiǎng)t相互抑制,然而超過了一定的距離的神經(jīng)元又具有較弱的激勵(lì)作用,最后剩下的一個(gè)神經(jīng)元或一組神經(jīng)元,則反映該類樣本的屬性。

2.2 預(yù)測剩余油氣的步驟

1)根據(jù)勘探數(shù)據(jù)體提取流體屬性[5],并對其進(jìn)行預(yù)處理。

2)優(yōu)選出所要了解的流體屬性,對其進(jìn)行降維壓縮,將壓縮集作為模式識別的輸入,以統(tǒng)計(jì)的油氣儲層參數(shù)作為輸出來訓(xùn)練組組織神經(jīng)網(wǎng)絡(luò)。

3)利用模式識別[6]參數(shù)和降維壓縮集對儲層的油氣進(jìn)行預(yù)測,從而得到如今的剩余油氣的分布。

3 結(jié)束語

本文針對傳統(tǒng)油氣勘探的方法難以滿足預(yù)測油氣田剩余油的難題,著重介紹了模糊理論和自組織神經(jīng)網(wǎng)絡(luò)的方法,這兩種神經(jīng)網(wǎng)絡(luò)的方法各有優(yōu)勢。其中模糊神經(jīng)網(wǎng)絡(luò)的系統(tǒng)訓(xùn)練和學(xué)習(xí)速度快,收斂較快,預(yù)測的精度高。自組織神經(jīng)網(wǎng)絡(luò)的競爭模式起到了快速優(yōu)選的作用,神經(jīng)元之間的協(xié)作模式在某種意義上則縮短了整個(gè)流程的工作時(shí)間??偠灾?,神經(jīng)網(wǎng)絡(luò)的技術(shù)與方法在預(yù)測油氣田的剩余油氣的實(shí)踐中取得了不錯(cuò)的成果。

參考文獻(xiàn):

[1] 汪鐳,周國興,吳啟迪.人工神經(jīng)網(wǎng)絡(luò)理論在控制領(lǐng)域中的應(yīng)用綜述[J].同濟(jì)大學(xué)學(xué)報(bào):自然科學(xué)版,2001,03:357-361.

[2] 王曉軍,楊海峰,邱志平,等.基于測量數(shù)據(jù)的不確定性結(jié)構(gòu)分析的模糊理論[J].北京航空航天大學(xué)學(xué)報(bào),2010,08:887-891.

[3] 熊艷,包吉山,肖慈.模糊神經(jīng)網(wǎng)絡(luò)預(yù)測儲層及油氣[J].石油地球物理勘探,2000,02:222-227.

[4] 易榮慶,李文輝,王鐸.基于自組織神經(jīng)網(wǎng)絡(luò)的特征識別[J].吉林大學(xué)學(xué)報(bào):工學(xué)版,2009,01:148-153.

相關(guān)熱門標(biāo)簽