神經(jīng)網(wǎng)絡(luò)的算法精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)的算法主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經(jīng)網(wǎng)絡(luò)的算法范文

關(guān)鍵詞： BP神經(jīng)網(wǎng)絡(luò)； 支持向量機(jī)； 核函數(shù)； 數(shù)據(jù)挖掘

中圖分類號(hào)： TN711?34 文獻(xiàn)標(biāo)識(shí)碼： A 文章編號(hào)： 1004?373X（2017）11?0111?04

Research on data mining algorithm based on neural network

WANG Chunmei

（School of Computer Science and Technology， Xi’an University of Posts and Telecommunications， Xi’an 710121， China）

Abstract： The neural network can classify and predict the various network models. The data mining algorithm based on BP neural network and SVM is applied to the air quality prediction in Xi’an region. Although the BP neural network and SVM method have different generalization ability and convergence ability， the past historical data is used to train the network model. The experimental results prove that the data mining algorithm can predict the future data accurately.

Keywords： BP neural network； support vector machine； kernel function； data mining

0 引 言

近年來空氣污染嚴(yán)重，空氣問題不容忽視，準(zhǔn)確的空氣質(zhì)量預(yù)測(cè)具有極大的現(xiàn)實(shí)意義。神經(jīng)網(wǎng)絡(luò)算法在數(shù)據(jù)挖掘中占有重要的地位，因?yàn)榫W(wǎng)絡(luò)模型、復(fù)雜度等不同，神經(jīng)網(wǎng)絡(luò)可以擬合各種曲線實(shí)現(xiàn)分類、預(yù)測(cè)等多種模式，至今神經(jīng)網(wǎng)絡(luò)已經(jīng)研究出了多種類型來適應(yīng)不同的要求。

神經(jīng)網(wǎng)絡(luò)要求網(wǎng)絡(luò)模型對(duì)訓(xùn)練數(shù)據(jù)集有比較好的逼近能力，也需要對(duì)訓(xùn)練集之外的分布數(shù)據(jù)能給出比較精準(zhǔn)的預(yù)測(cè)。泛化能力即經(jīng)過訓(xùn)練學(xué)習(xí)得到的預(yù)測(cè)模型，對(duì)沒有在訓(xùn)練集中出現(xiàn)但是具有一定規(guī)則的數(shù)據(jù)能有比較準(zhǔn)確的預(yù)測(cè)能力，不只是普通的保存學(xué)習(xí)過的樣本，而是需要進(jìn)行有限次數(shù)據(jù)的訓(xùn)練，找到未知的規(guī)律。

本文基于神經(jīng)網(wǎng)絡(luò)的BP算法和SVM算法利用已有的歷史數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò)模型，對(duì)未來的天氣進(jìn)行較為準(zhǔn)確的預(yù)測(cè)工作。

1 BP算法

前饋神經(jīng)網(wǎng)絡(luò)是一種典型的神經(jīng)網(wǎng)絡(luò)模型，網(wǎng)絡(luò)具有分層結(jié)構(gòu)，輸入數(shù)據(jù)從輸入層進(jìn)入到前饋神經(jīng)網(wǎng)絡(luò)，經(jīng)過輸入層和隱層傳遞到輸出層。不同的前饋網(wǎng)絡(luò)節(jié)點(diǎn)限制函數(shù)、神經(jīng)元個(gè)數(shù)、隱層個(gè)數(shù)、權(quán)重修改方法能夠?qū)崿F(xiàn)擁有多樣能力的前饋神經(jīng)網(wǎng)絡(luò)。

只有一個(gè)隱層的感知器只能解決輸入數(shù)據(jù)線性能夠區(qū)分的問題，但很多分類問題的輸入數(shù)據(jù)都是線性不能區(qū)分的。要完成線性不可分的難題，需要在結(jié)構(gòu)中加入隱層。含有多隱層的前饋網(wǎng)絡(luò)相比于單層感知器的區(qū)分效果有明顯的提升。因?yàn)檎`差相反傳遞算法經(jīng)常用于神經(jīng)網(wǎng)絡(luò)，所以也叫BP網(wǎng)絡(luò)。

1.1 基本思想

BP學(xué)習(xí)過程分為兩個(gè)過程，即輸入數(shù)據(jù)經(jīng)過輸入層和隱層正向流給輸出層，輸出層的誤差經(jīng)隱層反傳給輸入層。正向傳播時(shí)，輸入數(shù)據(jù)從輸入層到達(dá)，經(jīng)過每個(gè)隱層的加工后，再傳遞給最后的輸出層。如果輸出數(shù)據(jù)達(dá)不到預(yù)期目標(biāo)，則進(jìn)入誤差的反向傳遞。誤差的反向傳遞是指將最后一層的誤差經(jīng)過某種方法，經(jīng)網(wǎng)絡(luò)的隱層反轉(zhuǎn)傳遞向輸入層，將誤差均勻給網(wǎng)絡(luò)每個(gè)層的所有神經(jīng)元節(jié)點(diǎn)，因此得到網(wǎng)絡(luò)每層神經(jīng)元節(jié)點(diǎn)的誤差信號(hào)，通過節(jié)點(diǎn)獲得的誤差來調(diào)整節(jié)點(diǎn)。這兩部分反復(fù)，通過不斷地權(quán)重修改將誤差減少到比較滿意的情況，或達(dá)到學(xué)習(xí)次數(shù)上限。

1.2 基本原理

三層BP網(wǎng)絡(luò)模型圖如圖1所示。

在該三層前饋網(wǎng)絡(luò)中，為輸入向量，代表隱層神經(jīng)元節(jié)點(diǎn)的閾值；隱層輸出為圖1中是為輸出層神經(jīng)元引入閾值設(shè)置的；輸出層的輸出向量為預(yù)期輸出網(wǎng)絡(luò)的隱層和網(wǎng)絡(luò)輸入層的權(quán)值用矩陣表示；用表示網(wǎng)絡(luò)隱層到網(wǎng)絡(luò)輸出層的權(quán)值矩陣。

對(duì)于輸出層來說：

（1）

對(duì)于隱層來說：

（2）

轉(zhuǎn)移函數(shù)為：

（3）

1.3 學(xué)習(xí)算法

當(dāng)網(wǎng)絡(luò)輸出距離預(yù)期結(jié)果有差距時(shí)，代表輸出誤差。

隱層：

（4）

輸入層：

（5）

據(jù)式（5）得知，網(wǎng)絡(luò)誤差展開到輸入層只和有關(guān)，要想減小誤差，就要修改神經(jīng)元的權(quán)值。

假設(shè)網(wǎng)絡(luò)有個(gè)隱層，神經(jīng)元數(shù)代表網(wǎng)絡(luò)隱層的輸出，為權(quán)重，則權(quán)重修改公式如下：

輸出層：

（6）

第個(gè)隱層：

（7）

遞推可得：

（8）

在BP算法中，所有的權(quán)重修改公式都一樣，都取決于學(xué)習(xí)率、輸入和本層的輸出誤差。模型每層的輸出誤差和模型的總誤差有關(guān)系，反映了模型輸出的誤差。網(wǎng)絡(luò)中每一個(gè)隱層的誤差都和前面每個(gè)網(wǎng)絡(luò)層的誤差有聯(lián)系，都是經(jīng)過網(wǎng)絡(luò)的輸出層一層一層地向前回傳。

2 SVM算法

2.1 基本思想

從線性可分的方向來看，支持向量機(jī)的本質(zhì)是尋找一個(gè)最優(yōu)決策超平面，使其兩側(cè)和到平面距離最近的數(shù)據(jù)點(diǎn)之間的距離最大，有良好的泛化推廣能力。而對(duì)于非線性可分問題，根據(jù)Cover定理：如果分類問題在低維上不可分，那么將其非線性地映射到高維特征空間可能是線性可分的，只要變化是非線性的并且特征空間的維度很高，所以模式空間可以從低維變換到高維特征空間，讓問題在高維中有很大的可能可分。

2.2 基本原理

SVM方法是一個(gè)三層網(wǎng)絡(luò)構(gòu)建的過程，分類超平面的向量為網(wǎng)絡(luò)的權(quán)值，隱層使用非線性映射函數(shù)把數(shù)據(jù)輸入向量從低維映射到高維的特征向量空間中。

設(shè)是維的輸入向量，低維輸入的空間經(jīng)過非線性變換到維特征空間：

（9）

式中：是權(quán)重；是偏置。

特征空間分類超平面為：

（10）

式中：代表第個(gè)輸入向量在高S特征空間的像和輸入向量在特征空間的像的內(nèi)積。

使用內(nèi)積函數(shù)得到超平面：

（11）

支持向量機(jī)的基本思路是：對(duì)于非線性可分問題，讓輸入樣本從非線性低維變化到高維特征空間后，使其在高維特征空間線性可分，讓支持向量的個(gè)數(shù)是去除向量為零，最優(yōu)超平面判別函數(shù)為：

（12）

2.3 學(xué)習(xí)算法

在使用內(nèi)積核函數(shù)的情況下，SVM學(xué)習(xí)算法如下：

（1） 訓(xùn)練樣本

（2） 在約束條件下求解，讓目標(biāo)函數(shù)：最大化的矩陣的第個(gè)元素是。

（3） 計(jì)算最優(yōu)的權(quán)值：

（4） 對(duì)于待分類模式計(jì)算判別函數(shù)：

根據(jù)的值，判斷的類別。

向量機(jī)的設(shè)計(jì)不完全依靠設(shè)計(jì)人員的經(jīng)驗(yàn)，因?yàn)榈玫降氖侨值淖顑?yōu)解，泛化能力較強(qiáng)。但是因?yàn)榫仃囘\(yùn)算耗時(shí)，所以訓(xùn)練速度相對(duì)緩慢。

3 測(cè)試實(shí)驗(yàn)

3.1 BP算法實(shí)驗(yàn)

首先定義網(wǎng)絡(luò)結(jié)構(gòu)，根據(jù)多次實(shí)驗(yàn)，最終確定的網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。網(wǎng)絡(luò)的輸入層節(jié)點(diǎn)數(shù)設(shè)計(jì)為5、輸出層節(jié)點(diǎn)數(shù)選擇為4、隱含層節(jié)點(diǎn)數(shù)選擇為100。隱層的轉(zhuǎn)移函數(shù)是Sigmoid函數(shù)，輸出層轉(zhuǎn)移函數(shù)為Purelin函數(shù)。

由于是時(shí)間序列預(yù)測(cè)，得到了以前數(shù)據(jù)后，令是第個(gè)輸入，令是第個(gè)輸出。輸入層節(jié)點(diǎn)總數(shù)用表示，代表輸出層節(jié)點(diǎn)的總數(shù)。

利用BP算法，根據(jù)2013年11月―2014年12月的西安歷史空氣質(zhì)量數(shù)據(jù)，對(duì)2015年1月空氣質(zhì)量預(yù)測(cè)結(jié)果折線圖如圖3所示，數(shù)值參照表如表1所示。

3.2 SVM算法實(shí)驗(yàn)

本次實(shí)驗(yàn)采用Gauss來模擬RBF網(wǎng)絡(luò)預(yù)測(cè)空氣質(zhì)量。Gauss核函數(shù)需要參數(shù)。如果會(huì)發(fā)生嚴(yán)重的過學(xué)習(xí)現(xiàn)象，即泛化能力較弱；當(dāng)時(shí)會(huì)有前學(xué)習(xí)現(xiàn)象。

其次需要樣本準(zhǔn)備，因?yàn)闅v史空氣質(zhì)量的變化趨勢(shì)能反映空氣質(zhì)量的規(guī)律。輸入?yún)?shù)是歷史的空氣質(zhì)量輸出是下一日期的空氣質(zhì)量。是輸入空間的維度，是空氣質(zhì)量預(yù)測(cè)的步長(zhǎng)。此處選取來預(yù)測(cè)未來1個(gè)月的空氣質(zhì)量。

使用lssvm的tunelssvm函數(shù)，采用最小二乘法對(duì)Gauss核函數(shù)的參數(shù)和SVM參數(shù)進(jìn)行尋優(yōu)，找到合適的Gauss函數(shù)參數(shù)，再使用工具箱trainlssvm函數(shù)進(jìn)行訓(xùn)練，然后連續(xù)預(yù)測(cè)得到2015年1月的空氣質(zhì)量預(yù)測(cè)值。

利用SVM算法，根據(jù)2013年11月―2014年12月的西安歷史空氣質(zhì)量，對(duì)2015年1月空氣質(zhì)量預(yù)測(cè)結(jié)果折線圖如圖4所示，數(shù)值參照表如表2所示。

3.3 實(shí)驗(yàn)結(jié)果對(duì)比

從圖5和圖6得知，針對(duì)得到的樣本和實(shí)現(xiàn)的算法模型，BP算法模型和SVM支持向量機(jī)對(duì)2015年1月空氣質(zhì)量的總體走勢(shì)的預(yù)測(cè)相差不多，對(duì)于實(shí)際的空氣質(zhì)量，仍舊有較大的誤差。SVM的均方誤差略小于BP的均方誤差，但是BP算法網(wǎng)絡(luò)模型需要大量的時(shí)間訓(xùn)練，而SVM網(wǎng)絡(luò)參數(shù)尋優(yōu)使用的時(shí)間要少得多。

4 結(jié) 語(yǔ)

BP算法在神經(jīng)網(wǎng)絡(luò)中使用最普遍，但卻不能適用于所有的問題，確定網(wǎng)絡(luò)的層數(shù)和節(jié)點(diǎn)數(shù)仍然需要網(wǎng)絡(luò)設(shè)計(jì)者的經(jīng)驗(yàn)和不斷的試驗(yàn)調(diào)整。BP網(wǎng)絡(luò)還具有學(xué)習(xí)速率慢，易陷入極小值，泛化能力等問題需要人們解決。SVM由統(tǒng)計(jì)和數(shù)學(xué)理論發(fā)展而來，它能夠解決分類、回歸、預(yù)測(cè)等問題。對(duì)于線性不可分的問題，SVM能夠把其對(duì)應(yīng)于特征空間內(nèi)，使其線性可分。SVM核心在于核函數(shù)，不一樣的核函數(shù)可以模擬不同網(wǎng)絡(luò)應(yīng)用在不同問題。但是關(guān)于核函數(shù)的參數(shù)如何選取，在領(lǐng)域內(nèi)仍然沒有一個(gè)成熟的理論。數(shù)據(jù)挖掘中BP算法和SVM算法仍然有一些問題沒有統(tǒng)一的解決理論，但是這并不妨礙數(shù)據(jù)挖掘的潛力。相信隨著研究的不斷深入，理論的不斷完善，這些問題都將會(huì)迎刃而解。

參考文獻(xiàn)

[1] HAN Jiawei，KAMBER MIcheline，PEI Jian.數(shù)據(jù)挖掘：概念與技術(shù)[M].3版.北京：機(jī)械工業(yè)出版社，2012.

[2] 張良均.數(shù)據(jù)挖掘：實(shí)用案例分析[M].北京：機(jī)械工業(yè)出版社，2013.

[3] 陳封能.數(shù)據(jù)挖掘?qū)д揫M].北京：人民郵電出版社，2011.

[4] 朱明.數(shù)據(jù)挖掘[M].合肥：中國(guó)科學(xué)技術(shù)大學(xué)出版社，2008.

[5] 韓力群.人工神經(jīng)網(wǎng)絡(luò)理論、設(shè)計(jì)及應(yīng)用[M].2版.北京：化學(xué)工業(yè)出版社，2007.

[6] 王小川.Matlab神經(jīng)網(wǎng)絡(luò)43個(gè)案例分析[M].北京：北京航空航天大學(xué)出版社，2013.

[7] 施彥，韓力群，廉小親.神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)方法與實(shí)例分析[M].北京：北京郵電大學(xué)出版社，2009.

[8] 張德豐.Matlab神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計(jì)[M].北京：機(jī)械工業(yè)出版社，2011.

第2篇：神經(jīng)網(wǎng)絡(luò)的算法范文

（①昆明理工大學(xué)國(guó)土資源與工程學(xué)院，昆明 650093；②黃河勘測(cè)規(guī)劃設(shè)計(jì)有限公司，鄭州 450003）

（①Faculty of Land Resource Engineering，Kunming University of science and Technology，Kunming 650093，China；

②The Yellow River Survey Planning and Design Co.，Ltd.，Zhengzhou 450003，China）

摘要： 隨著神經(jīng)網(wǎng)絡(luò)理論的深入研究，神經(jīng)網(wǎng)絡(luò)已在圖像的分類中起到非常重要的地位。本文章使用IDL語(yǔ)言來實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)在權(quán)值調(diào)整過程算法優(yōu)化，并在ENVI上集成，已達(dá)到神經(jīng)網(wǎng)絡(luò)分類速度快，且精度可靠的目的。

Abstract： With the deep research in the theory of neural network, neural network has played a very important role in the classification of the image. This article uses the IDL language to implement the algorithm to optimize the weights of neural network to the adjustment process, and on the ENVI integration, has reached the neural network classification speed, precision and reliable.

關(guān)鍵詞 ： 神經(jīng)網(wǎng)絡(luò)；圖像分類；ENVI；IDL；集成；精度

Key words： neural network；image classification；ENVI；IDL；integration；precision

中圖分類號(hào)：P237 文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1006-4311（2015）06-0234-02

0 引言

ENVI是一套功能強(qiáng)大的遙感圖像處理軟件，在ENVI上進(jìn)行遙感圖像分類中有很多方法，如神經(jīng)網(wǎng)絡(luò)、最大似然、最小距離、 ISODATA算法、決策樹和面向?qū)ο蟮确诸惙椒ǎ窠?jīng)網(wǎng)絡(luò)在分類時(shí)比其它分類所花費(fèi)時(shí)間要長(zhǎng)，且速度很慢，因?yàn)閺乃惴C(jī)理可知神經(jīng)網(wǎng)絡(luò)在權(quán)值調(diào)整時(shí)是迭代收斂的過程，其分類過程自然很慢。針對(duì)此問題，決定使用IDL語(yǔ)言來編程優(yōu)化算法。

1 IDL的語(yǔ)言環(huán)境

IDL（Interactive Data Language）是美國(guó)RSI公司推出的面向矩陣的第四代計(jì)算機(jī)語(yǔ)言，它語(yǔ)法簡(jiǎn)單，自帶大量的功能函數(shù)，使用很少的代碼就能實(shí)現(xiàn)其它語(yǔ)言很難實(shí)現(xiàn)的功能。IDL是進(jìn)行數(shù)據(jù)分析、可視化及跨平臺(tái)應(yīng)用開發(fā)的最佳選擇，利用IDL可以快速地進(jìn)行科學(xué)數(shù)據(jù)讀寫、圖像處理、集成數(shù)學(xué)統(tǒng)計(jì)、信號(hào)分析、數(shù)值計(jì)算和三維圖像建模等。IDL集可視、交互分析、大型商業(yè)開發(fā)為一體，為您提供了最完善、最靈活最有效的開發(fā)環(huán)境。

IDL的開發(fā)應(yīng)用已經(jīng)深入到了人類日常生活的方方面面，給人類對(duì)未知領(lǐng)域的探索與發(fā)現(xiàn)提供了強(qiáng)有力的工具，推動(dòng)了人類向前發(fā)展。對(duì)IDL的語(yǔ)言環(huán)境熟悉之后，緊接著就開始針對(duì)目前存在的基于神經(jīng)網(wǎng)絡(luò)的遙感圖像分類問題進(jìn)行改進(jìn)，并結(jié)合ENVI軟件，使用IDL語(yǔ)言設(shè)計(jì)出改進(jìn)后的優(yōu)化算法。

2 ENVI中基于神經(jīng)網(wǎng)絡(luò)分類的剖析

ENVI中采用的神經(jīng)網(wǎng)絡(luò)屬于BP網(wǎng)絡(luò)，含有輸入層、輸出層以及處于輸入輸出層之間的隱含層，如果進(jìn)行非線性分類，輸入的區(qū)域并非線性分類或需要兩個(gè)超平面才能區(qū)分類別時(shí)候，隱層數(shù)設(shè)置為大于或等于一。隱含層的狀態(tài)影響輸入與輸出之間的關(guān)系，改變隱含層的權(quán)系數(shù)，可以改變整個(gè)多層神經(jīng)網(wǎng)絡(luò)的性能。

ENVI中采用的BP神經(jīng)網(wǎng)絡(luò)通過誤差函數(shù)的最小化過程來完成輸入到輸出的映射。為了完成最小化過程，這種BP反向傳播算法分正向傳播和反向傳播兩步進(jìn)行。在正向傳播中，輸入的樣本從輸入層經(jīng)過隱單元一層一層進(jìn)行處理，通過所有的隱含層之后，則傳向輸出層；在逐層處理的過程中，每一層神經(jīng)元的狀態(tài)只對(duì)下一層神經(jīng)元的狀態(tài)產(chǎn)生影響；在輸出層把現(xiàn)行輸出和期望輸出進(jìn)行比較,如果現(xiàn)行輸出不等于期望輸出，則進(jìn)入反向傳播過程。在反向傳播過程中，反向傳播把誤差信號(hào)按原來正向傳播的通路反向傳回，反復(fù)修改（這是個(gè)迭代的過程）各節(jié)點(diǎn)的權(quán)重和閾值，逐漸減小誤差，直到達(dá)到預(yù)先設(shè)定的要求。當(dāng)誤差小于某一相當(dāng)小的正數(shù)或迭代誤差不再減少時(shí)，完成BP網(wǎng)絡(luò)的訓(xùn)練、輸入與輸出的映射的確定。

我們的落腳點(diǎn)是在BP網(wǎng)絡(luò)的反向傳播過程中網(wǎng)絡(luò)各節(jié)點(diǎn)權(quán)值的迭代調(diào)整，但是該網(wǎng)絡(luò)在此方面存在缺陷，就是迭代時(shí)間長(zhǎng)，尤其對(duì)處理大數(shù)據(jù)，需要花費(fèi)很長(zhǎng)時(shí)間才能達(dá)到收斂。針對(duì)BP網(wǎng)絡(luò)中學(xué)習(xí)算法收斂速度慢的缺點(diǎn)，運(yùn)用數(shù)學(xué)中埃特金加速收斂算法，對(duì)傳統(tǒng)的BP算法進(jìn)行改進(jìn)，然后使用IDL語(yǔ)言進(jìn)行匯編，最后在ENVI上進(jìn)行功能的擴(kuò)展，已達(dá)到適用的生產(chǎn)目的。

3 編寫迭代函數(shù)

為了能在ENVI菜單上調(diào)用埃特金迭代收斂函數(shù)，需要在ENVI菜單中創(chuàng)建一個(gè)新的菜單項(xiàng)，并定義一個(gè)此用戶函數(shù)。這個(gè)用戶函數(shù)可以通過在ENVI菜單中選擇這個(gè)新的菜單項(xiàng)來進(jìn)行調(diào)用。具體工程如下：

①在現(xiàn)有的ENVI菜單基礎(chǔ)上創(chuàng)建新的功能菜單，首先用文本編輯器打開envi.men文件，添加如下部分：

PRO MY_PROCESS_DEFINE_BUTTONS, buttonInfo

COMPILE_OPT IDL2

ENVI_DEFINE_MENU_BUTTON, buttonInfo, VALUE = ‘New Function’, $

/MENU, REF_VALUE = ‘Supervised’, REF_INDEX = 0, $

POSITION = ‘last’

ENVI_DEFINE_MENU_BUTTON, buttonInfo, VALUE = ‘Function1’, $

UVALUE = ‘Function 1’, EVENT_PRO = ‘my_process_event’, $

REF_VALUE = ‘New Function’

END

如果ENVI已經(jīng)打開，需要關(guān)閉并重新啟動(dòng)ENVI,然后在ENVI主菜單上，會(huì)看到Classification菜單下的Supervised的子菜單內(nèi)增加了新的菜單“New Function”。

②編寫迭代函數(shù)。在運(yùn)行ENVI的IDL開發(fā)環(huán)境中，迭代功能函數(shù)的部分代碼如下：

ENVI_NEURAL_NET_DOIT

FUNCTION bm_func,X,[X0，X1……Xn]

nx=Xn,

t = FINDGEN(nx-X)

… … … … …

4 實(shí)驗(yàn)過程與精度評(píng)定

本實(shí)驗(yàn)主要運(yùn)用ENVI4.8版本圖像處理軟件進(jìn)行圖像分類，使用的數(shù)據(jù)是網(wǎng)上下載的經(jīng)過數(shù)據(jù)預(yù)處理后的Landsat5 TM研究區(qū)影像。調(diào)用迭代函數(shù)開始進(jìn)行基于神經(jīng)網(wǎng)絡(luò)的遙感圖像分類，其分類時(shí)間所反映的進(jìn)度條如圖1所示，以及最終的迭代均方根訓(xùn)練函數(shù)如圖2所示。

在神經(jīng)網(wǎng)絡(luò)分類結(jié)束后，所花費(fèi)時(shí)間很短，分類速度很快，具體的分類結(jié)果圖如圖3所示。對(duì)調(diào)用迭代函數(shù)的神經(jīng)網(wǎng)絡(luò)分類結(jié)果進(jìn)行精度分析，使用混淆矩陣，具體報(bào)表如圖4所示。從混淆矩陣報(bào)表可知，總體分類精度為94.2374%，其Kappa系數(shù)為0.9272，分類效果很好，精度很高，滿足要求。

5 結(jié)束語(yǔ)

ENVI上調(diào)用迭代函數(shù)的神經(jīng)網(wǎng)絡(luò)總體上比原來的神經(jīng)網(wǎng)絡(luò)分類要優(yōu)越，其鮮明的特色就是分類速度快，精度也高。這大大提速原有的神經(jīng)網(wǎng)絡(luò)分類速度，尤其在處理大數(shù)據(jù)優(yōu)越明顯。但是ENVI上仍存在神經(jīng)網(wǎng)絡(luò)分類單一化現(xiàn)象，怎樣使其減少人為的干預(yù)，使其更智能化是今后的研究趨勢(shì)。

參考文獻(xiàn)：

[1]董彥卿.IDL程序設(shè)計(jì)—數(shù)據(jù)可視化與ENVI二次開發(fā)[M].北京：高等教育出版社，2012.

第3篇：神經(jīng)網(wǎng)絡(luò)的算法范文

關(guān)鍵詞:諧波分析 神經(jīng)網(wǎng)絡(luò) 遺傳算法 MATLAB

中圖分類號(hào):TM1文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1007-3973(2010)06-083-02

隨著現(xiàn)代工業(yè)科技的發(fā)展,電力電子裝置的應(yīng)用越來越廣泛,非線性和時(shí)變性電子裝置大量投入到電網(wǎng)使得電力系統(tǒng)中的非線性負(fù)荷急劇增加,導(dǎo)致了配電網(wǎng)中電壓和電流波形的嚴(yán)重失真,由此而產(chǎn)生了電網(wǎng)諧波污染問題,諧波的產(chǎn)生降低了電能質(zhì)量,直接影響工業(yè)用電設(shè)備和居民用電設(shè)備的正常安全運(yùn)行。另一方面隨著科技的發(fā)展,各種精密儀器的投入使用對(duì)電能質(zhì)量提出了更高的要求。諧波問題作為降低電能質(zhì)量問題的核心內(nèi)容對(duì)電力系統(tǒng)的安全經(jīng)濟(jì)運(yùn)行帶來了巨大的挑戰(zhàn) 。

對(duì)諧波含量準(zhǔn)確進(jìn)行分析計(jì)算時(shí)保證諧波治理效果的重要前提,本文采用遺傳算法改進(jìn)神經(jīng)網(wǎng)絡(luò)算法進(jìn)行諧波含量計(jì)算,其實(shí)時(shí)性和結(jié)果精確性都有較大提高。

1諧波含量計(jì)算問題

原始理想的電壓和電流波形應(yīng)該是標(biāo)準(zhǔn)的正弦波波形, 可以假設(shè)電源瞬時(shí)電壓為

考慮到負(fù)載電流發(fā)生畸變,含有諧波分量,根據(jù)傅里葉級(jí)數(shù)將負(fù)載電流分解為:

其中,為基波有功電流;為基波無功電流;為高次諧波電流,可以將式(2)改寫成權(quán)值模式:

對(duì)諧波含量的分析計(jì)算目標(biāo)即為求出的值,其中體現(xiàn)高次諧波的含量 。實(shí)際電網(wǎng)中由于電力系統(tǒng)為三相系統(tǒng),偶次諧波基本消除,因此只考慮奇次諧波,占總諧波含量97%以上的諧波集中在25次諧波以下,本文只分析25次以下(包括25次)奇次諧波含量,根據(jù)以上分析,式(4)可以簡(jiǎn)化成

其中 諧波分析即為求取式(5)中權(quán)值系數(shù) 的值。

2基于神經(jīng)網(wǎng)絡(luò)諧波檢測(cè)算法

本系統(tǒng)采用單層感知器―誤差修正學(xué)習(xí)法 。由式(5)可知,神經(jīng)網(wǎng)絡(luò)諧波權(quán)值計(jì)算可用如圖1所示,作為網(wǎng)絡(luò)的輸入,為理論電流:

為實(shí)測(cè)電流值,也就是期望電流值,為期望電流值與網(wǎng)絡(luò)實(shí)際輸出之差,即誤差信號(hào):

誤差信號(hào)為驅(qū)動(dòng)控制信號(hào),其目的是修正調(diào)節(jié)各次諧波權(quán)值,使網(wǎng)絡(luò)輸出一步一步接近期望輸出 ,這一目標(biāo)通過最小化性能指標(biāo)來實(shí)現(xiàn) ,性能指標(biāo)定義如下:

權(quán)值修正法則如下:

其中表示第n個(gè)輸入量第k+1表示第次迭代后結(jié)果,為學(xué)習(xí)率,為學(xué)習(xí)誤差,為第n個(gè)輸入向量。

綜合以上分析可知,采用單層感知器-誤差修正神經(jīng)網(wǎng)絡(luò)的諧波算法計(jì)算步驟如下:

(1)給定初始諧波權(quán)值

初始權(quán)值賦值可采用在規(guī)定區(qū)間內(nèi)的隨機(jī)賦值法,初值賦值區(qū)間為[-2,2]。

(2)給定當(dāng)前輸入

由前面分析可知為神經(jīng)網(wǎng)絡(luò)輸入,輸入量在不同的時(shí)刻t不同,因此必須建立查表機(jī)制來查詢不同時(shí)刻的網(wǎng)絡(luò)輸入,用表示第n次迭代中第個(gè)輸入量( 的順序依次編號(hào))。

(3)由權(quán)值和輸入量計(jì)算網(wǎng)絡(luò)輸出值

(4)根據(jù)網(wǎng)絡(luò)輸出和期望輸出計(jì)算學(xué)習(xí)誤差,如式(7)所示。

(5)根據(jù)學(xué)習(xí)誤差調(diào)節(jié)權(quán)值

其中表示第次迭代中第n個(gè)輸入量的連接權(quán)值

(6)回到2繼續(xù)進(jìn)行下一次迭代計(jì)算

基于單層感知器-誤差修正學(xué)習(xí)網(wǎng)絡(luò)最大的優(yōu)點(diǎn)就是迭代過程相對(duì)簡(jiǎn)單,最后系統(tǒng)能穩(wěn)定收斂到目標(biāo)范圍。但系統(tǒng)的穩(wěn)定性受系統(tǒng)反饋參數(shù)影響較大,學(xué)習(xí)率的選取對(duì)于系統(tǒng)重復(fù)學(xué)習(xí)過程中的穩(wěn)定性和收斂性是非常重要的,的值過大,會(huì)加快收斂速度但誤差過大,的值過小,學(xué)習(xí)速度過慢,也將影響系統(tǒng)實(shí)時(shí)響應(yīng)速度。

3遺傳算法改進(jìn)神經(jīng)網(wǎng)絡(luò)算法

上一節(jié)中提到的單層感知器-誤差修正神經(jīng)網(wǎng)絡(luò)是一種簡(jiǎn)單的尋優(yōu)算法,但神經(jīng)網(wǎng)絡(luò)權(quán)值尋優(yōu)算法存在全局搜索能力差的缺點(diǎn),初始權(quán)值隨機(jī)性過大影響網(wǎng)絡(luò)的泛化能力,而遺傳算法可以對(duì)復(fù)雜的,非線性的、多峰的不可微函數(shù)實(shí)現(xiàn)最優(yōu)全局搜索,能有效利用歷史信息來推測(cè)下一代更優(yōu)質(zhì)的尋優(yōu)點(diǎn)集 。這樣不斷進(jìn)化,最后收斂到一個(gè)最適應(yīng)環(huán)境的個(gè)體上,進(jìn)而得出問題的最優(yōu)解。因此,可以先用遺傳算法對(duì)初始權(quán)值進(jìn)行優(yōu)化,在大范圍解空間定位出適用于優(yōu)化目標(biāo)的較好搜索空間,然后利用神經(jīng)網(wǎng)絡(luò)在這一個(gè)較小解空間進(jìn)行局部尋優(yōu),這樣既可以避免在尋優(yōu)過程陷入局部最優(yōu),還可以加快算法收斂。據(jù)此本文將遺傳算法與單層感知器-學(xué)習(xí)修正神經(jīng)網(wǎng)絡(luò)算法進(jìn)行結(jié)合來優(yōu)化諧波含量計(jì)算。遺傳算法進(jìn)化步驟如下 :

第一步:確定決策變量和約束條件

包括基波權(quán)值在內(nèi),一共有13組,總共有26個(gè)權(quán)值,諧波權(quán)值的范圍一般在[-1,1],權(quán)值可能溢出,本文將權(quán)值范圍擴(kuò)大到[-2,2],即:

第二步:建立優(yōu)化模型

優(yōu)化目標(biāo)為使得性能指標(biāo)到合理范圍

第三步:確定編碼、解碼方法

對(duì)于每一個(gè)權(quán)值其取值區(qū)間為[-2,2],由于遺傳算法計(jì)算目的為搜索最優(yōu)區(qū)間,而非最優(yōu)解,因此將[-2,2]區(qū)間以0.2為單位分為20等份,計(jì)算最終目標(biāo)只需求出最優(yōu)解所在區(qū)間即可,可知每個(gè)權(quán)值從-2到2有21個(gè)取值可能,可用4位二進(jìn)制編碼串表示,一共有26個(gè)權(quán)值,按照的順序需要104位二進(jìn)制編碼串來表示,這便構(gòu)成了染色體編碼方法。解碼時(shí)先將104位的二進(jìn)制編碼串截成26段4位二進(jìn)制編碼串,每一段編碼串表示一個(gè)權(quán)值編碼,設(shè)某一段編碼為,解碼后表示權(quán)值實(shí)際值為,可知

第四步:確定個(gè)體評(píng)價(jià)方法

可知個(gè)體評(píng)價(jià)方法即為性能指標(biāo)控制到合理范圍。

第五步:設(shè)計(jì)遺傳算子

選擇運(yùn)算選用比例選擇算子;交叉運(yùn)算使用單點(diǎn)交叉算子;編譯運(yùn)算使用基本位變異算子。

第六步:設(shè)定遺傳算法運(yùn)行參數(shù)

包括群體大小、終止代數(shù)、交叉概率和變異概率

結(jié)合前面神經(jīng)網(wǎng)絡(luò)算法的分析,可得出遺傳算法改進(jìn)神經(jīng)網(wǎng)絡(luò)算法計(jì)算諧波的總計(jì)算流程,如圖2所示:

4MATLAB仿真分析

根據(jù)前面對(duì)算法的分析,使用MATLAB提供的神經(jīng)網(wǎng)絡(luò)和遺傳算法工具性進(jìn)行仿真處理 。設(shè)置遺傳算法群體大小為80,終止代數(shù)為100,交叉概率為0.7,變異概率為0.001,神經(jīng)網(wǎng)絡(luò)算法學(xué)習(xí)率為0.1,使用遺傳算法改進(jìn)神經(jīng)網(wǎng)絡(luò)算法的訓(xùn)練樣本曲線如圖3所示,單獨(dú)使用神經(jīng)網(wǎng)絡(luò)算法的訓(xùn)練樣本曲線如圖4所示:

由圖3和圖4可知,采用遺傳算法改進(jìn)神經(jīng)網(wǎng)絡(luò)算法進(jìn)行諧波分析,在遺傳算法完成100步迭代后適應(yīng)度最高樣本的訓(xùn)練誤差已經(jīng)降到,此后進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練到160步后訓(xùn)練誤差已經(jīng)降到,相比單獨(dú)使用神經(jīng)網(wǎng)絡(luò)算法,需要到350步訓(xùn)練誤差才能到,可見采用遺傳算法改進(jìn)神經(jīng)網(wǎng)絡(luò)算法大大加快了迭代速度和計(jì)算結(jié)果的準(zhǔn)確性。

5遺傳算法改進(jìn)神經(jīng)網(wǎng)絡(luò)算法的優(yōu)點(diǎn)

使用遺傳算法改進(jìn)神經(jīng)網(wǎng)絡(luò)算法為諧波計(jì)算分析提出了新的解決思路,主要特點(diǎn)包括:(1)全局搜索能力強(qiáng),算法精確度高 。(2)抗干擾能力強(qiáng).。(3)自適應(yīng)能力強(qiáng)。智能算法進(jìn)行諧波分析作為一種新興的諧波分析思路,但是由于智能算法對(duì)于訓(xùn)練樣本的依耐性非常大,算法參數(shù)的設(shè)置對(duì)于整體計(jì)算精度和效率影響非常大,現(xiàn)場(chǎng)應(yīng)用不夠,因此還需作更為深入的探索研究。

注釋:

呂潤(rùn)如. 電力系統(tǒng)高次諧波[M].北京:中國(guó)電力出版社,1998.

危韌勇,李志勇.基于人工神經(jīng)元網(wǎng)絡(luò)的電力系統(tǒng)諧波測(cè)量方法[J]. 電網(wǎng)技術(shù),1999,23(12):20-23.

焦李成.神經(jīng)網(wǎng)絡(luò)計(jì)算[M].西安:西安電子科技大學(xué)出版社,1993.

危韌勇,李志勇,李群湛.一種基于ANN理論的諧波電流動(dòng)態(tài)檢測(cè)方法研究[J]. 鐵道學(xué)報(bào),2000,22(1):40-43.

陳國(guó)良,王熙法,莊鎮(zhèn)泉,王東生.遺傳算法及其應(yīng)用[M].北京:人民郵電出版社,1999.

王小平,曹立民.遺傳算法-理論、應(yīng)用于軟件實(shí)現(xiàn)[M].西安:西安交通大學(xué)出版社,2002.

第4篇：神經(jīng)網(wǎng)絡(luò)的算法范文

關(guān)鍵詞 蟻群優(yōu)化算法 神經(jīng)網(wǎng)絡(luò) 信息素分布函數(shù)

中圖分類號(hào)：TH183 文獻(xiàn)標(biāo)志碼：A

20世紀(jì)90年代初，意大利學(xué)者Dorigo、Maniezzo首先提出了一種新的模擬進(jìn)化算法―蟻群算法，基本的蟻群優(yōu)化算法，主要用于離散的參數(shù)優(yōu)化問題，并已經(jīng)成功的解決了TSP，VRP，QAP，JSP等一些列困難的組合優(yōu)化問題。而神經(jīng)網(wǎng)絡(luò)的的訓(xùn)練是典型的連續(xù)優(yōu)化問題，本文在分析基本的蟻群優(yōu)化算法特點(diǎn)的基礎(chǔ)上，提出一種新的信息素分布方式及其概率分布函數(shù)，將蟻群算法成功的延伸到連續(xù)優(yōu)化的范疇，并且建立了蟻群優(yōu)化算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)的基本模型，克服了傳統(tǒng)BP算法的不足，同時(shí)使得該算法同時(shí)具有蟻群算法的快速全局尋優(yōu)能力和神經(jīng)網(wǎng)絡(luò)的廣泛映射能力。

一、改進(jìn)的蟻群算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)

（一）優(yōu)化模型。

常規(guī)的神經(jīng)網(wǎng)絡(luò)是屬于連續(xù)性優(yōu)化的范疇，其優(yōu)化的目的是從每一個(gè)的參數(shù)的取值范圍中選取一個(gè)具體的值，使得神經(jīng)網(wǎng)絡(luò)的輸出誤差，滿足誤差條件。本文用于連續(xù)優(yōu)化的模型與組合優(yōu)化相似，只是其解空間從離散變量變成了連續(xù)變量的組合。圖1比較直觀地表達(dá)了螞蟻覓食時(shí)路徑的選擇。

其中m表示螞蟻的個(gè)數(shù)，依次從n個(gè)連續(xù)的取值范圍內(nèi)選取一個(gè)值，組成自己的解Sj，其中Xji表示螞蟻在個(gè)元素的取值范圍內(nèi)所選取的具體值。每一個(gè)螞蟻在信息素的影響作用下，依照概率原則，構(gòu)建一組的完整的解。通過螞蟻間的團(tuán)體協(xié)作，構(gòu)建一個(gè)全局最優(yōu)解。

（二）改進(jìn)的蟻群優(yōu)化算法。

1、信息素的分布。理想化的狀態(tài)下，螞蟻對(duì)信息素的感知力不受左右兩側(cè)信息素濃度的影響，但在實(shí)際生活中，這種影響是無法避免的，并且路徑兩側(cè)的螞蟻對(duì)該信息素的感知會(huì)隨著距離的增大而減弱，而且關(guān)于信息素的散發(fā)點(diǎn)是對(duì)稱的。在此模型中考慮這種因素，可以克服常規(guī)蟻群算法易陷入局部最優(yōu)，以及解空間搜索不夠的缺點(diǎn)。

通過比較不難發(fā)現(xiàn)，這種信息素的分布類似于正態(tài)分布，因此可以選擇用正態(tài)分布函數(shù)來表達(dá)信息素的分布函數(shù)：

（1）

其中 為隨即變量的方差，可以通過控制的大小來控制 該路徑上信息素對(duì)周圍區(qū)域的影響程度。圖2比較形象的表達(dá)了信息素的分布形狀與 的關(guān)系：

u=0， 分別取1/2，1，2。

圖2

正態(tài)分布函數(shù)只是決定了信息的分布形狀，反映了某一路徑上的信息素對(duì)兩側(cè)各路徑上螞蟻的影響，螞蟻在選擇路徑時(shí)會(huì)根據(jù)解的質(zhì)量散發(fā)出不同濃度的信息素，依據(jù)神經(jīng)網(wǎng)絡(luò)的優(yōu)化特點(diǎn)，這里采用輸出誤差來描述解的質(zhì)量的比較合適，即釋放出的信息素與解的誤差成反比，可以得出第j只螞蟻在所選取的路徑上所散發(fā)的信息素為：

（2）

上式中，h為一個(gè)常數(shù)；t為樣本的數(shù)量；E（l）為輸出誤差。因?yàn)樗玫降淖顑?yōu)解是針對(duì)所有樣本的，因此輸出誤差應(yīng)取為所有樣本的誤差絕對(duì)值之和。將上式中信息素分布的峰值與函數(shù)的形狀結(jié)合，可得到第j只螞蟻在第i參數(shù)上散發(fā)的信息素濃度公式為：

（3）

式中，Xji為第j只螞蟻在第i個(gè)參數(shù)的取值范圍內(nèi)選取的具體值。

每一只都會(huì)在自己所選取的待優(yōu)化的參數(shù)上散發(fā)信息素，所有的螞蟻散發(fā)完信息素之后，對(duì)每一個(gè)參數(shù)在其整個(gè)取值范圍內(nèi)進(jìn)行求和，可以得出每一個(gè)參數(shù)上的信息素濃度分布函數(shù)：

（4）

式中，kj為螞蟻所選取的解的加權(quán)系數(shù)，該解的質(zhì)量越高，即最終輸出誤差越小，則加權(quán)系數(shù)的值就越大。

2、信息素概率分布函數(shù) 在螞蟻選取路徑的過程中，每一個(gè)參數(shù)被選取的幾率與該參數(shù)上的信息素濃度有關(guān)，信息素濃度越大，則被選取的概率越大，反之，則越小，根據(jù)上文得出的公式，螞蟻按照一下概率分布函數(shù)，依次選擇每一個(gè)參數(shù)的具體值： （5）

該式中，Ximin與Ximax分別為待選取參數(shù)i在其取值范圍內(nèi)的上，下兩個(gè)極值。

（三）優(yōu)化算法的流程。

用改進(jìn)后的蟻群算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的大致過程如下：

（1）建立前向型的神經(jīng)網(wǎng)絡(luò)模型，要包括神經(jīng)網(wǎng)絡(luò)的層數(shù)，每一層的節(jié)點(diǎn)數(shù)，和每一個(gè)待優(yōu)化的權(quán)值的取值范圍以及螞蟻樣本；（2）在算法開始，螞蟻們沒有信息素的指導(dǎo)，從各個(gè)參數(shù)的取值范圍內(nèi)隨機(jī)的選取一個(gè)具體值，從而構(gòu)建去一條路徑；（3）當(dāng)所有的螞蟻完成了解的構(gòu)建之后，輸入樣本根據(jù)式（4）來更新各路徑上信息素，并初始化所有螞蟻的路徑；（4）根據(jù)公式（5）計(jì)算出所有參數(shù)的概率分布函數(shù)，所有螞蟻根據(jù)該函數(shù)，依次從n個(gè)參數(shù)各自的取值范圍內(nèi)選取一個(gè)具體的值，構(gòu)建出一個(gè)完整的解；

重復(fù)執(zhí)行步驟（3）～（5），直到最終輸出誤差滿足終止條件。

二、實(shí)驗(yàn)驗(yàn)證及結(jié)果分析

為了更加直觀的驗(yàn)證該算法的有效性，在這里我們用已知非線性函數(shù)y=3x2e-x對(duì)算法進(jìn)行驗(yàn)證，而神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，我們采用三層前向式神經(jīng)網(wǎng)絡(luò)，共包括輸入層，隱含層，輸出層，三者各有1，10，1個(gè)節(jié)點(diǎn)。

在此實(shí)例中，我們利用上述函數(shù)表達(dá)式，在[0，5]內(nèi)隨機(jī)選取50個(gè)值作為輸入樣本，利用該函數(shù)在樣本上的理論輸出值作為輸出樣本，以該樣本的理論輸出值與神經(jīng)網(wǎng)絡(luò)的實(shí)際輸出值之差的絕對(duì)值，作為需要優(yōu)化的目標(biāo)函數(shù)。

在這里，輸出層的激勵(lì)函數(shù)采用線性函數(shù)：

F（x） = x

隱含層的激勵(lì)函數(shù)采用Sigmoid函數(shù)：

F（x） = （1-e-x）/（1+e-x）

因此，待優(yōu)化的權(quán)值共有31個(gè)，其取值范圍為[-2，2]。

在此實(shí)例中，螞蟻的個(gè)數(shù)設(shè)定為31個(gè)，經(jīng)過螞蟻間的協(xié)作尋優(yōu)，對(duì)神經(jīng)網(wǎng)絡(luò)的權(quán)值不斷優(yōu)化，樣本的平均誤差很快達(dá)到了0.00033。

通過該實(shí)例可以總結(jié)出，只要有足夠多可以利用的，并且具有代表性的樣本，該改進(jìn)后的算法可以用來表達(dá)任何的非線性函數(shù)。同時(shí)，也可以通過修改螞蟻的個(gè)數(shù)和樣本的數(shù)量來控制該算法的魯棒性跟其收斂速度，螞蟻與樣本的數(shù)量越大，該算法的魯棒性就越強(qiáng)，但收斂速度就比較慢；反之，螞蟻樣本的數(shù)量越小，該算法的魯棒性就越差，但是收斂速度較快。

三、結(jié)論

1、本文針對(duì)傳統(tǒng)的蟻群優(yōu)化算法主要用于組合優(yōu)化的特點(diǎn)，將它進(jìn)行了改進(jìn)，將離散的信息素矩陣與概率矩陣延伸為連續(xù)的信息素分布函數(shù)與信息素概率分布函數(shù)，使得該算法可以應(yīng)用至連續(xù)優(yōu)化的范疇，與其他算法相比，該優(yōu)化算法簡(jiǎn)單易懂，容易理解。

2、利用改進(jìn)后的蟻群算法來訓(xùn)練神經(jīng)網(wǎng)絡(luò)的權(quán)值，并給出該算法的具體步驟，用實(shí)例證明了該算法的可行性與有效性。

3、該算法克服了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)算法自身的不足，不僅使其具有神經(jīng)網(wǎng)絡(luò)的廣泛映射能力，還具有了蟻群算法的快速全局尋優(yōu)能力。

（作者：蘭州交通大學(xué)機(jī)電工程學(xué)院在讀碩士研究生，研究方向：虛擬儀器，智能交通系統(tǒng)）

參考文獻(xiàn)：

[1]Dorigo M ， Gambardella L M . Ant colony system ： a cooperative learning approach to the traveling salesman problem.IEEE p.1997（1）：53-66.

[2]楊勇，宋曉峰等.蟻群算法求解連續(xù)空間優(yōu)化問題.控制與決策，2003，18（5）：573-576.

[3]張國(guó)立，王晶等.利用蟻群算法優(yōu)化前向神經(jīng)網(wǎng)絡(luò).電子商務(wù)，2005（18）：65-67.

[4]汪鐳，吳啟迪.蟻群算法在連續(xù)空間尋優(yōu)問題求解中的應(yīng)用.控制與決策，2003，18（1）：45-48.

[5]Maniezzo V ， carbonaro A . An ants heuristic for the frequency assignment problem. Futrue Generation Computer Systems，2000，16：927-935.

第5篇：神經(jīng)網(wǎng)絡(luò)的算法范文

Abstract： The establishment of highway engineering cost estimate model which based on Estimate of distribution network provides technological conditions for fast and efficient cost estimate.At the same time， this study is also a meaningful attempt of construction cost estimate in practical application.

關(guān)鍵詞： 估價(jià)模型；神經(jīng)網(wǎng)絡(luò)；分布估計(jì)算法

Key words： Estimate Model；Neural Network；Estimation of Distribution Algorithm

中圖分類號(hào)：TU71 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1006-4311（2013）08-0105-02

0 引言

公路工程估價(jià)的合理性直接影響著公路工程建設(shè)項(xiàng)目投資決策的正確性，它是公路工程建設(shè)項(xiàng)目可行性研究的重要環(huán)節(jié)，也是建設(shè)項(xiàng)目標(biāo)底編制的控制標(biāo)準(zhǔn)。如何快速、合理地估算工程造價(jià)是關(guān)系到公路工程建設(shè)項(xiàng)目投資決策的重要課題，對(duì)建設(shè)項(xiàng)目成本管理具有重要意義。

本文擬在公路工程建設(shè)項(xiàng)目中建立基于分布估計(jì)神經(jīng)網(wǎng)絡(luò)算法的造價(jià)估算模型。首先對(duì)涉及公路工程造價(jià)的各個(gè)主要特征進(jìn)行定量化描述，然后結(jié)合所建立的分布估計(jì)神經(jīng)網(wǎng)絡(luò)算法模型，運(yùn)用相關(guān)專業(yè)軟件快速估算公路工程造價(jià)。公路工程造價(jià)分布估計(jì)神經(jīng)網(wǎng)絡(luò)算法通過模擬智能決策，快速、合理估算出公路工程造價(jià)，有助于項(xiàng)目決策者做出相對(duì)準(zhǔn)確的投資決策。

1 相關(guān)研究

國(guó)內(nèi)外對(duì)工程造價(jià)估算智能化的研究，大致可以分為三類：

1.1 利用計(jì)算機(jī)模擬技術(shù)建立模型 通過分析、模擬實(shí)際施工過程，對(duì)各分項(xiàng)工程先給出可能造價(jià)的先驗(yàn)概率，可以由計(jì)算機(jī)產(chǎn)生一個(gè)隨機(jī)數(shù)，這個(gè)隨機(jī)數(shù)進(jìn)入到下一個(gè)分項(xiàng)工程當(dāng)中，然后結(jié)合這項(xiàng)工程的先驗(yàn)概率再產(chǎn)生一個(gè)隨機(jī)數(shù)。這些隨機(jī)數(shù)代表每個(gè)分項(xiàng)工程的實(shí)際造價(jià)。以此類推，直到全部分項(xiàng)工程計(jì)算完畢，產(chǎn)生所有分項(xiàng)工程造價(jià)之和作為總的估算造價(jià)。這種模型優(yōu)點(diǎn)是在樣本庫(kù)齊全的前提下估算更符合客觀實(shí)際，缺點(diǎn)是確定先驗(yàn)概率需要大量的已建工程樣本資料，計(jì)算比較繁瑣[1]，而且各分項(xiàng)工程造價(jià)樣本值受工程所在地實(shí)際情況影響較大。

1.2 基于神經(jīng)網(wǎng)絡(luò)技術(shù)的工程造價(jià)估算專家系統(tǒng) 人工神經(jīng)網(wǎng)絡(luò)在工程估價(jià)中的應(yīng)用可分為兩種：一種是基于Hopfield的工程應(yīng)用；另一種是基于BP神經(jīng)網(wǎng)絡(luò)的工程應(yīng)用。Jason Portas等人將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于勞動(dòng)生產(chǎn)力效率預(yù)測(cè)和成本預(yù)測(cè)中建立三層BP結(jié)構(gòu)模型，該模型的輸出不是精確的值而是模糊集[2]，可以較好的應(yīng)用于工程前期造價(jià)估算。許寧[3]采用模糊神經(jīng)網(wǎng)絡(luò)估算工程造價(jià)，采用模糊數(shù)學(xué)中的隸屬函數(shù)來反映工程特征間的差異性，再結(jié)合定性分析和定量分析將工程特征進(jìn)行量化描述后，通過歸一化處理得到隸屬度。劉鵬[4]匯總整理了神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)和不足，提出利用遺傳神經(jīng)網(wǎng)絡(luò)算法快速估算工程造價(jià)的設(shè)想。

1.3 利用模糊數(shù)學(xué)建模 這類模型運(yùn)用模糊數(shù)學(xué)聚類分析技術(shù)和灰色系統(tǒng)理論，引用隸屬度和貼近度等概念建模。但這類造價(jià)估算模型也有尚待商榷之處，未能全面考慮工程造價(jià)動(dòng)態(tài)性的影響，估算精度可信度較低，需要搜集大量已建工程樣本作為基礎(chǔ)數(shù)據(jù)，具有較強(qiáng)的主觀性且估價(jià)速度并不理想。

國(guó)內(nèi)工程造價(jià)估算多采用擴(kuò)大指標(biāo)估算法和概算指標(biāo)估算法。所采用的估算指標(biāo)是由本行業(yè)和地方統(tǒng)一制定，并沒有考慮建設(shè)工程質(zhì)量、實(shí)際管理水平等問題，逐漸難以適應(yīng)市場(chǎng)經(jīng)濟(jì)體制的發(fā)展。國(guó)內(nèi)造價(jià)軟件做得較好的有：廣聯(lián)達(dá)三山軟件、上海神機(jī)妙算、上海魯班算量、同望公路等，現(xiàn)有軟件基本都分屬于工程項(xiàng)目管理類或預(yù)決算類，但是真正將兩者有機(jī)結(jié)合并向前后延伸，有助于實(shí)現(xiàn)工程造價(jià)全生命周期管理的造價(jià)軟件明顯不足。

遺傳、模糊、神經(jīng)網(wǎng)絡(luò)技術(shù)在工程造價(jià)估算中的應(yīng)用相當(dāng)廣泛，目前遺傳算法的主要不足在于：收斂速度較慢且解的精度不高。有關(guān)研究人員提出了一種方法就是分布估計(jì)算法（Estimation of Distribution Algorithms， EDAs）[5]。分布估計(jì)算法與GA的最大區(qū)別在于它們產(chǎn)生后代的方式不同，分布估計(jì)算法不使用GA的重組操作，而是對(duì)解集進(jìn)行分析，從解集中選擇部分好的解集提取信息，利用這些信息建立適當(dāng)?shù)母怕史植迹購(gòu)母怕史植贾羞M(jìn)行抽樣得到下一代。這種方法避免了GA中建筑塊的破壞。本文的研究動(dòng)機(jī)就是在公路工程估價(jià)中引入分布估計(jì)算法的同時(shí)結(jié)合神經(jīng)網(wǎng)絡(luò)來解決工程造價(jià)估算的問題。

2 用于公路工程造價(jià)估算的分布估計(jì)神經(jīng)網(wǎng)絡(luò)算法

分布估計(jì)算法有多種實(shí)現(xiàn)方式，這些算法的區(qū)別主要在于所采用的概率模型和采樣方法；共同點(diǎn)是產(chǎn)生下一代的方式，它們都從解集中選擇好的解集，并從中提取信息，利用這些信息建立合適的概率分布，再?gòu)母怕史植贾谐闃拥玫较乱淮１疚牟捎肬MDA（Univariate marginal distribution algorithm）算法與神經(jīng)網(wǎng)絡(luò)BP算法相結(jié)合[6]，具體算法如下：

算法3.1：分布估計(jì)神經(jīng)網(wǎng)絡(luò)

輸入：訓(xùn)練數(shù)據(jù)集，即擬建項(xiàng)目的特征因素的代表值；

輸出：BP神經(jīng)網(wǎng)絡(luò)估算公路工程造價(jià)；

（1）隨機(jī)初始化種群

P（0）={g1，g2，…，gm}，gi={x1，x2，…，xn}， t=0；

（2）計(jì)算P（0）中個(gè)體的適應(yīng)值；

（3）while（不滿足終止準(zhǔn)則）do

{

①根據(jù)個(gè)體的適應(yīng)值及選擇策略從P（t）中選擇M個(gè)優(yōu)秀解；

②根據(jù)這M個(gè)個(gè)體更新概率向量：

p（x，t+1）=■p（x■，t+1）=■■

其中？啄■（X■=x■）={1，X■=x■；0，其他}

③根據(jù)新的概率向量隨機(jī)采樣，產(chǎn)生下一代種群P’（t）；

④計(jì)算P（t）中個(gè)體的適應(yīng)值；

⑤t=t+1；

}

（4）將所得到的解分解為BP網(wǎng)絡(luò)所對(duì)應(yīng)的權(quán)值和閾值；

（5）運(yùn)行BP，輸出仿真值。

3 實(shí)驗(yàn)結(jié)果比較

本文采用文獻(xiàn)[7]中的影響公路工程造價(jià)和工程量的9種主要特征作為估算模型的輸入，以每公里公路工程單方造價(jià)作為本估算模型的輸出。

當(dāng)以案例中的前13個(gè)樣本進(jìn)行訓(xùn)練，用后4個(gè)樣本作為測(cè)試數(shù)據(jù)時(shí)，經(jīng)過10次運(yùn)算的神經(jīng)網(wǎng)絡(luò)估算模型誤差情況如表1和表2，從表上數(shù)據(jù)可以看出遺傳BP網(wǎng)絡(luò)較分布估計(jì)BP網(wǎng)絡(luò)的單點(diǎn)之間的誤差大，且網(wǎng)絡(luò)震蕩現(xiàn)象頻發(fā)，而經(jīng)過分布估計(jì)算法優(yōu)化改進(jìn)后的BP神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性和容錯(cuò)性能大幅提升；由以上對(duì)比可以看出，改進(jìn)后的BP網(wǎng)絡(luò)在性能上優(yōu)于一般BP網(wǎng)絡(luò)模型，能在降低計(jì)算結(jié)果的平均誤差的同時(shí)大幅提高計(jì)算精度。

4 結(jié)論

針對(duì)公路工程造價(jià)估算問題是工程中一個(gè)非常重要的問題，本文著重論述了如何進(jìn)行公路工程造價(jià)估算，以便得到更為合理的公路工程造價(jià)，并研究了利用分布估計(jì)算法和神經(jīng)網(wǎng)絡(luò)相結(jié)合來解決該問題，實(shí)驗(yàn)結(jié)果表明，本文提出的算法在尋優(yōu)性能上優(yōu)于遺傳神經(jīng)網(wǎng)絡(luò)算法。

參考文獻(xiàn)：

[1]Buchanan JS，Cost models for estimating[M].London： Royal Institution of Chartered Surveyors 1982.

[2]王波，蔣鵬，卿曉霞.人工智能技術(shù)及其在建筑行業(yè)中的應(yīng)用[J].微型機(jī)與應(yīng)用，2004（8）：4-7.

[3]許寧.基于遺傳模糊神經(jīng)網(wǎng)絡(luò)的建筑工程造價(jià)估計(jì)方法[J].江漢石油學(xué)院學(xué)報(bào)，2000，22（1）：87-88.

[4]劉鵬.遺傳神經(jīng)網(wǎng)絡(luò)模式下的工程造價(jià)快速估算研究[J].價(jià)格月刊，2009（6）：15-16.

[5]Larr naga P， Lozano J A. Estimation of Distribution Algorithms[M]. A New Tool for Evolutionary Computation. Boston： Kluwer Academic Publishers， 2002.

[6]陳佳，李敏.用于多維數(shù)據(jù)實(shí)視圖選擇的分布估計(jì)算法[J].計(jì)算機(jī)工程，2012，38（11）：45-47.

[7]景晨光，段曉晨.基于遺傳神經(jīng)網(wǎng)絡(luò)的工程造價(jià)估算方法研究[J].石家莊鐵道大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2010，4（4）：11-17.

[8]周其明，汪淼，任宏.神經(jīng)網(wǎng)絡(luò)集成在工程造價(jià)估算中的應(yīng)用研究[J].重慶交通學(xué)院學(xué)報(bào)，2005（04）.

[9]田原.Matlab語(yǔ)言的Neural Network Toolbox及其在同步中的應(yīng)用[J].現(xiàn)代電子技術(shù)，2008（20）

[10]孫莉，駱漢賓.基于貼近度方法優(yōu)化質(zhì)量事故診斷案例的選擇[J].四川建筑，2007（01）.

[11]鄧煥彬，強(qiáng)茂山，劉可.基于神經(jīng)網(wǎng)絡(luò)的公路工程造價(jià)快速估算方法[J].中南公路工程，2006（03）.

[12]劉浩，白振興.BP網(wǎng)絡(luò)的Matlab實(shí)現(xiàn)及應(yīng)用研究[J].現(xiàn)代電子技術(shù)，2006（02）.

[13]李茂英，曾慶軍.基于神經(jīng)網(wǎng)絡(luò)的公路工程造價(jià)推測(cè)模型[J].廣東交通職業(yè)技術(shù)學(xué)院學(xué)報(bào)，2002（01）.

第6篇：神經(jīng)網(wǎng)絡(luò)的算法范文

關(guān)鍵詞：網(wǎng)絡(luò)擁塞控制；往返延時(shí)； 模糊神經(jīng)網(wǎng)絡(luò)； 智能預(yù)測(cè)

中圖分類號(hào)：TP312 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：16727800（2013）009005303

基金項(xiàng)目：江蘇省高校自然科學(xué)基金項(xiàng)目（13KJB520007）

作者簡(jiǎn)介：張莉（1981-），女，碩士，天津現(xiàn)代職業(yè)技術(shù)學(xué)院講師，研究方向?yàn)檐浖_發(fā)、數(shù)據(jù)庫(kù)應(yīng)用；鄒寬勝（1983-），男，博士，江蘇師范大學(xué)講師，研究方向?yàn)閳D像處理、多媒體檢索。

0引言

RTT作為網(wǎng)絡(luò)擁塞控制的重要參數(shù)，能對(duì)網(wǎng)絡(luò)所發(fā)生的擁塞作出較早的反映。文獻(xiàn)[1]根據(jù)求得的RTT估計(jì)值，提出一種RTT驅(qū)動(dòng)的擁塞控制算法，此算法在實(shí)時(shí)性和網(wǎng)絡(luò)狀態(tài)的震蕩抑制等方面，比基于丟包率的擁塞控制算法有明顯改善。

選取公式（1）來估計(jì)RTT的值：

RTTn+1=RTTn+gE （E=RTTm-RTTn） （1）

其中RTTm為當(dāng)前所測(cè)得的RTT值；RTTn為上一探測(cè)包的平均RTT估值，g∈（0，1]。不同網(wǎng)絡(luò)或同一網(wǎng)絡(luò)的不同時(shí)段對(duì)g的選取有很大影響。文獻(xiàn)[2]針對(duì)可靠組播傳輸，提出了一種基于主動(dòng)式網(wǎng)絡(luò)的往返行程時(shí)間估算策略，可靠組播協(xié)議借助這一策略可以有效地減少網(wǎng)絡(luò)中不必要的控制信息，根據(jù)網(wǎng)絡(luò)環(huán)境可以及時(shí)準(zhǔn)確地確定進(jìn)入網(wǎng)絡(luò)的數(shù)據(jù)包速率，從而提高整個(gè)組播組的吞吐量。RTT預(yù)測(cè)研究目前是一個(gè)熱點(diǎn)問題，對(duì)RTT進(jìn)行精確預(yù)測(cè)很有意義。文獻(xiàn)[3]采用基于波形平滑指數(shù)和波形突變指數(shù)的滑動(dòng)窗口加權(quán)平均RTT估計(jì)算法，對(duì)RTT值進(jìn)行平滑估計(jì)。利用神經(jīng)網(wǎng)絡(luò)對(duì)RTT進(jìn)行了預(yù)測(cè)，達(dá)到了較好的效果。但這僅限于網(wǎng)絡(luò)比較空閑的狀態(tài)下。利用算術(shù)平均濾波和BP網(wǎng)絡(luò)相結(jié)合的辦法，對(duì)RTT進(jìn)行預(yù)測(cè)，在網(wǎng)絡(luò)較擁塞的情況下，預(yù)測(cè)結(jié)果不太理想。這是由于RTT誤差值隨著網(wǎng)絡(luò)負(fù)荷加重時(shí)也會(huì)增加，因?yàn)殛?duì)列延時(shí)和延時(shí)的抖動(dòng)都會(huì)隨著網(wǎng)絡(luò)擁塞程度加重而明顯增加。另外，在網(wǎng)絡(luò)擁塞時(shí)會(huì)導(dǎo)致數(shù)據(jù)包或ACK包丟失，這些都會(huì)導(dǎo)致估計(jì)RTT的難度增加并且估計(jì)出的RTT值也不準(zhǔn)確，出現(xiàn)一些波動(dòng)，導(dǎo)致網(wǎng)絡(luò)有時(shí)出現(xiàn)訓(xùn)練失控狀態(tài)。所以本文采用了低通濾波和MBP網(wǎng)絡(luò)相結(jié)合的預(yù)測(cè)策略。本文主要分析了RTT的特性，發(fā)現(xiàn)其有很強(qiáng)的高頻噪聲，采用低通濾波和MBP網(wǎng)絡(luò)相結(jié)合的RTT預(yù)測(cè)策略。實(shí)驗(yàn)表明，即使在網(wǎng)絡(luò)狀況較忙的情況下，也能獲得很好的預(yù)測(cè)結(jié)果。

1網(wǎng)絡(luò)往返延時(shí)特性

網(wǎng)絡(luò)環(huán)境和網(wǎng)絡(luò)設(shè)備的性能對(duì)數(shù)據(jù)吞吐量影響很大，致使網(wǎng)絡(luò)上的數(shù)據(jù)具有較強(qiáng)的隨機(jī)性，常常表現(xiàn)為短期的高頻噪聲。由于網(wǎng)絡(luò)中兩個(gè)節(jié)點(diǎn)之間的通信數(shù)據(jù)流可以有很多的路徑到達(dá)，如果每個(gè)數(shù)據(jù)包所流經(jīng)的路徑不同， RTT就可能不同；另一方面，即使每個(gè)數(shù)據(jù)包是經(jīng)由相同的路徑到達(dá)目的節(jié)點(diǎn)，但是由于這個(gè)路徑中的網(wǎng)絡(luò)設(shè)備是網(wǎng)絡(luò)共享的，在不同的數(shù)據(jù)包通過時(shí)網(wǎng)絡(luò)設(shè)備所承擔(dān)的數(shù)據(jù)傳送任務(wù)也不會(huì)相同，這就導(dǎo)致RTT也可能不相同，相關(guān)研究結(jié)果的準(zhǔn)確性會(huì)受到這種短期噪聲導(dǎo)致的隨機(jī)性影響。

網(wǎng)絡(luò)狀況和網(wǎng)絡(luò)設(shè)備性能在較長(zhǎng)期內(nèi)的參數(shù)是相對(duì)穩(wěn)定的。由于網(wǎng)絡(luò)數(shù)據(jù)是在隨機(jī)和穩(wěn)定這兩種因素的共同制約下產(chǎn)生的，所以濾波對(duì)于研究網(wǎng)絡(luò)數(shù)據(jù)是必不可少的，因?yàn)榇藭r(shí)我們主要關(guān)注的是網(wǎng)絡(luò)節(jié)點(diǎn)的群體行為給予網(wǎng)絡(luò)數(shù)據(jù)的規(guī)律性。

2RTT數(shù)據(jù)預(yù)處理

低通滑動(dòng)濾波算法的思想為：取a為（0，1）之間的數(shù)據(jù)，則：

本次濾波結(jié)果=（1-a）×本次采樣值+a×上次濾波結(jié)果。它的優(yōu)點(diǎn)在于對(duì)周期性的干擾具有很好的抑制作用，適用于波動(dòng)頻率較高的場(chǎng)合。選取a=0.05。

RTT的測(cè)試實(shí)驗(yàn)是在校園網(wǎng)上進(jìn)行的。源節(jié)點(diǎn)和反饋節(jié)點(diǎn)分別位于天津職業(yè)技術(shù)師范大學(xué)和天津工業(yè)大學(xué)。在實(shí)驗(yàn)中，每隔100ms就發(fā)送200個(gè)10bytes大小的TCP數(shù)據(jù)包，然后記錄發(fā)送時(shí)間和接收返回結(jié)果的時(shí)間，并計(jì)算它們的差值，差值就是RTT。

3基于MBP網(wǎng)絡(luò)的RTT預(yù)測(cè)算法

圖1所示，RTT在網(wǎng)絡(luò)比較忙的時(shí)候，有極強(qiáng)的波動(dòng)性，用BP網(wǎng)絡(luò)作為RTT智能預(yù)測(cè)器，采用低通濾波和BP網(wǎng)絡(luò)相結(jié)合的算法，預(yù)測(cè)曲線有太多毛刺，在RTT值突變更大的情況下，極容易出現(xiàn)失控現(xiàn)象。由于BP網(wǎng)絡(luò)是一種全反傳式的前向網(wǎng)絡(luò)，所以BP網(wǎng)絡(luò)學(xué)習(xí)算法的收斂速度很慢，即只要存在誤差反傳信號(hào)，網(wǎng)絡(luò)所有層的權(quán)值將會(huì)統(tǒng)一修正，這樣就會(huì)拖延學(xué)習(xí)時(shí)間。如果在修正神經(jīng)網(wǎng)絡(luò)的誤差反傳權(quán)值時(shí)增加一個(gè)協(xié)調(diào)器，該協(xié)調(diào)器把全反傳式網(wǎng)絡(luò)變成了局部反傳式網(wǎng)絡(luò)，則可大大提高網(wǎng)絡(luò)學(xué)習(xí)速率。對(duì)網(wǎng)絡(luò)的靈敏度的分析決定了協(xié)調(diào)器的協(xié)調(diào)方法，這里我們選用滑動(dòng)濾波算法和降低網(wǎng)絡(luò)靈敏度的MBP算法相結(jié)合的策略，設(shè)計(jì)新的智能RTT預(yù)測(cè)器。

定理：在網(wǎng)絡(luò)輸入擾動(dòng)、網(wǎng)絡(luò)參數(shù)變化或被辨識(shí)系統(tǒng)參數(shù)變化時(shí)，根據(jù)系統(tǒng)在被辨識(shí)過程中的誤差，動(dòng)態(tài)地控制神經(jīng)網(wǎng)絡(luò)各層權(quán)值，特別是最末一級(jí)隱層到輸出層的權(quán)值矩陣（即輸出層的權(quán)值矩陣）修正，可以使網(wǎng)絡(luò)輸出的均方差快速減小，從而使網(wǎng)絡(luò)靈敏度降低。

所以當(dāng)網(wǎng)絡(luò)參數(shù)變化時(shí)，降低網(wǎng)絡(luò)靈敏度的方法是動(dòng)態(tài)地控制網(wǎng)絡(luò)各層，特別是輸出層的權(quán)值修正。

（1）在BP學(xué)習(xí)算法的基礎(chǔ)上，增加一個(gè)協(xié)調(diào)器放在網(wǎng)絡(luò)的誤差反向傳播信號(hào)線上，用于控制各層權(quán)值的修正。

（2）協(xié)調(diào)器控制網(wǎng)絡(luò)輸出層的權(quán)值陣隨著網(wǎng)絡(luò)的綜合誤差增大而增大。

（3）當(dāng)訓(xùn)練誤差為10%≤|e|

（4）當(dāng)訓(xùn)練誤差|e|

通過這種BP網(wǎng)絡(luò)改進(jìn)算法，動(dòng)態(tài)地將全局反向傳播式網(wǎng)絡(luò)變成局部反傳式網(wǎng)絡(luò)，可以使網(wǎng)絡(luò)學(xué)習(xí)速率大大提高，降低了網(wǎng)絡(luò)的靈敏度。

4預(yù)測(cè)模型

由于測(cè)試的RTT數(shù)據(jù)序列是按時(shí)間順序排列的，它們之間這種統(tǒng)計(jì)意義上的關(guān)系不好用確定的函數(shù)或方程組來描述。

在用神經(jīng)網(wǎng)絡(luò)對(duì)RTT進(jìn)行預(yù)測(cè)時(shí)，通常的做法是在已掌握的樣本數(shù)據(jù)之上對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。假如希望用過去掌握的N（N≥1）個(gè)數(shù)據(jù)去預(yù)測(cè)未來的M（M≥1）個(gè)數(shù)據(jù)，也就是進(jìn)行M步預(yù)測(cè)，取N個(gè)相鄰的樣本為滑動(dòng)窗，并將它們映射為M個(gè)值。如表1所示，該表把訓(xùn)練數(shù)據(jù)分成K段長(zhǎng)度為（N+M）而且有一定重疊的數(shù)據(jù)段，每一段的前N個(gè)數(shù)據(jù)作為網(wǎng)絡(luò)的輸入，后M個(gè)數(shù)據(jù)作為網(wǎng)絡(luò)的輸出。

5實(shí)驗(yàn)結(jié)果

在本次實(shí)驗(yàn)中，選擇的網(wǎng)絡(luò)訓(xùn)練樣本是前140個(gè)RTT數(shù)據(jù)，其中每5個(gè)數(shù)據(jù)一組，作為神經(jīng)網(wǎng)絡(luò)的輸入向量，第6個(gè)數(shù)據(jù)作為目標(biāo)向量，即取N=5，M=1，這樣可以得到135組訓(xùn)練樣本。網(wǎng)絡(luò)的測(cè)試樣本用136～200之間的數(shù)據(jù)。

6結(jié)語(yǔ)

本文采用低通濾波和MBP網(wǎng)絡(luò)結(jié)合的算法對(duì)RTT進(jìn)行預(yù)測(cè)，得到了不錯(cuò)的結(jié)果。即使在網(wǎng)絡(luò)比較忙的情況下，也可以使預(yù)測(cè)結(jié)果達(dá)到比較滿意的程度。由于程序運(yùn)行開始， RTT存在一個(gè)低通濾波的過程，會(huì)有一些短期的振蕩，但這并不影響算法的有效性。

參考文獻(xiàn)：

[1]洪奕光， 程代展. 非線性系統(tǒng)的分析與控制[M].北京：科學(xué)出版社， 2005.

第7篇：神經(jīng)網(wǎng)絡(luò)的算法范文

關(guān)鍵詞： 灰霾； 肺結(jié)節(jié)； 圖像處理； CAD； BP神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào)：TP391.7 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：1006-8228（2014）10-24-03

Research of lung nodules detection algorithm based on BPNN

Zhong Mingxia， Jiang Bojun

（Zhejiang Vocational College of Commerce， Hangzhou， Zhejiang 310053， China）

Abstract： Through long-term monitoring， the incidence of lung cancer has increased to four times higher than the past. The weather experts conclude that the grey haze is the prime cause of high incidence of lung cancer， especially in cities. It is important to early diagnose lung cancer. This project will use the computer image processing technology to detect early lung cancer markers， lung nodules， to improve the accuracy in diagnosis of lung cancer， at the same time can reduce the workload of doctors. A CAD system is designed. The detection of lung nodules are realized by four steps： lung parenchyma segmentation， interested area （ROI） extraction， feature extracting and calculating， lung nodule detection.

Key words： grey haze； lung nodules； image processing； CAD； the BP neural network

0 引言

根據(jù)2014年全國(guó)腫瘤登記中心的《2013年中國(guó)腫瘤登記年報(bào)》[1]中，居全國(guó)惡性腫瘤發(fā)病第一位的是肺癌，居全國(guó)惡性腫瘤死亡第一位的仍是肺癌。曾在2011年11月，廣州氣象專家吳兌經(jīng)過多年研究發(fā)現(xiàn)，廣州的灰霾天數(shù)增加與肺癌發(fā)生率兩者的變化曲線相當(dāng)吻合，有力地證明了在高污染的大城市中（如廣州），空氣質(zhì)量下降和肺癌之間的關(guān)系[2]。研究數(shù)據(jù)證明，隨著近年來大力推行控?zé)熣撸覈?guó)吸煙率已呈現(xiàn)小幅下降趨勢(shì)，已經(jīng)不足以成為肺癌的主要?dú)⑹郑?dāng)前以PM2.5為主的灰霾空氣污染已成為肺癌高發(fā)的最重要誘因。

1 肺癌早期標(biāo)志物及CT檢測(cè)

肺癌和所有癌癥一樣，早期診斷是治療的關(guān)鍵，提倡“早發(fā)現(xiàn)，早治療”。肺癌早期一般表現(xiàn)為肺癌影像出現(xiàn)直徑小于3cm而大于3mm的長(zhǎng)在肺實(shí)質(zhì)區(qū)域內(nèi)的類球形病灶，臨床上把它叫做肺結(jié)節(jié)[3]。因此，肺癌的早期診斷最終歸結(jié)為對(duì)肺結(jié)節(jié)的檢測(cè)上面。

肺結(jié)節(jié)的檢測(cè)方法有X線胸片檢測(cè)和CT檢測(cè)兩種。使用CT檢測(cè)肺結(jié)節(jié)顯著優(yōu)于X線胸片，與傳統(tǒng)的胸部X光片相比，CT表現(xiàn)出了更加卓越的靈敏度，直徑小于1cm的小結(jié)節(jié)易被X線胸片遺漏，CT檢出肺結(jié)節(jié)的概率可為X線胸片的8倍。在大型醫(yī)院中，每天要接待幾百名甚至近千名需要做CT掃描的病患，每套CT片數(shù)量大約在20至40張左右不等。在視覺上分辨肺結(jié)節(jié)的過程中，經(jīng)常會(huì)被CT中突起狀的血管混淆[4]，區(qū)分這兩者需要醫(yī)生人工在大量多重CT片及容積分析中來判別，這個(gè)過程可能導(dǎo)致人眼疲勞和分心，尤其可能還存在其他病變的干擾，難免存在誤診和漏診的情況。而且，假陽(yáng)性結(jié)節(jié)的檢測(cè)可能導(dǎo)致增加花費(fèi)，給患者帶來焦慮感甚至給沒有肺癌的患者增加負(fù)擔(dān)。

2 CAD檢測(cè)系統(tǒng)設(shè)計(jì)

本項(xiàng)目旨在利用計(jì)算機(jī)圖像處理技術(shù)，設(shè)計(jì)一個(gè)肺結(jié)節(jié)CAD系統(tǒng)，用于檢測(cè)肺癌標(biāo)志物――肺結(jié)節(jié)，從而提高肺癌診斷的準(zhǔn)確率，同時(shí)減輕醫(yī)生的工作量。

該系統(tǒng)嘗試通過四個(gè)步驟實(shí)現(xiàn)肺結(jié)節(jié)的檢測(cè)：肺實(shí)質(zhì)分割、感興趣區(qū)（ROI）的提取、特征的提取與計(jì)算、肺結(jié)節(jié)檢測(cè)。CAD檢測(cè)系統(tǒng)流程圖如圖1所示。

[感興趣區(qū)

（ROI）的提取][CT影像] [肺實(shí)質(zhì)分割][特征的提取

與計(jì)算][肺結(jié)節(jié)檢測(cè)][輸出標(biāo)注過肺結(jié)點(diǎn)

區(qū)域的CT圖像]

圖1 CAD系統(tǒng)檢測(cè)流程圖

2.1 肺實(shí)質(zhì)分割

以一幅CT圖像為例，肺實(shí)質(zhì)分割和提取過程如圖2和圖3所示，其中主要的分割算法包括數(shù)學(xué)形態(tài)學(xué)操作、閾值分割以及區(qū)域生長(zhǎng)法等圖像處理技術(shù)。

（a） 原始CT圖像 （b） 提取軀干輪廓 （c） 去除氣管干擾

圖2 CT圖像預(yù)處理

（a） 原始CT圖像 （b） 8鄰域形態(tài)學(xué)輪廓提取

（c） 軀干模板 （d） 模板內(nèi)部區(qū)域 （e） 肺實(shí)質(zhì)

圖3 肺實(shí)質(zhì)提取過程

2.2 感興趣區(qū)（ROI）的提取

在圖像處理領(lǐng)域，感興趣區(qū)域（ROI）是從圖像中選擇的一個(gè)圖像區(qū)域，這個(gè)區(qū)域是圖像分析所關(guān)注的重點(diǎn)，也就是醫(yī)生真正關(guān)注的內(nèi)容[5]。在這一步驟中將圈定ROI區(qū)域，剔除圖像中無關(guān)部分，之后的處理操作均是針對(duì)該ROI區(qū)域，這樣可以減少處理時(shí)間，增加檢測(cè)精度。這部分實(shí)驗(yàn)的輸入圖是經(jīng)過上一步處理后提取出的肺實(shí)質(zhì)圖像。為了盡可能不發(fā)生漏檢情況，該步驟采用基于數(shù)學(xué)Hessian矩陣的圓點(diǎn)濾波器進(jìn)行檢測(cè)，自適應(yīng)地選取 ROI。以圖像為例，數(shù)學(xué)Hessian矩陣的圓點(diǎn)濾波器檢測(cè)結(jié)果如圖4所示。

（a） 上一步得到的肺實(shí)質(zhì)圖像 （b） Hessian矩陣檢測(cè)結(jié)果 （c） 標(biāo)注ROI區(qū)域

圖4 提取ROI區(qū)域

2.3 特征提取與計(jì)算

在上一個(gè)步驟中雖然標(biāo)注出了ROI區(qū)域，但這些區(qū)域并不單單只是肺結(jié)節(jié)，肺氣管內(nèi)的軟組織和血管可能與肺結(jié)節(jié)重疊，在圖像處理后表現(xiàn)出一樣的高亮度效果，所以上一步完成后仍然有很多肺結(jié)節(jié)的假陽(yáng)性（FP，false positive）存在。所以需要分類處理，分類識(shí)別的關(guān)鍵是提取特征，特征的形成是分類識(shí)別的關(guān)鍵，這些特征必須有足夠的區(qū)別肺結(jié)節(jié)（肺癌標(biāo)志物）和非結(jié)節(jié)（組織或血管等）的能力。

表1 對(duì)檢測(cè)區(qū)域提取的特征

[特征內(nèi)容＼&特征＼&特征描述＼&視覺特征＼&圓形度＼&特征反映了目標(biāo)接近圓形的程度＼&緊湊度＼&描述區(qū)域特征＼&一致性＼&當(dāng)所有灰度值相等時(shí)，該度量最大并從此處開始減小＼&平滑度＼&區(qū)域中亮度的相對(duì)平滑度度量 ＼&曲率＼&邊界曲率＼&邊界不規(guī)則度＼&邊界點(diǎn)到重心距離的關(guān)系＼&統(tǒng)計(jì)特征＼&方差＼&平均亮度度量＼&最大值＼&＼&最小值＼&＼&三階矩＼&平均對(duì)比度度量＼&不變矩＼&均值的三階矩，度量直方圖的偏斜＼&變換系數(shù)特征＼&傅立葉描述子＼&對(duì)平移、縮放、鏡像和旋轉(zhuǎn)都不敏感的7個(gè)不變矩＼&]

2.4 肺結(jié)節(jié)檢測(cè)

接下去采用BP神經(jīng)網(wǎng)絡(luò)分類器進(jìn)行特征優(yōu)化與肺結(jié)節(jié)的檢測(cè)，網(wǎng)絡(luò)通常采用三層結(jié)構(gòu)，如圖5所示。

[誤差反向傳播] [輸入層][隱含層][輸出層][信息正向傳播][V][W] [x1][xi][xn][i][n][q][m][j][z1][zk][zq][y1][yj][ym]

圖5 3層BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

在BP神經(jīng)網(wǎng)絡(luò)中我們將使用上一步中的特征向量作為輸入層數(shù)據(jù)進(jìn)行分類測(cè)試，但輸入之前必須先采用主分量分析算法（PCA）對(duì)原始特征進(jìn)行優(yōu)化。PCA算法在保留原始數(shù)據(jù)所有信息的基礎(chǔ)上對(duì)數(shù)據(jù)源進(jìn)行降維處理，這樣可以克服傳統(tǒng)的特征選擇單純刪除原始數(shù)據(jù)某些維數(shù)所帶來的信息量不全的缺陷，從而提高神經(jīng)網(wǎng)絡(luò)的分類能力。采用PCA算法后優(yōu)化后的特征向量包括八個(gè)，如表2所示。

接下來，在BP神經(jīng)網(wǎng)絡(luò)中使用表2征向量作為輸入層數(shù)據(jù)進(jìn)行分類測(cè)試，比較各類特征向量的分類能力。從含有結(jié)節(jié)的圖像中提取32像素*32像素的結(jié)節(jié)區(qū)域，為了增加樣本數(shù)，將每個(gè)結(jié)節(jié)區(qū)域分別按順時(shí)針旋轉(zhuǎn)90度、180度、270度，得到三個(gè)新的區(qū)域作為訓(xùn)練樣本，這樣共有256個(gè)訓(xùn)練樣本，按16×16的結(jié)構(gòu)組成512×512像素大小的訓(xùn)練樣本圖像，用于網(wǎng)絡(luò)訓(xùn)練。網(wǎng)絡(luò)的輸出介于0～1之間，當(dāng)輸出值大于0.5時(shí)認(rèn)為是結(jié)節(jié)，否則認(rèn)為是血管。

仍然以同樣的CT圖像為例，BP神經(jīng)網(wǎng)絡(luò)分類結(jié)果如圖6所示，其中圖6（a）表示原始CT圖像，圖6（b）表示上一步中標(biāo)注的ROI區(qū)域（包含組織或血管），圖6（c）表示神經(jīng)網(wǎng)絡(luò)分類后的肺結(jié)節(jié)（剔除假陽(yáng)性），圖6（d）表示在CT源圖像上標(biāo)記肺結(jié)節(jié)。

3 結(jié)束語(yǔ)

本項(xiàng)目研究如何設(shè)計(jì)一個(gè)可靠的計(jì)算機(jī)輔助診斷系統(tǒng)，采用圖像處理算法將肺部CT影像進(jìn)行計(jì)算處理，分割出肺癌標(biāo)志物――肺結(jié)節(jié)，從而檢測(cè)肺癌的早期病變，幫助放射科專家或相關(guān)行業(yè)醫(yī)生快速的作醫(yī)學(xué)診斷，提高效率。該研究成果可用于開發(fā)計(jì)算機(jī)輔助診斷系統(tǒng)，作為開發(fā)人員的參考資料。如果能將這種計(jì)算機(jī)輔助檢測(cè)系統(tǒng)引進(jìn)到實(shí)際應(yīng)用或臨床醫(yī)療中，以此作為檢測(cè)早期病變的輔助手段，會(huì)有巨大的市場(chǎng)潛力，且意義重大。

參考文獻(xiàn)：

[1] 2013中國(guó)腫瘤登記年報(bào)[R].全國(guó)腫瘤登記中心，2014.4.

[2]吳兌.中國(guó)灰霾天氣研究10周年記[J].環(huán)境科學(xué)學(xué)報(bào)，2012.32（2）：

257-269

[3] 田捷等著.醫(yī)學(xué)影像處理與分析[M].電子工業(yè)出版社，2003.

[4] 聶生東，鄭斌，李雯.CT圖像肺結(jié)節(jié)計(jì)算機(jī)輔助檢測(cè)與分類系統(tǒng)設(shè)計(jì)[J].

系統(tǒng)仿真學(xué)報(bào)，2007.19（5）：935-944

第8篇：神經(jīng)網(wǎng)絡(luò)的算法范文

關(guān)鍵詞:足球機(jī)器人;神經(jīng)網(wǎng)絡(luò);PID;運(yùn)動(dòng)控制

中圖分類號(hào):TP

文獻(xiàn)標(biāo)識(shí)碼:A

文章編號(hào):1672-3198(2010)12-0292-01

1 基于BP神經(jīng)網(wǎng)絡(luò)參數(shù)整定的PID控制器仿真

仿真的一項(xiàng)重要內(nèi)容就是神經(jīng)網(wǎng)絡(luò)初始權(quán)值的確定。我們可知隱含層節(jié)點(diǎn)的輸入為ui=∑4wijxj在計(jì)算中常用兩個(gè)矩陣來表示。輸入矩陣,輸出矩陣,輸入層至隱含層和隱含層至輸出層權(quán)值矩陣。初始權(quán)值矩陣選取是關(guān)鍵之一,其決定最終優(yōu)化效果,但是權(quán)值初始化非常困難,一般采用的方法是隨機(jī)生成初始權(quán)值矩陣,進(jìn)行仿真,取仿真效果較好的幾組隨機(jī)初始矩陣值。此法隨機(jī)性較大,需要通過輸入不同目標(biāo)點(diǎn)進(jìn)行檢測(cè),取得仿真效果較好(多數(shù)樣本有效)的一組作為初始矩陣。但此法還是有一定缺陷,只能局部目標(biāo)點(diǎn)可以采用。為了獲得良好控制效果,這里對(duì)PID控制器進(jìn)行簡(jiǎn)單改進(jìn)。將PID控制器的偏差量error(k),error(k-1)(上次誤差),error(k-2)(前次誤差)全部進(jìn)行預(yù)處理,即同時(shí)除以第一次誤差d1。然后按神經(jīng)網(wǎng)絡(luò)輸出的PID參數(shù)原值進(jìn)行計(jì)算,得到輸出。

2 基于BP神經(jīng)網(wǎng)絡(luò)參數(shù)整定的PID控制器設(shè)計(jì)改進(jìn)

通過研究,在能到達(dá)目標(biāo)點(diǎn)的前提下,機(jī)器人的速度曲線理想情況下應(yīng)該要使啟動(dòng)平穩(wěn),在增量PID中若初始?jí)旱洼敵?即經(jīng)過一段距離后,控制器輸出才到達(dá)最大值,距離長(zhǎng)短由角度控制器決定),隨時(shí)間累積到達(dá)一定值時(shí)被控對(duì)象輸入為最大值,最大值持續(xù)輸出一段距離后,被控對(duì)象輸入開始下降,使被控對(duì)象輸出下降到一定的可控范圍內(nèi)。此時(shí),PID控制器中隨時(shí)間累積的項(xiàng)就是積分項(xiàng)。但積分作用初始很強(qiáng),所以初始速度過猛,這就需要減弱微分作用的靈敏度,于是本文就采用不完全微分控制算法,來達(dá)到此改進(jìn)目的。不完全微分控制算法的作用就是減弱初始一段時(shí)間的積分作用,將其作用延后,即如上圖所示,中間段速度持續(xù)最大值。

這里改進(jìn)后控制器輸出為:u(k)=a×u(k-1)+(1-a)×du(k)。

3 PID控制器與基于BP神經(jīng)網(wǎng)絡(luò)整定的控制器的仿真對(duì)比

下面,通過與P控制比較來分析基于神經(jīng)網(wǎng)絡(luò)整定的PID調(diào)節(jié)的優(yōu)點(diǎn)。為了便于設(shè)計(jì)和調(diào)節(jié),在此簡(jiǎn)化PID控制器為P控制器,即v=k1×Ed,w=k2×Er。進(jìn)行仿真對(duì)比,這里針對(duì)一般目標(biāo)點(diǎn)(1000,5000),兩個(gè)特殊目標(biāo)點(diǎn)(10000,50)、(50,10000)三個(gè)點(diǎn)進(jìn)行檢測(cè)。對(duì)比例系數(shù)調(diào)節(jié)過程遵循兩個(gè)原則:

(1)末端可控(即末態(tài)速度在下一階段開始時(shí)的速度可控范圍內(nèi));

(2)在規(guī)定時(shí)間內(nèi)到達(dá)目標(biāo)點(diǎn)。接下來就是根據(jù)快速性和平穩(wěn)性優(yōu)化參數(shù)。在此我們不妨觀察目標(biāo)點(diǎn)為(10000,50)時(shí)兩者的對(duì)比圖。其中(k1=0.67,k2=15),

圖1 目標(biāo)點(diǎn)為(10000,50)的PID控制器仿真

圖2 目標(biāo)點(diǎn)為(10000,50)改進(jìn)后的神經(jīng)網(wǎng)絡(luò)控制器仿真

圖1 目標(biāo)點(diǎn)為(10000,50)改進(jìn)后的神經(jīng)網(wǎng)絡(luò)控制器仿真(the simulation of improved neural network controller on target point(10000,50))

通過上面P控制器和基于BP神經(jīng)網(wǎng)絡(luò)的PID控制的仿真的比較,可以看出,改進(jìn)后的控制效果明顯優(yōu)化了很多,初始速度有一段上升時(shí)間,可見控制器的輸出被壓低取得明顯效果,并且能保證大的輸出持續(xù)一段時(shí)間(積分作用有效),最后輸出下降,有利于下一階段控制。這是控制器進(jìn)行不完全積分后取得的好效果。本次設(shè)計(jì)的控制器PID參數(shù)是實(shí)時(shí)在線進(jìn)行優(yōu)化的,所以每次PID參數(shù)都在改變,有利于實(shí)時(shí)跟蹤輸入信號(hào),達(dá)到優(yōu)化控制的目的。

參考文獻(xiàn)

第9篇：神經(jīng)網(wǎng)絡(luò)的算法范文

關(guān)鍵詞： 模擬電路； 特征選擇； 故障診斷； 神經(jīng)網(wǎng)絡(luò)； 粒子群算法

中圖分類號(hào)： TN710.4?34； TP183 文獻(xiàn)標(biāo)識(shí)碼： A 文章編號(hào)： 1004?373X（2016）19?0140?04

Abstract： The analog circuit is influenced by its characteristics and external environment， and its fault is non?linear and time?varying. The available fault diagnosis models of analog circuit are difficult to solve the match problem of features and classifier parameters， an analog circuit fault diagnosis model based on particle swarm algorithm optimizing feature and neural network is presented. The current situations of analog circuit fault diagnosis are analyzed， and their shortcomings are pointed out. The features of analog circuit fault diagnosis are extracted. The neural network is used as the classifier of analog circuit fault diagnosis. The analog circuit fault features and neural network parameters are optimized with particle swarm optimization， and simula?ted with Matlab 2012. The results show that the performance of the proposed model is superior to that of other reference models， and has wide application prospects.

Keywords： analog circuit； feature selection； fault diagnosis； neural network； particle swarm optimization

0 引 言

當(dāng)前電網(wǎng)系統(tǒng)規(guī)模不斷增大，各種電路越來越復(fù)雜，電路出現(xiàn)故障的概率急劇上升，相對(duì)于數(shù)字電路，模擬電路工作環(huán)境更加復(fù)雜，再加上自身特性，模擬電路故障診斷具有更加重要的實(shí)際應(yīng)用價(jià)值，一直是電網(wǎng)系統(tǒng)研究中的重點(diǎn)[1]。

國(guó)內(nèi)外學(xué)者對(duì)模擬電路故障診斷進(jìn)行了相應(yīng)的探索和研究，提出了許多有效的模擬電路故障診斷模型[2]。當(dāng)前模擬電路故障方法主要分為傳統(tǒng)模型和現(xiàn)代模型兩類方法，傳統(tǒng)模型主要有專家系統(tǒng)與灰色理論等[3?4]，屬于線性的模擬電路故障診斷模型，對(duì)小規(guī)模模擬電路故障診斷效果好，但對(duì)于大規(guī)模的模擬電路，建模效率低，同時(shí)由于模擬電路工作狀態(tài)與特征間是一種復(fù)雜的非線性關(guān)系，傳統(tǒng)模型無法描述其變化特點(diǎn)，故障診斷正確率急劇下降，難以滿足模擬電路故障診斷的實(shí)際應(yīng)用要求[5]。現(xiàn)代模型基于非線性理論進(jìn)行模擬電路故障診斷建模，主要有神經(jīng)網(wǎng)絡(luò)與支持向量機(jī)等[6?7]，現(xiàn)代模型通過自適應(yīng)學(xué)習(xí)擬合電路工作狀態(tài)與特征間的非線性關(guān)系，成為當(dāng)前模擬電路故障診斷的主要研究方向，其中支持向量機(jī)的訓(xùn)練過程相當(dāng)耗時(shí)，很難滿足模擬電路的故障診斷要求，應(yīng)用范圍受到一定的限制[8]。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速度要快于支持向量機(jī)，且模擬電路故障診斷結(jié)果不錯(cuò)，尤其是BP神經(jīng)網(wǎng)絡(luò)進(jìn)行故障診斷時(shí)，速度較快，應(yīng)用最為廣泛[9]。BP神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷結(jié)果與參數(shù)相關(guān)，如參數(shù)選擇不當(dāng)，則會(huì)導(dǎo)致模擬電路故障診斷性能下降[10]。模擬電路的狀態(tài)特征同時(shí)亦與診斷結(jié)果密切相關(guān)，然而當(dāng)前模擬電路故障診斷模型將神經(jīng)網(wǎng)絡(luò)參數(shù)與特征選擇問題分開考慮，完全割裂了兩者之間的關(guān)系，無法構(gòu)建高準(zhǔn)確率的模擬電路故障診斷模型[11]。

針對(duì)當(dāng)前模擬電路故障診斷中的特征和神經(jīng)網(wǎng)絡(luò)參數(shù)不匹配的問題，提出一種粒子群算法選擇特征和神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷模型（PSO?BPNN）。在Matlab 2012平臺(tái)進(jìn)行了仿真實(shí)驗(yàn)。結(jié)果表明，本文提出模型的模擬電路故障診斷性能要遠(yuǎn)遠(yuǎn)優(yōu)于其他參比模型。

1 相關(guān)理論

1.1 模擬電路工作狀態(tài)的特征提取

Step3：更新慣性權(quán)重，調(diào)整粒子的飛行速度和位置，產(chǎn)生新的粒子群。

Step4：若達(dá)到了結(jié)束條件，就可以得到模擬電路故障診斷的最優(yōu)特征子集和最合理的BP神經(jīng)網(wǎng)絡(luò)參數(shù)。

Step5：建立模擬電路故障診斷模型，并對(duì)待檢測(cè)的模擬電路故障進(jìn)行檢測(cè)，根據(jù)檢測(cè)結(jié)果采取相應(yīng)的措施。

3 結(jié)果與分析

為了分析PSO?BPNN的模擬電路故障診斷性能，采用圖2的模擬電路進(jìn)行仿真實(shí)驗(yàn)，在Matlab 2012平臺(tái)下進(jìn)行編程實(shí)現(xiàn)PSO?BPNN，模擬電路故障診斷參比模型為：

（1） 原始模擬電路故障診斷特征，BP神經(jīng)網(wǎng)絡(luò)參數(shù)隨機(jī)確定的模擬電路故障診斷模型（BPNN1）；

（2） 原始模擬電路故障診斷特征，粒子群算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)參數(shù)的模擬電路故障診斷模型（BPNN2）；

（3） 粒子群算法選擇模擬電路故障診斷特征，然后隨機(jī)確定BP神經(jīng)網(wǎng)絡(luò)參數(shù)的模擬電路故障診斷模型（BPNN3）。

共收集100個(gè)模擬電路故障診斷的訓(xùn)練樣本，50個(gè)模擬電路故障診斷測(cè)試樣本，采用PSO?BPNN對(duì)訓(xùn)練樣本進(jìn)行學(xué)習(xí)，所有模型都運(yùn)行100次，然后統(tǒng)計(jì)測(cè)試樣本的實(shí)驗(yàn)結(jié)果，其平均診斷率和誤診率如圖3，圖4所示，對(duì)圖3，圖4的模擬電路故障診斷結(jié)果進(jìn)行對(duì)比和分析，可以得到如下結(jié)論：

（1） 與BPNN1的實(shí)驗(yàn)結(jié)果相比較可以發(fā)現(xiàn)，BPNN2獲得了更優(yōu)的模擬電路故障診斷結(jié)果，因?yàn)锽PNN2采用粒子群算法優(yōu)化了BP神經(jīng)網(wǎng)絡(luò)參數(shù)，使得模擬電路故障診斷率更高，這表明BP神經(jīng)網(wǎng)絡(luò)參數(shù)會(huì)影響模擬電路故障診斷的結(jié)果。

（2） BPNN3的模擬電路故障診斷也要優(yōu)于BPNN1，這是由于粒子群算法對(duì)模擬電路故障特征進(jìn)行了選擇和優(yōu)化，得到了對(duì)電路故障診斷結(jié)果有重要作用的特征子集。

（3） 在所有模擬電路故障診斷模型中，PSO?BPNN的模擬電路故障診斷率最高，誤診率得到了降低，這是由于BPNN2和BPNN3只從一個(gè)方面對(duì)特征或者BP神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行了優(yōu)化，沒有同時(shí)對(duì)它們進(jìn)行優(yōu)化，因此不可能建立性能優(yōu)異的模擬電路故障診斷模型，而PSO?BPNN同時(shí)從特征和BP神經(jīng)網(wǎng)絡(luò)參數(shù)兩個(gè)方面進(jìn)行優(yōu)化，因而能夠獲得更加理想的模擬電路故障診斷結(jié)果。

4 結(jié) 語(yǔ)

傳統(tǒng)模擬電路故障診斷模型僅對(duì)特征或者BP神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行優(yōu)化，易出現(xiàn)特征和分類器參數(shù)不匹配的問題，為此提出基于PSO?BPNN的模擬電路故障診斷模型，首先根據(jù)Volterra級(jí)數(shù)提取模擬電路工作狀態(tài)的特征，然后采用BP神經(jīng)網(wǎng)絡(luò)作為模擬電路故障分類器，并利用粒子群算法優(yōu)化特征和BP神經(jīng)網(wǎng)絡(luò)參數(shù)，最后進(jìn)行仿真實(shí)驗(yàn)，仿真結(jié)果表明，PSO?BPNN解決了當(dāng)前模擬電路故障診斷模型存在的局限性，獲得了更高的模擬電路故障診斷率，在模擬電路故障診斷中具有廣泛的應(yīng)用前景。

參考文獻(xiàn)

[1] 朱大奇.電子設(shè)備故障診斷原理與實(shí)踐[M].北京：電子工業(yè)出版社，2008.

[2] 陳圣儉，洪炳熔，王月芳，等.可診斷容差模擬電路軟故障的新故障字典法[J].電子學(xué)報(bào)，2006，4（2）：129?136.

[3] 金瑜，陳光福，劉紅.基于小波神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷[J].儀器儀表學(xué)報(bào)，2007，28（9）：1600?1604.

[4] 劉本德，胡昌華，蔡艷寧.基于聚類和SVM多分類的容差模擬電路故障診斷[J].系統(tǒng)仿真學(xué)報(bào)，2009，21（20）：6479?6482.

[5] 黃潔，何怡剛.模擬電路故障診斷的發(fā)展現(xiàn)狀與展望[J].微電子學(xué)，2004，34（1）：21?25.

[6] 彭敏放，何怡剛，王耀南.模擬電路的融合智能故障診斷[J].中國(guó)電機(jī)工程學(xué)報(bào)，2006，26（3）：19?24.

[7] 張超杰，賀國(guó)，梁述海.小波變換與主元分析相結(jié)合的模擬電路檢測(cè)方法[J].哈爾濱工程大學(xué)學(xué)報(bào)，2010，31（5）：570?575.

[8] 劉美容，何怡剛，方葛豐，等.遺傳小波神經(jīng)網(wǎng)絡(luò)在模擬電路故障診斷中的應(yīng)用[J].湖南大學(xué)學(xué)報(bào)，2009，36（3）：40?44.

[9] 申宇皓，孟晨，張磊，等.基于同步優(yōu)化的支持向量機(jī)模擬電路故障診斷方法研究[J].太原理工大學(xué)學(xué)報(bào)，2010，41（4）：420?424.

[10] 胡清，王榮杰，詹宜巨.基于支持向量機(jī)的電力電子電路故障診斷技術(shù)[J].中國(guó)電機(jī)工程學(xué)報(bào)，2008，28（12）：107?111.

[11] 王承，葉韻，梁海浪，等.基于多頻測(cè)試和神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷[J].計(jì)算機(jī)工程與應(yīng)用，2013，49（5）：1?3.