神經(jīng)網(wǎng)絡(luò)回歸算法精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)回歸算法主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經(jīng)網(wǎng)絡(luò)回歸算法范文

【關(guān)鍵詞】粒子群算法；神經(jīng)網(wǎng)絡(luò)模型；股票預(yù)測(cè)

一、引言

廣義回歸神經(jīng)網(wǎng)絡(luò)（簡(jiǎn)稱GRNN神經(jīng)網(wǎng)絡(luò)）是一種基于非線性回歸理論的前饋式神經(jīng)網(wǎng)絡(luò)模型，具有局部非線性逼近能力強(qiáng)、收斂速度快等特點(diǎn)，是股票預(yù)測(cè)中常用的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)之一.由于平滑因子對(duì)網(wǎng)絡(luò)的性能影響比較大，需要不斷嘗試才能獲得最佳值.本文采用粒子群算法優(yōu)化GRNN神經(jīng)網(wǎng)絡(luò)，通過自動(dòng)調(diào)整連接權(quán)值及平滑因子，使結(jié)果達(dá)到最優(yōu)，建立了PSO-GRNN神經(jīng)網(wǎng)絡(luò)模型，對(duì)我國三支熱門股票上海電力（代碼：600021）、中信證券（代碼：600030）和中國石化（代碼：600028）進(jìn)行預(yù)測(cè).

二、基于粒子群算法的GRNN神經(jīng)網(wǎng)絡(luò)及其應(yīng)用

（一）粒子群算法

粒子群算法（PSO算法）是由Kennedy和Eberhart提出的，通過模擬鳥群飛行覓食過程中的協(xié)作行為，使群體達(dá)到最優(yōu).首先初始化一群隨機(jī)粒子，其中第i個(gè)粒子在D維解空間的位置和速度分別表示為L(zhǎng)i=（li1，li2，…，liD），Vi=（vi1，vi2，…，viD），通過迭代搜索產(chǎn)生粒子最優(yōu)解.每一次迭代，粒子從初始到當(dāng)前迭代次數(shù)搜索產(chǎn)生的最優(yōu)解為粒子的個(gè)體極值Pbest，粒子種群當(dāng)前的最優(yōu)解，即所有粒子的最優(yōu)位置，稱為全局極值gbest.第i個(gè)粒子通過兩個(gè)極值更新自己第d維（1≤d≤D）的位置lid和速度vid.

步驟1初始化.確定各個(gè)參數(shù)并隨機(jī)初始化種群中粒子的位置和速度，并設(shè)定位置的范圍[-Lmax，Lmax]，速度的范圍[-Vmax，Vmax].將每個(gè)粒子的Pbest設(shè)置為當(dāng)前位置，gbest值設(shè)置為初始群體中適應(yīng)值最好的粒子位置.

步驟2判斷粒子是否達(dá)到個(gè)體極值.如果滿足，轉(zhuǎn)步驟5；否則，轉(zhuǎn)步驟3.

步驟3更新粒子的位置和速度.

步驟4更新粒子的Pbest值和gbest值.對(duì)每個(gè)粒子，如果適應(yīng)值小于Pbest的適應(yīng)值，則Pbest設(shè)置為當(dāng)前位置；如果粒子適應(yīng)值小于gbest的適應(yīng)值，則gbest設(shè)置為當(dāng)前位置，轉(zhuǎn)步驟2.

步驟5記錄gbest，算法結(jié)束.

（二）基于PSO的GRNN神經(jīng)網(wǎng)絡(luò)算法

步驟1提取目標(biāo)輸入矢量，并做歸一化處理，利用公式計(jì)算.xj（i）=xj（i）1max（xj（k）），k=1，2，…，N，式中，xj（i）表示第j個(gè)神經(jīng)元的第i個(gè)輸入值，N表示有N個(gè)訓(xùn)練樣本.

步驟2隨機(jī)初始化種群，設(shè)定種群規(guī)模為20，初始化粒子速度和位置，設(shè)定位置的范圍[-Lmax，Lmax]和速度的范圍[-Vmax，Vmax].

步驟3將粒子群中每一個(gè)體的分量映射為GRNN神經(jīng)網(wǎng)絡(luò)的參數(shù)，構(gòu)成一個(gè)GRNN神經(jīng)網(wǎng)絡(luò)，對(duì)每一個(gè)GRNN神經(jīng)網(wǎng)絡(luò)輸入訓(xùn)練樣本進(jìn)行訓(xùn)練，并計(jì)算每一個(gè)粒子在訓(xùn)練集上的均方誤差和作為適應(yīng)度值.均方誤差公式如下：fi=e=11n∑n1i=1（yij-ij）2.其中，N為訓(xùn)練樣本容量，yij表示訓(xùn)練樣本實(shí)際值，ij表示預(yù)測(cè)模型的輸出值.

步驟4根據(jù)每一個(gè)體的適應(yīng)度值砥蘭勖扛雋W擁乃閹魑恢茫計(jì)算當(dāng)前每個(gè)粒子的個(gè)體極值和種群全局極值.

步驟5判斷是否滿足條件.如果達(dá)到最大迭代次數(shù)或均方誤差達(dá)到最初設(shè)定值，則結(jié)束粒子搜索.否則轉(zhuǎn)到步驟3，重復(fù)迭代優(yōu)化，更新粒子速度和位置.

步驟6輸出最優(yōu)粒子位置，將每一個(gè)個(gè)體的分量映射為GRNN神經(jīng)網(wǎng)絡(luò)的平滑因子和權(quán)值，對(duì)神經(jīng)網(wǎng)絡(luò)的輸入樣本進(jìn)行預(yù)測(cè).

步驟7算法結(jié)束.

三、利用MATLAB工具實(shí)現(xiàn)結(jié)果

為了確保PSO-GRNN神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)的精確度，我們選擇了3組訓(xùn)練數(shù)據(jù)，每組數(shù)據(jù)都是從2012年3月29日到2012年4月16日的250天的收盤指數(shù).PSO-GRNN神經(jīng)網(wǎng)絡(luò)模型中動(dòng)量因子取α=0.05，β=0.55.粒子種群規(guī)模為20，粒子維數(shù)為12，學(xué)習(xí)因子c1=c2=2，慣性權(quán)值的初始值0=0.9，最大迭代次數(shù)為250次.為了檢驗(yàn)神經(jīng)網(wǎng)絡(luò)的泛化能力，我們引入三種評(píng)價(jià)指標(biāo)：

均方根誤差：MSE=11n∑n1i=1（yi-i）2.

平均絕對(duì)誤差：MAE=11n∑n1i=1|yi-i|.

平均絕對(duì)百分比誤差：MAPE=11n∑n1i=1|yi-i|1|yi|×100%.

其中，yi表示訓(xùn)練樣本實(shí)際值，i表示預(yù)測(cè)模型的輸出值.平均絕對(duì)誤差（MAE）和平均絕對(duì)百分比誤差（MAPE）都是衡量預(yù)測(cè)結(jié)果偏離實(shí)際的指標(biāo)，MAE（或者M(jìn)APE）值越大，預(yù)測(cè)誤差越大；均方根誤差（MSE）能較好地預(yù)測(cè)效果，MSE值越小，預(yù)測(cè)效果越好.

經(jīng)過PSO-GRNN模型和GRNN模型對(duì)所選三組數(shù)據(jù)的訓(xùn)練，兩種模型對(duì)比結(jié)果見下表.在模型樣本相同，初始因子相同的情況下，PSO-GRNN模型對(duì)樣本的預(yù)測(cè)精度明顯優(yōu)于GRNN模型，泛化能力更強(qiáng).

第2篇：神經(jīng)網(wǎng)絡(luò)回歸算法范文

關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò)算法；貨運(yùn)量；預(yù)測(cè)模型；實(shí)證分析

中圖分類號(hào)：F252 文獻(xiàn)標(biāo)識(shí)碼：A

交通運(yùn)輸系統(tǒng)是國民經(jīng)濟(jì)大系統(tǒng)中的一個(gè)子系統(tǒng)，運(yùn)輸需求同時(shí)受到來自系統(tǒng)內(nèi)部和系統(tǒng)外部因素的影響，同時(shí)又反作用于國民經(jīng)濟(jì)系統(tǒng)[1]。其中，貨運(yùn)量是反映運(yùn)輸生產(chǎn)成果，體現(xiàn)運(yùn)輸系統(tǒng)為國民經(jīng)濟(jì)服務(wù)數(shù)量的重要指標(biāo)[2]，它作為衡量一個(gè)國家或地區(qū)經(jīng)濟(jì)發(fā)展的重要經(jīng)濟(jì)指標(biāo)，愈加受到人們的重視，如何正確、有效地根據(jù)相關(guān)影響因素做出貨運(yùn)量預(yù)測(cè)，對(duì)于物流產(chǎn)業(yè)的發(fā)展具有至關(guān)重要的作用。

貨運(yùn)量預(yù)測(cè)具有較大的復(fù)雜性和非線性等特點(diǎn)[3]，進(jìn)行貨運(yùn)量預(yù)測(cè)的方法很多，常用的方法包括時(shí)間序列法、回歸分析法和灰色系統(tǒng)法等，這些方法都集中在對(duì)其因果關(guān)系回歸模型和時(shí)間序列模型的分析上，所建立的模型不能全面和本質(zhì)地反映所預(yù)測(cè)動(dòng)態(tài)數(shù)據(jù)的內(nèi)在結(jié)構(gòu)和復(fù)雜特性，從而丟失了信息[4]。人工神經(jīng)網(wǎng)絡(luò)具有良好的曲線擬合能力、學(xué)習(xí)能力、抗干擾能力[4-5]，采用BP神經(jīng)網(wǎng)絡(luò)方法，建立貨運(yùn)量預(yù)測(cè)模型，具有更好的說服力。

近幾年來，在國家政策的大力扶持和傾斜下，整個(gè)新疆的經(jīng)濟(jì)社會(huì)發(fā)展都步入了快車道。經(jīng)濟(jì)社會(huì)的快速發(fā)展，對(duì)相應(yīng)的物流能力提出了更高的要求。現(xiàn)有的南疆兵團(tuán)物流企業(yè)已經(jīng)難以滿足其經(jīng)濟(jì)快速高效發(fā)展的需要，日益成為制約南疆兵團(tuán)經(jīng)濟(jì)快速發(fā)展的瓶頸。科學(xué)合理地預(yù)測(cè)南疆兵團(tuán)物流企業(yè)的貨運(yùn)量以對(duì)其物流能力進(jìn)行客觀評(píng)價(jià)，對(duì)于優(yōu)化配置南疆兵團(tuán)有限的物流資源，實(shí)現(xiàn)南疆兵團(tuán)物流企業(yè)的可持續(xù)發(fā)展，具有重要的現(xiàn)實(shí)意義和實(shí)踐價(jià)值。

1 BP神經(jīng)網(wǎng)絡(luò)算法與模型

近年來，全球性的神經(jīng)網(wǎng)絡(luò)研究熱潮再度興起，不僅僅是因?yàn)樯窠?jīng)科學(xué)本身取得了巨大的進(jìn)展，更主要的原因在于發(fā)展新型計(jì)算機(jī)和人工智能新途徑的迫切需要。迄今為止在需要人工智能解決的許多問題中，人腦遠(yuǎn)比計(jì)算機(jī)聰明的多，要開創(chuàng)具有智能的新一代計(jì)算機(jī)，就必須了解人腦，研究人腦神經(jīng)網(wǎng)絡(luò)系統(tǒng)信息處理的機(jī)制。另一方面，基于神經(jīng)科學(xué)研究成果基礎(chǔ)上發(fā)展出來的人工神經(jīng)網(wǎng)絡(luò)模型，反映了人腦功能的若干基本特性，開拓了神經(jīng)網(wǎng)絡(luò)用于計(jì)算機(jī)的新途徑[6]，它對(duì)傳統(tǒng)的計(jì)算機(jī)結(jié)構(gòu)和人工智能是一個(gè)有力的挑戰(zhàn)，引起了各方面專家的極大關(guān)注。

目前，已發(fā)展了幾十種神經(jīng)網(wǎng)絡(luò)， 例如Hopficld模型、Feldmann等的連接型網(wǎng)絡(luò)模型、Hinton等的玻爾茨曼機(jī)模型，以及Rumelhart等的多層感知機(jī)模型和Kohonen的自組織網(wǎng)絡(luò)模型，等等[6]。神經(jīng)網(wǎng)絡(luò)模型中，應(yīng)用最廣泛的是多層感知機(jī)神經(jīng)網(wǎng)絡(luò)。多層感知機(jī)神經(jīng)網(wǎng)絡(luò)的研究始于20世紀(jì)50年代，但一直進(jìn)展不大。直到1985年，Rumelhart等人提出了誤差反向傳遞學(xué)習(xí)，即BP算法[7]，實(shí)現(xiàn)了Minsky的多層網(wǎng)絡(luò)設(shè)想，如圖1所示。

BP算法不僅有輸入層節(jié)點(diǎn)、輸出層節(jié)點(diǎn)，還可有一個(gè)或多個(gè)隱含層節(jié)點(diǎn)。對(duì)于輸入信號(hào)，要先向前傳播到隱含層節(jié)點(diǎn)，經(jīng)作用函數(shù)激勵(lì)后，再把隱含層節(jié)點(diǎn)的輸出信號(hào)傳播到輸出節(jié)點(diǎn)，最后給出輸出結(jié)果。節(jié)點(diǎn)的作用激勵(lì)函數(shù)通常選取S型函數(shù)，如：

式中Q為調(diào)整激勵(lì)函數(shù)形式的Sigmoid參數(shù)。該算法的學(xué)習(xí)過程由正向傳播和反向傳播組成。在正向傳播過程中，輸入信息從輸入層經(jīng)隱含層逐層處理，并傳向輸出層。每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果輸出層得不到期望的輸出，則轉(zhuǎn)入反向傳播，將誤差信號(hào)沿原來的連接通道返回，通過修改各層神經(jīng)元的權(quán)值，使得誤差信號(hào)最小。

從上述BP算法可以看出，BP模型把一組樣本的I/O問題變?yōu)橐粋€(gè)非線性優(yōu)化[8]，是優(yōu)化中最普通的梯度下降法。如果把神經(jīng)網(wǎng)絡(luò)的看成輸入到輸出的映射，則這個(gè)映射是一個(gè)高度非線性映射。

設(shè)計(jì)一個(gè)神經(jīng)網(wǎng)絡(luò)專家模型的構(gòu)成和學(xué)習(xí)算法的選擇，一般來說，是根據(jù)所研究領(lǐng)域及要解決的問題確定的[6]。通過對(duì)所研究問題的大量歷史資料數(shù)據(jù)的分析及目前的神經(jīng)網(wǎng)絡(luò)理論發(fā)展水平，建立合適的模型，并針對(duì)所選的模型采用相應(yīng)的學(xué)習(xí)算法，在網(wǎng)絡(luò)學(xué)習(xí)過程中，不斷地調(diào)整網(wǎng)絡(luò)參數(shù)，直到輸出結(jié)果滿足要求為止。

2 貨運(yùn)量預(yù)測(cè)模型與實(shí)證分析

基于上述BP神經(jīng)網(wǎng)絡(luò)算法與模型，結(jié)合新疆兵團(tuán)各師物流實(shí)際，構(gòu)建南疆兵團(tuán)各師貨運(yùn)量的預(yù)測(cè)模型，采用Matlab軟件編制程序（見附錄），將2006～2010年間的各師貨運(yùn)量數(shù)據(jù)[9]代入Matlab程序中，以對(duì)南疆兵團(tuán)各師貨運(yùn)量加以預(yù)測(cè)。下面對(duì)Matlab中神經(jīng)網(wǎng)絡(luò)訓(xùn)練函數(shù)的訓(xùn)練步數(shù)、收斂精度及誤差加以比較，通過反復(fù)訓(xùn)練來確定最佳的BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練函數(shù)[8]，以此來確定最優(yōu)的貨運(yùn)量BP神經(jīng)網(wǎng)絡(luò)模型。

通過運(yùn)行程序，得到訓(xùn)練均方誤差曲線圖如圖2：

由圖2可看出，誤差訓(xùn)練值接近10e-2，而目標(biāo)訓(xùn)練值為10e-7，說明經(jīng)過2 000次步長(zhǎng)訓(xùn)練，均方誤差逐漸趨于目標(biāo)值，訓(xùn)練結(jié)果非常小，結(jié)果較滿意。同時(shí)，得到訓(xùn)練梯度及有效性檢查曲線圖如圖3：

由圖3可得出，訓(xùn)練梯度為0.00021324，檢查錯(cuò)誤幾乎為0，說明經(jīng)過2 000次步長(zhǎng)訓(xùn)練，在這期間訓(xùn)練梯度變化不大，且錯(cuò)誤趨于0，進(jìn)一步說明預(yù)測(cè)結(jié)果較好。與此同時(shí)，得到訓(xùn)練回歸曲線圖如圖4。

由圖4可得到，目標(biāo)訓(xùn)練值R=0.99983，趨于1，說明回歸訓(xùn)練效果較好，預(yù)測(cè)精度較高，而同時(shí)回歸曲線近似趨于一線性函數(shù)，其訓(xùn)練起點(diǎn)和終點(diǎn)（圖中黑點(diǎn)）與源數(shù)據(jù)（白圓點(diǎn)）都很好的分布在曲線兩側(cè)，由此可見，運(yùn)用BP神經(jīng)網(wǎng)絡(luò)仿真的效果十分理想，訓(xùn)練后的BP網(wǎng)絡(luò)能很好地逼近給定的目標(biāo)函數(shù)，據(jù)此表明訓(xùn)練效果很好。由此可見，所建模型與實(shí)際吻合度較高，模型結(jié)果具有可信度和說服力。

3 結(jié)果分析

通過運(yùn)行BP神經(jīng)網(wǎng)絡(luò)程序，求得2006～2010年南疆兵團(tuán)各師貨運(yùn)量的的預(yù)測(cè)值，將之與實(shí)際值放在一起進(jìn)行比較，匯編結(jié)果如表1。

由表1可以看出，南疆兵團(tuán)各師貨運(yùn)量持續(xù)上升，而且增加幅度逐年加快。事實(shí)上，近年來隨著新疆經(jīng)濟(jì)社會(huì)的快速發(fā)展，南疆兵團(tuán)各師的貨運(yùn)量呈現(xiàn)一個(gè)較大程度的逐年遞增，這一點(diǎn)是符合客觀事實(shí)的。

通過南疆兵團(tuán)各師貨運(yùn)量的預(yù)測(cè)值和實(shí)際值的比較分析，發(fā)現(xiàn)預(yù)測(cè)值與實(shí)際值之間相對(duì)誤差較小，位于0.8%～7.8%之間，平均相對(duì)誤差約為4.45%，誤差達(dá)到通常的精度要求10e-2，計(jì)算精度較高。由此可見，通過BP神經(jīng)網(wǎng)絡(luò)算法建立的南疆兵團(tuán)各師貨運(yùn)量預(yù)測(cè)模型，所得結(jié)果符合計(jì)算精度要求，而且泛化能力較好，模擬結(jié)果比較可靠，與實(shí)際吻合度較高。

4 結(jié) 論

本文通過對(duì)近幾年南疆兵團(tuán)各師貨運(yùn)量的分析，合理地設(shè)計(jì)了BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)；同時(shí)，通過比較Matlab中神經(jīng)網(wǎng)絡(luò)訓(xùn)練函數(shù)的訓(xùn)練步數(shù)、收斂精度及誤差，反復(fù)訓(xùn)練并確定了最佳的BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練函數(shù)；并以2006～2010年南疆兵團(tuán)各師貨運(yùn)量數(shù)據(jù)為基準(zhǔn)，建立南疆兵團(tuán)各師貨運(yùn)量的預(yù)測(cè)模型，采用Matlab提供的神經(jīng)網(wǎng)絡(luò)工具箱編程求解，得到相應(yīng)的南疆兵團(tuán)各師貨運(yùn)量的預(yù)測(cè)值，通過實(shí)際值與預(yù)測(cè)值的比較，發(fā)現(xiàn)二者之間的相對(duì)誤差較小，所得結(jié)果具有較好的說服力和可信度。

本文的研究結(jié)果，對(duì)于南疆兵團(tuán)地區(qū)優(yōu)化配置物流資源，引導(dǎo)地方政府決策提供理論依據(jù)，具有重要的現(xiàn)實(shí)意義和實(shí)踐價(jià)值。人工神經(jīng)網(wǎng)絡(luò)具有良好的曲線擬合能力、學(xué)習(xí)能力、抗干擾能力，采用BP神經(jīng)網(wǎng)絡(luò)算法，建立相應(yīng)的預(yù)測(cè)模型，所得結(jié)果因與實(shí)際吻合度較高，而具有較好的可信度。BP神經(jīng)網(wǎng)絡(luò)算法，可以廣泛地應(yīng)用于復(fù)雜經(jīng)濟(jì)系統(tǒng)的評(píng)價(jià)與預(yù)測(cè)工作。文中所采用的建模思想方法，還可以廣泛地應(yīng)用于其他復(fù)雜經(jīng)濟(jì)系統(tǒng)的建模工作，具有一定的普遍性，有著良好的應(yīng)用推廣價(jià)值。

參考文獻(xiàn)：

[1] 王振軍. 交通運(yùn)輸系統(tǒng)工程[M]. 南京：東南大學(xué)出版社，2008：13-17.

[2] 張艷云，艾力·斯木吐拉. BP神經(jīng)網(wǎng)在新疆貨運(yùn)量預(yù)測(cè)中的應(yīng)用[J]. 運(yùn)輸與物流，2011（17）：144-147.

[3] 許銀甲. 公路貨運(yùn)量預(yù)測(cè)的系統(tǒng)動(dòng)力學(xué)模型構(gòu)建[J]. 交通科技與經(jīng)濟(jì)，2007，9（6）：95-97.

[4] 趙闖，劉凱. 基于廣義回歸神經(jīng)網(wǎng)絡(luò)的貨運(yùn)量預(yù)測(cè)[J]. 鐵道學(xué)報(bào)，2004，26（1）：12-15.

[5] 徐優(yōu)麗. 基于神經(jīng)網(wǎng)絡(luò)的物流需求預(yù)測(cè)[J]. 浙江樹人大學(xué)學(xué)報(bào)，2008（1）：56-58.

[6] 飛思科技產(chǎn)品研發(fā)中心. MATLAB6.5輔助神經(jīng)網(wǎng)絡(luò)分析與設(shè)計(jì)[M]. 北京：中國統(tǒng)計(jì)出版社，2003：64-69.

[7] 高寧，邵陸壽. 基于MATLAB的BP神經(jīng)網(wǎng)絡(luò)在農(nóng)作物預(yù)報(bào)中的應(yīng)用[J]. 計(jì)算機(jī)與農(nóng)業(yè)，2003（7）：16-18.

第3篇：神經(jīng)網(wǎng)絡(luò)回歸算法范文

【關(guān)鍵詞】傳感器；智能化；神經(jīng)網(wǎng)絡(luò)；自補(bǔ)償

【基金項(xiàng)目】論文受到成都信息工程大學(xué)校級(jí)項(xiàng)目KYTZ201521，Y2013062，Y2015015以及“傳感器與檢測(cè)技術(shù)”精品課程建設(shè)項(xiàng)目的資助。

一、引言

現(xiàn)代傳感器技術(shù)是在傳統(tǒng)傳感器技術(shù)的基礎(chǔ)上發(fā)展而來，廣泛結(jié)合了信息處理技術(shù)、通信技術(shù)及微電子技術(shù)等[1]，將傳感器提升至 “系統(tǒng)”級(jí)別。

開設(shè)現(xiàn)代傳感器技術(shù)課程，需要在具備經(jīng)典傳感器知識(shí)的基礎(chǔ)之上，進(jìn)一步掌握智能傳感器的相關(guān)知識(shí)，了解集成電路工藝、統(tǒng)計(jì)學(xué)習(xí)理論和現(xiàn)代信號(hào)處理技術(shù)等[2]。該課程的內(nèi)容涉及智能傳感器系統(tǒng)的硬件構(gòu)成，智能化功能的軟件實(shí)現(xiàn)方法，以及多元回歸分析法、神經(jīng)網(wǎng)絡(luò)技術(shù)和支持向量機(jī)技術(shù)等數(shù)據(jù)挖掘方法。學(xué)生可以通過自主設(shè)計(jì)型實(shí)驗(yàn)加深對(duì)智能傳感器的理解。而智能傳感器的軟件實(shí)現(xiàn)和數(shù)據(jù)挖掘方法的仿真都具備充分的靈活性，學(xué)生可以結(jié)合PC機(jī)在課堂上和課后進(jìn)行實(shí)驗(yàn)研究[3]。

二、自主設(shè)計(jì)實(shí)驗(yàn)

現(xiàn)代傳感器技術(shù)的課程介紹了新型智能傳感器的概念、構(gòu)成方式及具有的功能，重點(diǎn)在于智能傳感器的集成化和智能化實(shí)現(xiàn)方法。

智能傳感器集成化的實(shí)現(xiàn)涉及微電子技術(shù)等相關(guān)內(nèi)容，對(duì)于非微電子專業(yè)的學(xué)生來說很難具備此方面的扎實(shí)基礎(chǔ)，不易開展自主設(shè)計(jì)型實(shí)驗(yàn)。并且此部分內(nèi)容的相關(guān)實(shí)驗(yàn)對(duì)硬件要求較高，不利于在不同專業(yè)和高校的推廣。

智能傳感器智能化的實(shí)現(xiàn)方式多樣，有硬件實(shí)現(xiàn)，也有軟件實(shí)現(xiàn)。軟件實(shí)現(xiàn)方法包括神經(jīng)網(wǎng)絡(luò)技術(shù)、支持向量機(jī)技術(shù)、粒子群算法和小波分析等數(shù)據(jù)挖掘方法中的智能算法。這些智能算法的仿真工具眾多，算法設(shè)計(jì)靈活且多樣，可以讓學(xué)生在完成課程實(shí)驗(yàn)的同時(shí)，通過自主設(shè)計(jì)進(jìn)一步發(fā)掘算法的優(yōu)化方法，加深對(duì)知識(shí)的理解。

本論文將舉例說明現(xiàn)代傳感器技術(shù)課程在智能傳感器智能化實(shí)現(xiàn)方面的自主設(shè)計(jì)實(shí)驗(yàn)的開設(shè)方法。

例如，開設(shè)題為“基于神經(jīng)網(wǎng)絡(luò)方法的傳感器溫度自補(bǔ)償模塊設(shè)計(jì)”實(shí)驗(yàn)。對(duì)于會(huì)受溫度影響的傳感器，要降低工作環(huán)境溫度的影響，就需要設(shè)計(jì)自補(bǔ)償模塊，補(bǔ)償?shù)姆椒ㄓ卸喾N，這里選用神經(jīng)網(wǎng)絡(luò)方法。首先，學(xué)生需要選定實(shí)驗(yàn)對(duì)象，即傳感器，比如某款壓阻式壓力傳感器，然后獲取不同溫度狀態(tài)下傳感器靜態(tài)標(biāo)定數(shù)據(jù)，根據(jù)標(biāo)定數(shù)據(jù)制作樣本，輸入到神經(jīng)網(wǎng)絡(luò)。學(xué)生可以根據(jù)需要選擇不同的神經(jīng)網(wǎng)絡(luò)，比如BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)等[4]。實(shí)驗(yàn)編程時(shí)可于利用現(xiàn)有的工具箱進(jìn)行輔助編程，也可以完全自行編程。

以上實(shí)驗(yàn)只考慮了溫度這一個(gè)干擾量的影響。通常影響傳感器的不止一個(gè)干擾量，還可能存在兩個(gè)或多個(gè)干擾量的影響。神經(jīng)網(wǎng)絡(luò)方法可以用來降低兩個(gè)或者是多個(gè)干擾量的影響。此外，學(xué)生還可以用支持向量機(jī)技術(shù)來設(shè)計(jì)智能化軟件模塊，用于降低多個(gè)干擾量的影響。例如，可開設(shè)題為“基于支持向量機(jī)方法的降低多個(gè)干擾量影響的傳感器智能模塊設(shè)計(jì)”。該實(shí)驗(yàn)的過程是先選定存在交叉敏感的傳感器作為實(shí)驗(yàn)對(duì)象，進(jìn)行多維標(biāo)定實(shí)驗(yàn)獲取樣本數(shù)據(jù)，再利用支持向量機(jī)方法建立數(shù)據(jù)融合模型，從而消除或是降低多個(gè)干擾量的影響。支持向量機(jī)的功能包括分類和回歸等，因此學(xué)生還可以結(jié)合其分類的功能設(shè)計(jì)其他傳感器智能模塊。

學(xué)生在進(jìn)行智能算法的課程實(shí)驗(yàn)時(shí)，可以選擇自帶工具箱中豐富的仿真工具，也可以自行編程實(shí)現(xiàn)算法。本論文采用Matlab軟件為仿真工具實(shí)現(xiàn)算法。

三、實(shí)驗(yàn)示例

（一）基于神經(jīng)網(wǎng)絡(luò)方法的傳感器溫度自補(bǔ)償模塊設(shè)計(jì)

本實(shí)驗(yàn)選定壓阻式壓力傳感器作為實(shí)驗(yàn)對(duì)象，目標(biāo)如下。

1.基于神經(jīng)網(wǎng)絡(luò)技術(shù)設(shè)計(jì)溫度補(bǔ)償模塊，消除工作環(huán)境溫度對(duì)傳感器的影響。

2.實(shí)驗(yàn)過程需對(duì)多個(gè)樣本進(jìn)行實(shí)驗(yàn)，提高補(bǔ)償模塊的適應(yīng)性，即在滿足壓力量程的情況下對(duì)不同的工作溫度進(jìn)行補(bǔ)償。

3.溫度補(bǔ)償模塊的設(shè)計(jì)可以使用多種神經(jīng)網(wǎng)絡(luò)方法，并進(jìn)行對(duì)比，得到消除溫度影響最好的方法。

實(shí)驗(yàn)步驟如下。

1.二維標(biāo)定實(shí)驗(yàn)

用標(biāo)定實(shí)驗(yàn)來獲取原始實(shí)驗(yàn)數(shù)據(jù)。由于實(shí)驗(yàn)條件和實(shí)驗(yàn)時(shí)間的限制，有些學(xué)生無法進(jìn)行此步驟。學(xué)生也可以通過教材或者相關(guān)論文來獲取原始數(shù)據(jù)，但是必須在實(shí)驗(yàn)報(bào)告中注明數(shù)據(jù)的來源。

2.數(shù)據(jù)預(yù)處理與樣本制作

用上一步中獲取的原始數(shù)據(jù)來制作樣本。通常先將原始數(shù)據(jù)進(jìn)行歸一化處理，用歸一化之后的數(shù)據(jù)制作樣本。神經(jīng)網(wǎng)絡(luò)的樣本包括訓(xùn)練樣本和測(cè)試樣本。

3.訓(xùn)練神經(jīng)網(wǎng)絡(luò)

將訓(xùn)練樣本輸入到編好的神經(jīng)網(wǎng)絡(luò)算法，可以是BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)等，得到訓(xùn)練后的模型。

4.測(cè)試神經(jīng)網(wǎng)絡(luò)

用測(cè)試樣本檢驗(yàn)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型。如果得到的效果不好，可以適當(dāng)?shù)卣{(diào)整神經(jīng)網(wǎng)絡(luò)的參數(shù)，改善補(bǔ)償效果。

5.更換訓(xùn)練樣本和測(cè)試樣本后重復(fù)第三和第四個(gè)步驟

不同樣本得到的結(jié)果往往差異較大，實(shí)驗(yàn)中需要更換訓(xùn)練樣本和測(cè)試樣本后進(jìn)行多次重褪笛椋用以提高神經(jīng)網(wǎng)絡(luò)模型的適應(yīng)性。

6.換一種神經(jīng)網(wǎng)絡(luò)方法重復(fù)第五個(gè)步驟

同一樣本采用不同的神經(jīng)網(wǎng)絡(luò)方法可能得到不同的補(bǔ)償結(jié)果，實(shí)驗(yàn)中可以嘗試對(duì)比不同的神經(jīng)網(wǎng)絡(luò)方法，或者通過優(yōu)化神經(jīng)網(wǎng)絡(luò)的方法改善補(bǔ)償效果。

（二）基于支持向量機(jī)方法的降低多個(gè)干擾量影響的傳感器智能模塊設(shè)計(jì)

本實(shí)驗(yàn)的目標(biāo)如下。

1.利用支持向量機(jī)的處理分類和回歸問題的功能，對(duì)傳感器交叉敏感的數(shù)據(jù)進(jìn)行分析，用以抑制交叉敏感現(xiàn)象。

2.嘗試修改支持向量機(jī)的程序，例如更換核函數(shù)或改變分類策略，得到不同的測(cè)試結(jié)果。

3.制備多組樣本數(shù)據(jù)，對(duì)不同的樣本數(shù)據(jù)進(jìn)行測(cè)試，用以檢驗(yàn)算法的適應(yīng)性。

實(shí)驗(yàn)步驟如下。

1.樣本數(shù)據(jù)制作

根據(jù)確定的實(shí)驗(yàn)對(duì)象，采集或制備樣本數(shù)據(jù)。制作好的樣本數(shù)據(jù)將分為訓(xùn)練樣本和測(cè)試樣本兩部分。訓(xùn)練樣本與測(cè)試樣本的格式保持一致。

2.算法設(shè)計(jì)

利用支持向量回歸（Support Vector Regression，SVR）或支持向量分類（Support Vector Classification，SVC）算法，處理樣本數(shù)據(jù)。利用多種策略測(cè)試算法優(yōu)劣。

例如在支持向量分類算法中，有兩種處理多分類問題的策略， 一種是“一對(duì)一（one agaist one， 1A1）”， 另一種是“一對(duì)多（one agaist all， 1AA）”。實(shí)驗(yàn)中可測(cè)試不同策略的算法。支持向量機(jī)可選取多種核函數(shù)，包括線性核函數(shù)、多項(xiàng)式核函數(shù)和徑向基（Radial Basis Function，RBF）核函數(shù)等。目前尚缺乏一種選取核函數(shù)的標(biāo)準(zhǔn)方法。實(shí)驗(yàn)中可以通過更換核函數(shù)來測(cè)試它們的不同效果，用以選取最優(yōu)的方案。

可以采用不同的支持向量機(jī)工具箱，例如SVM and Kernel Methods Matlab Toolbox工具箱，或者自行編程。

在算法設(shè)計(jì)的過程中，通過對(duì)訓(xùn)練樣本進(jìn)行訓(xùn)練和對(duì)測(cè)試樣本進(jìn)行測(cè)試，得到每一次的結(jié)果。同一算法必須經(jīng)過多個(gè)訓(xùn)練樣本和測(cè)試樣本的檢驗(yàn)。更換算法策略后，再重復(fù)以上步驟。

3.效果評(píng)價(jià)

用抑制交叉敏感的結(jié)果對(duì)比最初的傳感器數(shù)據(jù)，對(duì)算法效果進(jìn)行綜合評(píng)價(jià)。

（三）實(shí)驗(yàn)方案

結(jié)合以上實(shí)例，可以設(shè)計(jì)出自主實(shí)驗(yàn)的方案，具體如下：自行查閱資料進(jìn)行神經(jīng)網(wǎng)絡(luò)分析法和支持向量機(jī)法的設(shè)計(jì)，兩種算法選擇其一即可。

實(shí)驗(yàn)步驟如下：（1）安裝matlab軟件；（2）熟悉matlab軟件的使用方法；（3）查閱資料進(jìn)行項(xiàng)目設(shè)計(jì)；（4）選取神經(jīng)網(wǎng)絡(luò)分析法和支持向量機(jī)法之一進(jìn)行項(xiàng)目設(shè)計(jì)；（5）根據(jù)設(shè)計(jì)要求編寫算法，并仿真；（6）對(duì)算法效果進(jìn)行綜合評(píng)價(jià)。

需要注意的是，利用神經(jīng)網(wǎng)絡(luò)分析法和支持向量機(jī)法在智能傳感器系統(tǒng)的智能化功能實(shí)現(xiàn)方法上進(jìn)行項(xiàng)目設(shè)計(jì)的時(shí)候，數(shù)據(jù)來源要有出處，應(yīng)用范圍要明確。

四、結(jié)論

現(xiàn)代傳感器技術(shù)課程通過開設(shè)自主設(shè)計(jì)型實(shí)驗(yàn)可以提高學(xué)生的學(xué)習(xí)興趣，加深學(xué)生對(duì)知識(shí)的理解。該課程涉及的神經(jīng)網(wǎng)絡(luò)技術(shù)、支持向量機(jī)技術(shù)、主成分分析和小波分析等方法可以較為靈活地開設(shè)自主設(shè)計(jì)實(shí)驗(yàn)，加強(qiáng)學(xué)生的動(dòng)手能力。本論文以“基于神經(jīng)網(wǎng)絡(luò)方法的傳感器溫度自補(bǔ)償模塊設(shè)計(jì)”實(shí)驗(yàn)為例說明了自主設(shè)計(jì)實(shí)驗(yàn)的方案。實(shí)驗(yàn)采用Matlab軟件設(shè)計(jì)，方案可行。

【參考文獻(xiàn)】

[1] 張鵬，吳東艷，張凌志.項(xiàng)目教學(xué)法與傳感器課程改革探索[J]. 中國電力教育，2014（05）：78-79.

[2] 王興君，毛敏.智能傳感器課程建O及教學(xué)研究[J]. 電子測(cè)試，2016（07）：172-173.

第4篇：神經(jīng)網(wǎng)絡(luò)回歸算法范文

關(guān)鍵詞：logistic回歸 BP神經(jīng)網(wǎng)絡(luò) 上市公司 信用風(fēng)險(xiǎn)

在經(jīng)濟(jì)全球化的趨勢(shì)下，信用將成為主要的交易方式，金融危機(jī)的爆發(fā)更是顯示出信用風(fēng)險(xiǎn)管理和信用風(fēng)險(xiǎn)分類的重要性。從20世紀(jì)60年代至70年代的統(tǒng)計(jì)學(xué)方法，20世紀(jì)80年代的專家系統(tǒng)到90年代的神經(jīng)網(wǎng)絡(luò)，各種信用風(fēng)險(xiǎn)評(píng)級(jí)方法層出不窮。在我國，信用風(fēng)險(xiǎn)的度量和管理較為落后，金融機(jī)構(gòu)沒有完善有效的評(píng)級(jí)方法和體系，目前所應(yīng)用的方法主要是粗略的定性方法，如綜合利用宏觀經(jīng)濟(jì)與行業(yè)風(fēng)險(xiǎn)、所有權(quán)及治理結(jié)構(gòu)、信用風(fēng)險(xiǎn)及其管理、市場(chǎng)風(fēng)險(xiǎn)及其管理、資金來源/流動(dòng)性、盈利能力等進(jìn)行“加權(quán)”加分，信用風(fēng)險(xiǎn)的度量模式顯得比較單一，所以對(duì)于信用風(fēng)險(xiǎn)分類方法是學(xué)術(shù)界和實(shí)務(wù)界必須解決的課題之一。

一、文獻(xiàn)綜述

（一）國外文獻(xiàn)Logistic模型最早是由Martin （1977）用來預(yù)測(cè)公司的破產(chǎn)及違約概率。他從1970年至1977年間大約5700家美聯(lián)儲(chǔ)成員銀行中界定出58家困境銀行，并從25個(gè)財(cái)務(wù)指標(biāo)中選取總資產(chǎn)凈利潤(rùn)率等8 個(gè)財(cái)務(wù)比率，用來預(yù)測(cè)公司的破產(chǎn)及違約概率，建立了Logistic回歸模型，根據(jù)銀行、投資者的風(fēng)險(xiǎn)偏好設(shè)定風(fēng)險(xiǎn)警界線，以此對(duì)分析對(duì)象進(jìn)行風(fēng)險(xiǎn)定位和決策。同時(shí)還將Z-Score模型，ZETA模型和Logistic模型的預(yù)測(cè)能力進(jìn)行了比較，結(jié)果發(fā)現(xiàn)Logistic回歸模型優(yōu)于Z- Score模型和ZETA模型。Madalla （1983） 則采用Logistic模型區(qū)別違約與非違約貸款申請(qǐng)人，其研究結(jié)果表明，當(dāng)違約概率p>0.551時(shí)是風(fēng)險(xiǎn)貸款；當(dāng)p

（二）國內(nèi)文獻(xiàn) 在國內(nèi)的研究文獻(xiàn)中，齊治平（2002）從我國滬、深兩交易所選取164 家上市公司，然后隨機(jī)分成兩組，運(yùn)用線性判別模型、Logistic 回歸模型以及含有二次項(xiàng)和交叉項(xiàng)的Logistic 模型對(duì)數(shù)據(jù)樣本提前兩年進(jìn)行預(yù)測(cè)。結(jié)果發(fā)現(xiàn)，含有二次項(xiàng)和交叉項(xiàng)的Logistic模型對(duì)前一年數(shù)據(jù)的預(yù)測(cè)準(zhǔn)確率最高。吳世農(nóng)（2003）使用剖面分析、單變量分析、線性概率模型（LPM）、Fisher二類線性判定、Logistic模型等統(tǒng)計(jì)方法對(duì)財(cái)務(wù)困境公司進(jìn)行預(yù)測(cè)研究，其中Logistic模型對(duì)前一年數(shù)據(jù)的預(yù)測(cè)準(zhǔn)確率達(dá)到93.53%，F(xiàn)isher判別分析法和LPM的準(zhǔn)確率都為89.93%。龐素琳（2003）利用多層感知器分別對(duì)我國2000年106家上市公司進(jìn)行信用評(píng)級(jí)，信用評(píng)價(jià)準(zhǔn)確率高達(dá)98.11%。本文即是從上市公司的財(cái)務(wù)指標(biāo)入手，通過logistic回歸分析和BP神經(jīng)網(wǎng)絡(luò)，構(gòu)建衡量企業(yè)信用狀況的模型，并通過實(shí)證研究考察模型的適用性，對(duì)比兩者信用風(fēng)險(xiǎn)分類的準(zhǔn)確度。

二、研究設(shè)計(jì)

（一）樣本選取和數(shù)據(jù)來源本研究選取滬深兩市A股市場(chǎng)上2005年至2007年三年中部分被進(jìn)行特別處理的118家ST公司和126家非ST公司，數(shù)據(jù)主要來源于CSMAR深圳國泰安信息技術(shù)有限公司提供的財(cái)務(wù)指標(biāo)數(shù)據(jù)，將118家ST公司的財(cái)務(wù)數(shù)據(jù)和126家非ST公司的財(cái)務(wù)數(shù)據(jù)劃分為訓(xùn)練樣本和測(cè)試樣本。樣本集選取如（表1）所示。

（二）變量選取本文采取的財(cái)務(wù)數(shù)據(jù)在參考了已有文獻(xiàn)以及考慮到實(shí)際數(shù)據(jù)可得性的基礎(chǔ)上，選取了能夠反映短期還款能力，長(zhǎng)期還款能力，盈利能力和營(yíng)運(yùn)能力4方面共12個(gè)財(cái)務(wù)指標(biāo)。指標(biāo)變量名稱及自變量符號(hào)具體見表。因變量為0-1變量，信用級(jí)別高的設(shè)置為1，信用級(jí)別低的設(shè)置為0。在做logistic回歸的時(shí)候會(huì)進(jìn)一步運(yùn)用向后篩選法剔除方差貢獻(xiàn)率不大的指標(biāo)變量。具體如（表2）所示。

（三）模型設(shè)定

（1）Logistic回歸模型：

（2）多層次前向神經(jīng)網(wǎng)絡(luò)。本文所應(yīng)用的是一種稱為前向網(wǎng)絡(luò)的特殊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。本研究應(yīng)用Rumehhart于1986年提出的如下函數(shù)：Ii=wijxj+?準(zhǔn)，xi=fi=其中，Ii為神經(jīng)元i的層輸入，xi為神經(jīng)元的輸出，wij為神經(jīng)元間的連接權(quán)，?準(zhǔn)為神經(jīng)元i的偏置。每一條連接弧都被賦予一定的數(shù)值來表示連接弧的連接強(qiáng)度，正的權(quán)值表示影響的增加，負(fù)的權(quán)值表示影響的減弱。在前向網(wǎng)絡(luò)中，神經(jīng)元間前向連接，同層神經(jīng)元互不連接，信息只能向著一個(gè)方向傳播。前向網(wǎng)絡(luò)的連接模式是用權(quán)值向量W來表示的。在網(wǎng)絡(luò)中，權(quán)值向量決定著網(wǎng)絡(luò)如何對(duì)環(huán)境中的任意輸入作出反應(yīng)典型的學(xué)習(xí)算法是搜索權(quán)值以找到最適合給定樣本的權(quán)值。在本研究中應(yīng)用的是多層前向網(wǎng)絡(luò)的BP算法，其主要作用是知識(shí)獲取和推理，采用有導(dǎo)師學(xué)習(xí)的訓(xùn)練形式，提供輸入矢量集的同時(shí)提供輸出矢量集，通過反向傳播學(xué)習(xí)算法，調(diào)整網(wǎng)絡(luò)的連接權(quán)值，以使網(wǎng)絡(luò)輸出在最小均方差意義下，盡量向期望輸出接近，通過修改各層神經(jīng)元的連接權(quán)值，使誤差減小，然后轉(zhuǎn)入正向傳播過程，反復(fù)循環(huán)，直至誤差小于給定的值為止。本文建立的BP神經(jīng)網(wǎng)絡(luò)圖（見圖1）。本文建立財(cái)務(wù)困境神經(jīng)網(wǎng)絡(luò)預(yù)警模型主要考慮以下兩方面的問題：一是確定網(wǎng)絡(luò)結(jié)構(gòu)；二是學(xué)習(xí)參數(shù)的調(diào)整。首先考慮網(wǎng)絡(luò)結(jié)構(gòu)的確定。網(wǎng)絡(luò)結(jié)構(gòu)主要包括連接方式、網(wǎng)絡(luò)層次數(shù)和各層結(jié)點(diǎn)數(shù)。網(wǎng)絡(luò)的連接方式代表了網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)，Lippmann（1987）證明在一定條件下，一個(gè)三層的BP神經(jīng)網(wǎng)絡(luò)可以用任意精度去逼近任意映射關(guān)系，而且經(jīng)過實(shí)驗(yàn)發(fā)現(xiàn)，與一個(gè)隱層相比，用兩個(gè)隱層的網(wǎng)絡(luò)訓(xùn)練并無助于提高預(yù)測(cè)的準(zhǔn)確。因此在本研究中采用單隱層的BP網(wǎng)絡(luò)。各隱含層節(jié)點(diǎn)數(shù)的選擇并無確定的法則，只能結(jié)合實(shí)驗(yàn)并根據(jù)一些經(jīng)驗(yàn)法則：隱層節(jié)點(diǎn)數(shù)不能是各層中節(jié)點(diǎn)數(shù)最少的，也不是最多的；較好的隱層節(jié)點(diǎn)數(shù)介于輸入節(jié)點(diǎn)和輸出節(jié)點(diǎn)數(shù)之和的50%~75%之間；隱層節(jié)點(diǎn)數(shù)的理論上限由其訓(xùn)練樣本數(shù)據(jù)所限定。

三、實(shí)證結(jié)果分析

（一）logistic模型的參數(shù)估計(jì)及結(jié)果常規(guī)的線性判別模型計(jì)算得到的Z值只是個(gè)抽象的概念，無法從經(jīng)濟(jì)學(xué)上進(jìn)行解釋，Logistic回歸分析解決了這個(gè)問題，其前提假設(shè)符合經(jīng)濟(jì)現(xiàn)實(shí)和金融數(shù)據(jù)的分布規(guī)律，殘差項(xiàng)小要求服從止態(tài)分布。本文運(yùn)用SPSS自帶的Wald向后逐步選擇法篩選變量，提高模型的判別性能，從全變量模型開始，逐步提出對(duì)殘差平方和貢獻(xiàn)最小的變量，具體的回歸結(jié)果見（表2）。以2005年為例，根據(jù)SPSS計(jì)算結(jié)果中的參數(shù)表，估計(jì)Logistics模型的判別方程，（表3）反映了最大似然迭代記錄（顯示最后的迭代過程），（表4）反映了參數(shù)估計(jì)結(jié)果。步驟9是經(jīng)過9步變量篩選后最后保留在模型中的變量。從各個(gè)系數(shù)的Wald值及伴隨概率p來看，最終選定的5個(gè)指標(biāo)變量具有最高的解釋能力。綜上，2005年公司分類的logistic模型為：p=。從（表5）步驟1及步驟9的分類結(jié)果看出，剔除不顯著變量之后，分類準(zhǔn)確率并未大幅下降，可以認(rèn)為最終的模型能通過檢驗(yàn)。（表6）顯示了最終的Logistic模型參數(shù)估計(jì)結(jié)果。（表7）顯示了模型分類準(zhǔn)確率。

（二）BP神經(jīng)網(wǎng)絡(luò)的參數(shù)估計(jì)及結(jié)果首先對(duì)輸入輸出樣本進(jìn)行數(shù)據(jù)處理，消除影響預(yù)測(cè)結(jié)果的噪聲，神經(jīng)網(wǎng)絡(luò)輸入的變量要求規(guī)范在［-1，1］（若使用tanh函數(shù)）或［0，1］（若使用logistic函數(shù)）之間。本文對(duì)輸入數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理，采用以下方法：X=。X為規(guī)范后的變量，x為每個(gè)變量的實(shí)際值，x1為每個(gè)變量的最小值，x2為每個(gè)變量的最大值。Matlab中相應(yīng)的函數(shù)為［output_X，PS］=mapminmax（X，output_min，outpt_max）由于實(shí)際財(cái)務(wù)困境評(píng)價(jià)往往非常復(fù)雜，企業(yè)財(cái)務(wù)狀況的好壞與財(cái)務(wù)比率的關(guān)系常常是非線性的，而神經(jīng)網(wǎng)絡(luò)作為一種非線形建模過程，并不依賴判別模型的假設(shè)，能找出輸入與輸出的內(nèi)在聯(lián)系，因此本文決定嘗試使用神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行信用狀況的分類研究，分為訓(xùn)練集和測(cè)試集兩組對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，過程如下：第一，輸入層和輸出層神經(jīng)元數(shù)目的確定。第一層為輸入層，采用判別分析得出的模型變量為輸入變量，共有12個(gè)結(jié)點(diǎn)，每個(gè)結(jié)點(diǎn)代表相應(yīng)的財(cái)務(wù)比率。第三層為輸出層，用一個(gè)結(jié)點(diǎn)表示，訓(xùn)練導(dǎo)師值為0代表信用級(jí)別“差”的公司，1代表信用級(jí)別“好”的公司。第二，隱含層數(shù)和隱結(jié)點(diǎn)個(gè)數(shù)的確定。本文選擇單隱層的前饋BP網(wǎng)絡(luò)；通過學(xué)習(xí)逐步增加隱神經(jīng)元數(shù)，訓(xùn)練反復(fù)調(diào)整。最后定為10個(gè)隱結(jié)點(diǎn)。第三，用訓(xùn)練集的數(shù)據(jù)訓(xùn)練這個(gè)神經(jīng)網(wǎng)絡(luò)，使不同的輸入向量得到相應(yīng)的輸出值，當(dāng)誤差降到一個(gè)指定的范圍內(nèi)時(shí)，神經(jīng)網(wǎng)絡(luò)所持有的那組權(quán)數(shù)值就是網(wǎng)絡(luò)通過自學(xué)習(xí)得到的權(quán)數(shù)值，即完成了神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)過程。第四，輸入待評(píng)價(jià)的樣本（本文直接在輸入矩陣中劃分為訓(xùn)練），讓訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)輸出企業(yè)財(cái)務(wù)狀況的標(biāo)志（0或1），即實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的模式分類。神經(jīng)網(wǎng)絡(luò)的初始權(quán)重由Matlab隨機(jī)產(chǎn)生的。訓(xùn)練算法采用專用于模式分類的trainscg方法，各種訓(xùn)練參數(shù)見（表8）。由此看出，算法逐步收斂，最終達(dá)到誤差標(biāo)準(zhǔn)見（表9）。

（三）兩種模型比較分析 本文對(duì)Logistic和BP神經(jīng)網(wǎng)絡(luò)分別對(duì)我國上市公司的信用狀況給予兩類模式的評(píng)級(jí)，最終發(fā)現(xiàn)，Logistic和BP神經(jīng)網(wǎng)絡(luò)在我國市場(chǎng)上的分類效果相當(dāng)（見表10）。主流觀點(diǎn)認(rèn)為，人工神經(jīng)網(wǎng)絡(luò)具有良好的模式識(shí)別能力，可以克服統(tǒng)計(jì)等方法的限制，因?yàn)樗哂辛己玫娜蒎e(cuò)能力，對(duì)數(shù)據(jù)的分布要求不嚴(yán)格，具備處理資料遺漏或是錯(cuò)誤的能力。最為可貴的一點(diǎn)是人工神經(jīng)網(wǎng)絡(luò)具有學(xué)習(xí)能力，可以隨時(shí)依據(jù)新準(zhǔn)備的數(shù)據(jù)資料進(jìn)行自我學(xué)習(xí)、訓(xùn)練、調(diào)整其內(nèi)部的儲(chǔ)存權(quán)重參數(shù)以應(yīng)對(duì)多變的企業(yè)運(yùn)作環(huán)境。但是本文得出的結(jié)果是：傳統(tǒng)的Logistic方法和神經(jīng)網(wǎng)絡(luò)方法的分類效果相當(dāng)。現(xiàn)代人工智能方法并未表現(xiàn)出理論上的優(yōu)勢(shì)。可能的原因是：網(wǎng)絡(luò)不穩(wěn)定，訓(xùn)練樣本的仿真準(zhǔn)確率很高，但對(duì)測(cè)試樣本的仿真準(zhǔn)確率會(huì)降低；解釋性差，網(wǎng)絡(luò)最終確定后，每個(gè)神經(jīng)元的權(quán)值和閾值雖然已知，但不能很好地分析各個(gè)指標(biāo)對(duì)結(jié)果的影響程度，對(duì)現(xiàn)實(shí)問題中的經(jīng)營(yíng)管理也就不能起到很好的借鑒作用；網(wǎng)絡(luò)的輸入個(gè)數(shù)與隱層節(jié)點(diǎn)個(gè)數(shù)的確定沒有理論指導(dǎo)，只能通過經(jīng)驗(yàn)確定。

四、結(jié)論

本文選取2005年至2007年部分被進(jìn)行特別處理的118家ST公司和126家非ST公司，以其財(cái)務(wù)指標(biāo)為樣本，進(jìn)行Logistic回歸和BP神經(jīng)網(wǎng)絡(luò)分類，對(duì)這兩種信用風(fēng)險(xiǎn)評(píng)判模型在中國市場(chǎng)做了實(shí)證研究。結(jié)果發(fā)現(xiàn)：兩種模型均適用于中國上市公司兩模式分類（ST和非ST公司），而BP神經(jīng)網(wǎng)絡(luò)在我國市場(chǎng)上并未體現(xiàn)其分類的優(yōu)勢(shì)，分類準(zhǔn)確度和Logistic相當(dāng)。即使如此，本文證實(shí)了Logistic和BP神經(jīng)網(wǎng)絡(luò)模型對(duì)于我國上市公司的評(píng)級(jí)還是有效的，能夠?yàn)橥顿Y者的科學(xué)決策提供建設(shè)性的指導(dǎo)意見，使投資者理智地回避風(fēng)險(xiǎn)和獲取收益。同時(shí)，該判別模型也有利于準(zhǔn)確評(píng)價(jià)一個(gè)企業(yè)的信用狀況，從而為銀行等放貸機(jī)構(gòu)提供決策依據(jù)。

參考文獻(xiàn)：

［1］吳世農(nóng)、盧賢義：《我國上市公司財(cái)務(wù)困境的預(yù)測(cè)模型研究》，《經(jīng)濟(jì)研究》2001年第6期。

［2］齊治平、余妙志：《Logistic模型在上市公司財(cái)務(wù)狀況評(píng)價(jià)中的應(yīng)用》，《東北財(cái)經(jīng)大學(xué)學(xué)報(bào)》2002年第1期。

［3］龐素琳、王燕鳴、羅育中：《多層感知器信用評(píng)價(jià)模型及預(yù)警研究》，《數(shù)學(xué)實(shí)踐與認(rèn)識(shí)》2003年第9期。

第5篇：神經(jīng)網(wǎng)絡(luò)回歸算法范文

關(guān)鍵詞：智能傳感器；回歸分析法；人工神經(jīng)網(wǎng)絡(luò)；遺傳算法；模擬退火算法

中圖分類號(hào)：TP212.6 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：2095-1302（2017）02-00-03

0 引 言

隨著研究技術(shù)的不斷深入及數(shù)字化和虛擬儀器的快速發(fā)展，科技與發(fā)展更多的成為時(shí)代主旋律。在這個(gè)信息化時(shí)代，人們的社會(huì)活動(dòng)將主要依靠對(duì)各種信息資源的有效利用。為適應(yīng)社會(huì)的進(jìn)步，滿足人們的日常需求，傳感器漸漸成形，且越來越多的深入到現(xiàn)代科技和生活中。

傳感器是指對(duì)系統(tǒng)特性和性能指標(biāo)起決定作用的一種儀器。如果把計(jì)算機(jī)比喻為處理和識(shí)別信息的“大腦”，把通信系統(tǒng)比喻為傳遞信息的“神經(jīng)系統(tǒng)”，那么傳感器就是感知和獲取信息的“感覺器官”。傳感器能夠感受或響應(yīng)規(guī)定的被測(cè)量并按照一定的規(guī)律轉(zhuǎn)換為某種可用輸出信號(hào)的器件和裝置，通常由敏感元件和轉(zhuǎn)換元件組成[1]。它是人們獲取自然領(lǐng)域中信息的主要途徑與工具，是現(xiàn)代科學(xué)的中樞神經(jīng)系統(tǒng)，是信息系統(tǒng)的源頭，是現(xiàn)代科技的前沿技術(shù)，發(fā)展迅猛。傳感器技術(shù)同計(jì)算機(jī)技術(shù)與通信技術(shù)一起被稱為信息技術(shù)的三大支柱，許多國家已將其與通信技術(shù)和計(jì)算機(jī)技術(shù)放置于同等重要的位置。

現(xiàn)代傳感器技術(shù)具有巨大的應(yīng)用潛力，廣泛的開發(fā)空間和廣闊的發(fā)展前景。從最初的傳統(tǒng)傳感器逐漸發(fā)展為現(xiàn)在的智能傳感器。智能傳感器系統(tǒng)的實(shí)現(xiàn)是在傳感器技術(shù)、計(jì)算機(jī)技術(shù)、信號(hào)處理、網(wǎng)絡(luò)控制等技術(shù)的基礎(chǔ)上發(fā)展起來的，并隨這些技術(shù)的發(fā)展而發(fā)展。為了更大程度發(fā)揮傳感器的性能，并提高傳感器的精度，將多種傳感器與回歸方法、人工神經(jīng)網(wǎng)絡(luò)等計(jì)算智能方法和數(shù)據(jù)融合等信息處理方法相結(jié)合，廣泛應(yīng)用于越來越復(fù)雜的檢測(cè)中，同時(shí)還實(shí)現(xiàn)了自校準(zhǔn)等功能。

1 傳感器技術(shù)的發(fā)展

傳感器技術(shù)誕生于20世紀(jì)中期，與當(dāng)時(shí)的計(jì)算機(jī)技術(shù)和數(shù)字控制技術(shù)相比，傳感技術(shù)的發(fā)展呈落后趨勢(shì)，不少先進(jìn)成果仍停留在實(shí)驗(yàn)研究階段，并沒有投入到實(shí)際生產(chǎn)與應(yīng)用中。然而，隨著各國相關(guān)信息化產(chǎn)業(yè)的迅猛發(fā)展，以日本和歐美等國家地區(qū)為代表的傳感器研發(fā)及其相關(guān)技術(shù)產(chǎn)業(yè)的發(fā)展已在國際市場(chǎng)中逐步占據(jù)了較為重要的地位[2]。

我國早在20世紀(jì)60年代開始涉足傳感器制造業(yè)，由于技術(shù)基礎(chǔ)薄弱，研發(fā)水平不高，大多引用國外的芯片進(jìn)行改造和加工，自主研發(fā)的產(chǎn)品較少。經(jīng)過從“六五”到“九五”的國家攻關(guān)，我國在傳感器研究開發(fā)、設(shè)計(jì)、制造、可靠性改進(jìn)等方面獲得較為明顯的進(jìn)步，初步建立了傳感器研究、開發(fā)、生產(chǎn)和應(yīng)用的綜合體系。

一個(gè)傳統(tǒng)的傳感器測(cè)量一個(gè)物理、生物或者化學(xué)參數(shù)，例如位移、加速度、壓力、溫度、濕度、氧氣或一氧化碳含量可將其轉(zhuǎn)換成一個(gè)電壓或電流信號(hào)[3]。傳統(tǒng)意義上的傳感器的技術(shù)發(fā)展趨勢(shì)主要有以下兩方面：

（1）傳感器本身的基礎(chǔ)研究，即研究新型傳感器；

（2）和電子技術(shù)、計(jì)算機(jī)技術(shù)及通信技術(shù)組合在一起的傳感器系統(tǒng)的研究，即將新材料、新工藝與多種技術(shù)相結(jié)合，并向集成化、智能化及網(wǎng)絡(luò)化方向發(fā)展。

2 智能傳感器概述

2.1 智能傳感器定義

智能傳感器在本質(zhì)上應(yīng)定義為基于人工智能理論，利用微處理器實(shí)現(xiàn)智能處理功能的傳感器[4]。它不僅可以對(duì)信號(hào)進(jìn)行檢測(cè)、分析、處理，也在一定程度上具備了人類的記憶、思維、交流能力，它集傳統(tǒng)傳感器與微處理器于一體并賦予其智能化功能。所謂的智能包括三個(gè)層次，即生物智能、人工智能和計(jì)算機(jī)智能。

（1）生物智能由人腦的物理化學(xué)過程體現(xiàn)出來，其物質(zhì)基礎(chǔ)是有機(jī)物；

（2）人工智能則是非生物的，基礎(chǔ)是人類的知識(shí)和傳感器測(cè)量得到的數(shù)據(jù)；

（3）計(jì)算智能是由計(jì)算機(jī)軟件和現(xiàn)代數(shù)學(xué)計(jì)算方法實(shí)現(xiàn)的，其基礎(chǔ)是數(shù)值方法和傳感器測(cè)量得到的數(shù)據(jù)。

2.2 智能傳感器的優(yōu)點(diǎn)與功能

相比傳統(tǒng)傳感器，智能傳感器主要有以下基本功能：

（1）具有自校準(zhǔn)和故障自診斷功能；

（2）具有數(shù)據(jù)存儲(chǔ)、邏輯判斷和信息處理功能；

（3）具有組態(tài)功能，使用靈活；

（4）具有雙向通信和標(biāo)準(zhǔn)化數(shù)字輸出功能；

（5）人―機(jī)對(duì)話功能。

智能傳感器具有靈敏度和測(cè)量精度高、量程寬、可靠性與穩(wěn)定性高、信噪比與分辨率高、自適應(yīng)性強(qiáng)、性價(jià)比高等優(yōu)點(diǎn)，已被廣泛應(yīng)用于航天、國防、科技、生產(chǎn)等各領(lǐng)域中。

2.3 智能算法及其在智能傳感器中的應(yīng)用

某些傳感器的特性可以預(yù)先用數(shù)學(xué)模型表示，但很多傳感器特性卻無法明確表達(dá)。在這種情況下，與其通過經(jīng)驗(yàn)對(duì)電路網(wǎng)絡(luò)作復(fù)雜的調(diào)整，不如對(duì)傳感器特性作數(shù)學(xué)描述。就目前研究而言，基于計(jì)算智能方法的智能信息處理主要包括回歸方法、人工神經(jīng)網(wǎng)絡(luò)、進(jìn)化計(jì)算、模糊邏輯等計(jì)算智能方法和小波分析、數(shù)據(jù)融合等信息處理方法。各種智能算法具有以下共同特點(diǎn)：

（1）具有不確定性，因?yàn)榇蠖嗫紤]了隨機(jī)因素，不少計(jì)算過程實(shí)際是在計(jì)算機(jī)上做隨機(jī)過程的模擬；

（2）大多具有自適應(yīng)機(jī)制的動(dòng)力體系或隨機(jī)動(dòng)力體系，有時(shí)在計(jì)算過程中體系結(jié)構(gòu)還在進(jìn)行不斷的調(diào)整；

（3）不具有特殊性，針對(duì)通用的一般目標(biāo)而設(shè)計(jì)；

（4）不少算法在低維或簡(jiǎn)單的情況下顯得“笨”，但到了高維復(fù)雜情形中就具有很強(qiáng)的適應(yīng)性[5]。

高敏[6]等建立了二位回歸方程，應(yīng)用回歸分析設(shè)計(jì)了硬件系統(tǒng)，實(shí)現(xiàn)了對(duì)電流傳感器的實(shí)時(shí)溫度補(bǔ)償。史麗萍[7]等利用最小二乘法和切比雪夫不等式對(duì)傳感器數(shù)據(jù)進(jìn)行回歸分析，得出了@兩種方法誤差較小且分布均勻，可被應(yīng)用于傳感器測(cè)試的結(jié)論。趙敏[8]等在設(shè)定溫度下對(duì)傳感器進(jìn)行數(shù)據(jù)輸入，并標(biāo)定輸出數(shù)據(jù)，采用神經(jīng)網(wǎng)絡(luò)算法對(duì)輸出數(shù)據(jù)進(jìn)行分析，得出了神經(jīng)網(wǎng)絡(luò)算法可對(duì)標(biāo)定的溫度數(shù)據(jù)和非標(biāo)定的數(shù)據(jù)進(jìn)行處理的結(jié)論。郝云芳[9]等運(yùn)用遺傳算法對(duì)傳感器自校正方程中的待定常數(shù)進(jìn)行計(jì)算，可準(zhǔn)確反映出傳感器的設(shè)計(jì)和實(shí)際信息的測(cè)定要求。陳華根[10]等對(duì)模擬退火算法的定位原理和定位應(yīng)用進(jìn)行了分析，得出模擬退火算法可以較好地應(yīng)用于GPS定位的結(jié)論。

2.3.1 回歸分析法

回歸分析是以概率論與數(shù)理統(tǒng)計(jì)為基礎(chǔ)，主要對(duì)隨機(jī)現(xiàn)象統(tǒng)計(jì)資料進(jìn)行分析和推斷，用來確定兩種或兩種以上變量間相互依賴的定量關(guān)系，是數(shù)理統(tǒng)計(jì)中常用的方法之一。按照設(shè)計(jì)自變量的多少，可以分為一元回歸和多元回歸分析；按照自變量和因變量之間的關(guān)系類型，可以分為線性回歸分析和非線性回歸分析。

在一元線性回歸中，假定因變量y是隨機(jī)變量，自變量x是可以精確觀察或嚴(yán)格控制的一般變量，建立回歸方程y=β0+β1x+ε，其中β0、β1為回歸系數(shù)，ε為隨機(jī)變量，也稱為剩余誤差。一元線性回歸問題的主要問題是依據(jù)（x，y）的n組觀測(cè)數(shù)據(jù)（xi，yi）（i=1，2，…，n）給出回歸系數(shù)β0、β1的估計(jì)值b0、b1，同時(shí)對(duì)β1做統(tǒng)計(jì)檢驗(yàn)，以便指出這些估計(jì)的可靠程度，并在此基礎(chǔ)上進(jìn)行預(yù)測(cè)與控制等。

多元線性回歸分析主要有以下幾個(gè)主要步驟：

（1）根據(jù)研究的目的和內(nèi)容確定被解釋變量和解釋變量，正確選擇分析變量是得出正確結(jié)論的前提和基礎(chǔ)；

（2）模型的設(shè)定，模型設(shè)定根據(jù)研究的對(duì)象與相應(yīng)的理論加以確定；

（3）參數(shù)估計(jì)；

（4）模型的檢驗(yàn)和修正；

（5）模型的運(yùn)用。

回歸分析方法可以與智能傳感器數(shù)學(xué)模型結(jié)合使用，以傳感器測(cè)得的輸入值或輸出值作為擬合多項(xiàng)式的自變量，通過建立包括待消除的非目標(biāo)參量在內(nèi)的函數(shù)解析式，來消除非目標(biāo)參量對(duì)傳感器的影響，這樣就可對(duì)數(shù)據(jù)進(jìn)行需要的處理，實(shí)現(xiàn)非線性補(bǔ)償[11]。高敏等[6]在測(cè)溫系統(tǒng)中，用溫度傳感器對(duì)霍爾電流傳感器的工作溫度進(jìn)行實(shí)時(shí)監(jiān)測(cè)，用二維回歸分析法建立起被測(cè)電流、霍爾電流傳感器輸出電壓和其工作溫度三者之間的函數(shù)關(guān)系，并存儲(chǔ)于單片機(jī)中，結(jié)合電路實(shí)現(xiàn)對(duì)該電流傳感器的實(shí)時(shí)補(bǔ)償，構(gòu)成一個(gè)具有溫度補(bǔ)償功能的電流傳感測(cè)試系統(tǒng)，在一定程度上提高了傳感器的測(cè)量精度和自適應(yīng)能力。同時(shí)，在一個(gè)受限的測(cè)試系統(tǒng)中，與其對(duì)電路網(wǎng)絡(luò)做復(fù)雜的調(diào)整，不如對(duì)傳感器特性做數(shù)學(xué)描述，如回歸分析等[7]。

2.3.2 人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)起源于生物學(xué)上的重大發(fā)現(xiàn)，是由簡(jiǎn)單的處理單元（神經(jīng)元）大量并行分布而組成的處理機(jī)。它使用大量神經(jīng)元處理信息，而神經(jīng)元按層次結(jié)構(gòu)的形式組織，每層神經(jīng)元以加權(quán)的方式與其它層神經(jīng)元聯(lián)接，采用并行結(jié)構(gòu)和并行處理機(jī)制，因而網(wǎng)絡(luò)具有很強(qiáng)的容錯(cuò)性以及自學(xué)習(xí)、自組織及自適應(yīng)能力，能夠模擬復(fù)雜的非線性映射，具有多種典型的人工神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)。在BP神經(jīng)網(wǎng)絡(luò)中，信息是前向傳播的，而誤差是反向傳播的，即誤差的調(diào)整過程是從最后的輸出層依次向之前各層逐漸進(jìn)行。神經(jīng)網(wǎng)絡(luò)的這些特性和強(qiáng)大的非線性處理能力，恰好滿足了多傳感器數(shù)據(jù)融合技術(shù)處理的要求，故近年來得到了較快的發(fā)展和一定應(yīng)用[8，12]。

BP神經(jīng)網(wǎng)絡(luò)被用于傳感器技術(shù)中，對(duì)多傳感器數(shù)據(jù)進(jìn)行融合，在一定程度上提高了傳感器的穩(wěn)定性和準(zhǔn)確性[13]。有時(shí)為了滿足不同的測(cè)量需要，也提出了多種改進(jìn)基于BP 神經(jīng)網(wǎng)絡(luò)的校正方法。例如用于檢測(cè)瓦斯?jié)舛鹊耐咚箓鞲衅鳎漭斎肱c輸出之間存在著較嚴(yán)重的非線性，實(shí)際應(yīng)用中一般采用分段線性化校正的方法，這在一些檢測(cè)精度要求較高的場(chǎng)合中往往達(dá)不到實(shí)際需求，因此必須進(jìn)行高精度的線性化校正。劉剛[14]提出了一種基于改進(jìn)型BP神經(jīng)網(wǎng)絡(luò)的瓦斯傳感器的非線性校正方法，利用神經(jīng)網(wǎng)絡(luò)良好的非線性映射能力，通過實(shí)驗(yàn)數(shù)據(jù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)，使網(wǎng)絡(luò)逐步調(diào)節(jié)層間的連接權(quán)，逼近反非線性函數(shù)，利用該函數(shù)傳感器可實(shí)現(xiàn)按非線性特性輸出系統(tǒng)的被測(cè)量值。在位移傳感系統(tǒng)中，為了提高精度與穩(wěn)定性，有效抑制溫度漂移，可以把位移傳感器的輸出與溫度傳感器的輸出進(jìn)行數(shù)據(jù)融合。朱海梅[15]提出一種基于RBF網(wǎng)絡(luò)（徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)）的多傳感器數(shù)據(jù)融合方法，把位移傳感器和溫度傳感器的輸出送入融合中心，通過RBF網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練，得到穩(wěn)定的位移輸出。

2.3.3 遺傳算法

遺傳算法是一種概率性自適應(yīng)迭代尋優(yōu)過程。它從某一隨機(jī)產(chǎn)生的或是特定的初始群體（父體）出發(fā)，按照一定的操作規(guī)則，如選擇、交叉、變異等，不斷進(jìn)行迭代計(jì)算，并根據(jù)不同個(gè)體的適應(yīng)度保留優(yōu)良淘汰次品，即便所定義的適應(yīng)值函數(shù)是不連續(xù)的、非規(guī)則的，也能引導(dǎo)搜索過程向最優(yōu)解逼近。

目前，最小二乘法作為一種較為成熟的軟件校正，為了克服它得不到全局最優(yōu)解且有可能造成矩陣方程出現(xiàn)病態(tài)而破壞其方法有效性的特點(diǎn)[16]，郝云芳等[9]把遺傳算法應(yīng)用于擬合傳感器的特性方程，求解智能傳感器自校正系統(tǒng)中的待定常數(shù)值，它可以很好地解決當(dāng)噪音存在時(shí)，傳統(tǒng)自校正系統(tǒng)求解過程中方程遇到矩陣的病態(tài)問題，從而實(shí)現(xiàn)傳感器特性的線性化。對(duì)于輸入輸出關(guān)系是本質(zhì)非線性的傳感器，沈毅等[17]提出了一種基于人工神經(jīng)網(wǎng)絡(luò)的紙漿濃度傳感器非線性估計(jì)和動(dòng)態(tài)標(biāo)定方法，錢光耀等[18]采用混合遺傳算法模型擬合其輸出特性，這些均表明，當(dāng)環(huán)境條件發(fā)生變化時(shí)，只要測(cè)量幾組數(shù)據(jù)對(duì)，該方法可自動(dòng)重新訓(xùn)練網(wǎng)絡(luò)，獲得新的多項(xiàng)式系數(shù)，實(shí)現(xiàn)濃度傳感器的非線性估計(jì)和在線動(dòng)態(tài)標(biāo)定。

在理想情況下，多傳感器、多目標(biāo)靜態(tài)數(shù)據(jù)關(guān)聯(lián)選用遺傳算法也是可行的，很有應(yīng)用前景。王寧等[19]采用多傳感器對(duì)數(shù)目未知的目標(biāo)進(jìn)行檢測(cè)，并通過遺傳算法來解決靜態(tài)數(shù)據(jù)關(guān)聯(lián)問題，且關(guān)聯(lián)成功率較高。因此，遺傳算法是一種能在復(fù)雜空間中進(jìn)行魯棒搜索的方法，可以解決許多傳統(tǒng)優(yōu)化方法難以解決的問題。

2.3.4 模擬退火算法

模擬退火算法是模擬物理熱力學(xué)中固體退火原理的一種全局優(yōu)化算法。在對(duì)固體退火過程研究的啟示下，以組合優(yōu)化問題和固體退火過程之間存在的相似性為基礎(chǔ)，把Metropolis接受試蛞入優(yōu)化過程中，通過恰當(dāng)控制被稱為溫度參數(shù)的下降過程實(shí)現(xiàn)模擬退火，從而得到全局的近似最優(yōu)解，該算法適用于解大型組合優(yōu)化問題的技術(shù)。

模擬退火的實(shí)質(zhì)是進(jìn)行兩次循環(huán)運(yùn)算，內(nèi)循環(huán)是在同一溫度下的多次擾動(dòng)產(chǎn)生不同模型狀態(tài)，并按照Metropolis概率接受準(zhǔn)則接收新模型，因此內(nèi)循環(huán)以模型擾動(dòng)次數(shù)控制。外循環(huán)包括溫度下降的模擬退火、算法迭代次數(shù)的遞增和算法停止的條件，因此外循環(huán)基本是由迭代次數(shù)控制的[10]。

模擬退火算法的應(yīng)用廣泛，而無線傳感器網(wǎng)絡(luò)在國防、環(huán)境監(jiān)測(cè)、空間探索、醫(yī)療衛(wèi)生、精細(xì)農(nóng)業(yè)、交通管理、制造業(yè)、反恐抗災(zāi)等領(lǐng)域具有廣闊的應(yīng)用前景[20]。有學(xué)者巧妙地將二者結(jié)合使用，取得了良好的效果。李玉增等[21]提出一種新的無線傳感器網(wǎng)絡(luò)節(jié)點(diǎn)定位算法，并通過仿真驗(yàn)證了該算法具有良好的效果。趙仕俊等[22]在對(duì)無線傳感器網(wǎng)絡(luò)定位的基礎(chǔ)上采用模擬退火算法作為后期優(yōu)化，提高了定位精度，且設(shè)計(jì)簡(jiǎn)單、計(jì)算量小，適用性較好。在壓力傳感器的測(cè)控系統(tǒng)中，為了消除非目標(biāo)參量對(duì)壓力傳感器輸入―輸出特性的影響，樊曉宇等[23]采用遺傳模擬退火算法對(duì)壓力傳感器非線性特性進(jìn)行了改善，實(shí)現(xiàn)了智能抑制干擾和溫度補(bǔ)償，因此其可靠性好、測(cè)量精度高。

3 結(jié) 語

智能傳感器已廣泛應(yīng)用于電子產(chǎn)品加工、精密儀器制造、高科技產(chǎn)品生產(chǎn)等行業(yè)，例如機(jī)器人的研發(fā)就與高科技傳感器密不可分，智能傳感器可以收集周圍環(huán)境信息并發(fā)送指令給機(jī)器人，從而控制它的活動(dòng)；在工業(yè)生產(chǎn)領(lǐng)域，智能傳感器可控制商品的各類指標(biāo)，以提高產(chǎn)品質(zhì)量；在醫(yī)學(xué)領(lǐng)域，傳感器已被應(yīng)用于各類醫(yī)學(xué)儀器中，用以測(cè)量人體血液、內(nèi)臟、骨骼、神經(jīng)等各方面的指標(biāo)，為醫(yī)生確診提供依據(jù)，使廣大患者受益，提高人們的健康水平；在日常生活中，各種由智能傳感器制造的先進(jìn)家用電器不斷問世，更加方便了人們的生活。當(dāng)代智能傳感器技術(shù)正在向著虛擬化、網(wǎng)絡(luò)化、信息化方面發(fā)展，并與計(jì)算機(jī)技術(shù)和芯片技術(shù)緊密結(jié)合，應(yīng)用于各個(gè)方面，目前研發(fā)適用于各種特殊條件下的智能傳感器將仍是學(xué)術(shù)界一項(xiàng)重要的任務(wù)。

參考文獻(xiàn)

[1]孫寶元，楊寶清.傳感器及其應(yīng)用手冊(cè)[M].北京：機(jī)械工業(yè)出版社，2004：307-374.

[2]李建壯，楊彥濤.傳感器技術(shù)的應(yīng)用與發(fā)展趨勢(shì)展望[J].中國科技信息，2011 （17）：120，126.

[3] Lee K. Sensor Networking and Interface Stardardization [C].In：Proceedings of the Instrumentation and Measurement Conference （IMTC） 2001，Budapest，Hungary，May 21-23，2001：147-152.

[4]孫圣和.現(xiàn)代傳感器發(fā)展方向[J].電子測(cè)量與儀器學(xué)報(bào)，2009，23 （1）：1-10.

[5]何金田，劉曉文.智能傳感器原理，設(shè)計(jì)與應(yīng)用[M].北京：電子工業(yè)出版社，2012.

[6]高敏，盧文科，孫仁濤.基于二維回歸分析法的霍爾電流傳感器溫度補(bǔ)償[J].電子測(cè)量與儀器學(xué)報(bào)，2009，23（2）：100-104.

[7]史麗萍，孫寶元，于浩洋.多項(xiàng)式回歸分析在傳感器測(cè)試中的應(yīng)用[J].河北工業(yè)大學(xué)學(xué)報(bào)，2003，32（3）：41-44.

[8]趙敏，潘衛(wèi)明，楊燦軍.基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)融合技術(shù)在諧振式密度傳感器中的運(yùn)用[J].傳感技術(shù)學(xué)報(bào)， 2000，13（3）：187-192.

[9]郝云芳，馮曉明，黃天祿.遺傳算法在傳感器非線性自校正中的應(yīng)用[J].傳感器技術(shù)，2003，22（6）：56-57，61.

[10]華根，李麗華，許惠平.模擬退火定位算法研究[J].同濟(jì)大學(xué)學(xué)報(bào)（自然科學(xué)版），2005，33（9）：1240-1243.

[11]杜西亮，孫慧明.多項(xiàng)式回歸在智能傳感器線性化中的應(yīng)用[J].傳感技術(shù)學(xué)報(bào)，2005，18（1）：212-214.

[12]蔡兵.基于神經(jīng)網(wǎng)絡(luò)的半導(dǎo)體壓力傳感器數(shù)據(jù)融合技術(shù)[J].湖北文理學(xué)院學(xué)報(bào)，2002，23（2）： 16-18.

[13]張荷芳，薛靜云.壓力傳感器溫度補(bǔ)償?shù)腂P神經(jīng)網(wǎng)絡(luò)算法[J].西安工業(yè)大學(xué)學(xué)報(bào)，2013，33（2）：163-167.

[14]劉剛.基于改進(jìn)型BP神經(jīng)網(wǎng)絡(luò)的瓦斯傳感器的非線性校正[J].電氣自動(dòng)化，2007，29（3）：61-63.

[15]朱海梅.神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)融合在位移傳感系統(tǒng)中的應(yīng)用[J].南京師范大學(xué)學(xué)報(bào)（工程技術(shù)版），2006，6（1）：28-32.

[16]陳國良.遺傳算法及應(yīng)用[M].北京：國防工業(yè)出版社，1995：12-30.

[17]沈毅，張建秋，王世忠，等.紙漿濃度傳感器非線性估計(jì)和動(dòng)態(tài)標(biāo)定的一種新方法[J].儀器儀表學(xué)報(bào)，1997，18（1）：1-6，13.

[18]錢光耀，趙光興，韓華明.基于混合遺傳算法的濃度傳感器的非線性估計(jì)和動(dòng)態(tài)標(biāo)定[J].中國儀器儀表，2006 （9）：44-47.

[19]王寧，郭立，金大勝，等.遺傳算法在多傳感器多目標(biāo)靜態(tài)數(shù)據(jù)關(guān)聯(lián)中的應(yīng)用[J].數(shù)據(jù)采集與處理，1999，14（1）：18-21.

[20] Akyildiz LF， Su WL， Sankarasubramaniam Y， et al.A survey on sensor networks[J].IEEE Communications Magazine， 2002，40（8）： 102-114.

[21]李玉增，張雪凡，施惠昌，等.模擬退火算法在無線傳感器網(wǎng)絡(luò)定位中的應(yīng)用[J].通信技術(shù)，2009，42（1）：211-213.

第6篇：神經(jīng)網(wǎng)絡(luò)回歸算法范文

關(guān)鍵詞：LM-BP網(wǎng)絡(luò)；糧食產(chǎn)量；預(yù)測(cè)

中圖分類號(hào)：S11+4；TP183 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：0439-8114（2012）23-5479-03

Forecasting Corn Production Based on LM-BP Neural Network

GUO Qing-chun1，3，4，HE Zhen-fang2，4，LI Li3

（1. Teaching Affairs Office， Shaanxi Radio & TV University， Xi’an 710068， China； 2. Cold and Arid Regions Environmental and Engineering Research Institute， Chinese Academy of Sciences， Lanzhou 730000， China； 3. Institute of Earth Environment Research， Chinese Academy of Sciences， Xi’an 710075， China； 4. Graduate University， Chinese Academy of Sciences， Beijing 100049， China）

Abstract： A corn production porecasting method based on improved LM-BP was proposed. According to measurement and agricultural significance principle， 9 factors of grain-sown area， fertilizer input， effective grain irrigated area， stricken area， rural electricity consumption， total agriculture mechanism power， the population engaged in agriculture， rural residents family productive assets， the average net income of rural households were extracted as the network input； corn production was extracted as the network output. The LM algorithm could minimize the error， and the modeling results were evaluated with the correlation coefficients， relative error， etc. For training sample set， the correlation coefficient between the simulated value and the actual value was 0.996， the average relative error was 0.47%； for testing sample set， the correlation coefficient between the forecasted value and the actual value was 0.994， the average relative error was 0.56%. The results showed that the improved LM-BP model could improve simulation precision and stability of the model. This method is effective and feasible for corn production prediction.

Key words： LM-BP network； corn production； forecast

糧食產(chǎn)量預(yù)測(cè)是復(fù)雜的農(nóng)學(xué)和統(tǒng)計(jì)學(xué)問題，受自然環(huán)境、政策、資源投入等多因素的影響。國內(nèi)外的相關(guān)研究中，不少學(xué)者構(gòu)建了許多很有價(jià)值的理論假說和預(yù)測(cè)模型，主要有4類：投入產(chǎn)出模型、遙感技術(shù)預(yù)測(cè)模型、氣候生產(chǎn)力模型及多元回歸和因子分析模型，這些模型從不同角度對(duì)糧食產(chǎn)量預(yù)測(cè)進(jìn)行了研究[1，2]。但這些模型多數(shù)采用傳統(tǒng)的統(tǒng)計(jì)預(yù)測(cè)技術(shù)，如時(shí)間序列統(tǒng)計(jì)模型、定性與推斷技術(shù)、因果關(guān)系方法。而糧食產(chǎn)量是受不確定性因素影響的，是一個(gè)復(fù)雜的非線性系統(tǒng)。

人工神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的處理大規(guī)模復(fù)雜非線性系統(tǒng)的能力。近年來，許多學(xué)者已將人工神經(jīng)網(wǎng)絡(luò)成功地應(yīng)用于實(shí)際問題的預(yù)測(cè)中，取得了令人滿意的結(jié)果[3-12]。為此，采用改進(jìn)算法的神經(jīng)網(wǎng)絡(luò)建立了糧食產(chǎn)量預(yù)測(cè)系統(tǒng)，結(jié)果表明，基于改進(jìn)算法的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型具有良好的預(yù)測(cè)精度、訓(xùn)練時(shí)間短、收斂速度快等特點(diǎn)。

1 仿真試驗(yàn)數(shù)據(jù)

1.1 預(yù)測(cè)因子的選擇

根據(jù)能夠計(jì)量及具有農(nóng)學(xué)意義的原則，結(jié)合農(nóng)業(yè)專家的意見，通過前期大量的影響因子分析[13-15]，選取1994-2009年的糧食總產(chǎn)量為輸出因子，初步選取糧食作物播種面積、化肥施用量、糧食作物有效灌溉面積、受災(zāi)面積、農(nóng)村用電量、農(nóng)業(yè)機(jī)械總動(dòng)力、從事農(nóng)業(yè)的人口、農(nóng)村居民家庭生產(chǎn)性固定資產(chǎn)原值、農(nóng)村居民家庭平均純收入9個(gè)因子作為輸入因子構(gòu)筑模型，原始數(shù)據(jù)來源于2010年《中國統(tǒng)計(jì)年鑒》。

1.2 網(wǎng)絡(luò)輸入的初始化

為了消除不同因子之間由于量綱和數(shù)值大小的差異而造成的誤差，以及由于輸入數(shù)值過大造成溢出，首先需要對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理，即把輸入數(shù)據(jù)轉(zhuǎn)化為[0，1]或[-1，1]的數(shù)。通過公式y(tǒng)=（x-min（x））/（max（x）-min（x））對(duì)糧食產(chǎn)量進(jìn)行處理，得到了符合網(wǎng)絡(luò)要求的數(shù)據(jù)。減少了識(shí)別數(shù)據(jù)的動(dòng)態(tài)范圍，使預(yù)測(cè)成功的可能性得以提高。然后將數(shù)據(jù)分成兩部分：網(wǎng)絡(luò)的訓(xùn)練樣本集（前11年的數(shù)據(jù)）和檢測(cè)樣本集（后5年的數(shù)據(jù)）。

2 預(yù)測(cè)仿真模型的建立

BP網(wǎng)絡(luò)是誤差反向傳播（Back Propagation）人工神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)稱，是目前計(jì)算方法比較成熟、應(yīng)用比較廣泛、效果比較好、模擬生態(tài)經(jīng)濟(jì)系統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型，但傳統(tǒng)BP網(wǎng)絡(luò)存在學(xué)習(xí)過程收斂慢，局部極小、魯棒性不好、網(wǎng)絡(luò)性能差等缺點(diǎn)。為了改進(jìn)算法，引入Levenberg-Marquardt優(yōu)化算法，其基本思路是使其每次迭代不再沿著單一的負(fù)梯度方向，而是允許誤差沿著惡化的方向進(jìn)行搜索，同時(shí)通過在最速梯度下降法和高斯-牛頓法之間自適應(yīng)調(diào)整來優(yōu)化網(wǎng)絡(luò)權(quán)值，使網(wǎng)絡(luò)能夠有效收斂，大大提高網(wǎng)絡(luò)的收斂速度和泛化能力，它能夠降低網(wǎng)絡(luò)對(duì)誤差曲面局部細(xì)節(jié)的敏感性，有效抑制網(wǎng)絡(luò)陷入局部極小。

Levenberg-Marquardt算法實(shí)際上是梯度下降法和擬牛頓法的結(jié)合，該算法期望在不計(jì)算Hessian矩陣的情況下獲得高階的訓(xùn)練速度，其公式表達(dá)為XK+1=XK-[JTJ+μI]-1JTe，其中，JT為雅克比矩陣，e是網(wǎng)絡(luò)誤差向量。如果μ=0的話，就變成采用近似Hessian矩陣的擬牛頓法；如果μ很大，即成為小步長(zhǎng)的梯度下降法，由于牛頓法在誤差極小點(diǎn)附近通常能夠收斂得更快更準(zhǔn)確，因此算法的目的就是盡快轉(zhuǎn)換為牛頓法。如果某次迭代成功，誤差性能函數(shù)減小，那么就減小μ值，而如果迭代失敗，就增加μ值。如此可以使得誤差性能函數(shù)隨著迭代的進(jìn)行而下降到極小值。Matlab工具箱提供了Trainlm 函數(shù)Levenberg-Marquardt算法的計(jì)算。

網(wǎng)絡(luò)結(jié)構(gòu)的選擇是應(yīng)用BP網(wǎng)絡(luò)成功與否的關(guān)鍵因素之一，一個(gè)規(guī)模過大的神經(jīng)網(wǎng)絡(luò)容易造成網(wǎng)絡(luò)容錯(cuò)性能下降、網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜、泛化能力較差等缺陷；而規(guī)模過小的神經(jīng)網(wǎng)絡(luò)往往對(duì)訓(xùn)練樣本的學(xué)習(xí)較為困難，學(xué)習(xí)過程可能不收斂，影響網(wǎng)絡(luò)的表現(xiàn)能力，降低網(wǎng)絡(luò)應(yīng)用的精度。理論研究表明，只要具有足夠的隱層神經(jīng)元，3層人工神經(jīng)網(wǎng)絡(luò)可以無限地逼近任何時(shí)間序列和函數(shù)，因此這里采用含有一個(gè)隱含層的3層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。隱含層神經(jīng)元數(shù)的選擇較為復(fù)雜，它關(guān)系到整個(gè)BP網(wǎng)絡(luò)的精確度和學(xué)習(xí)效率，但目前，它的選取尚無一般的指導(dǎo)原則，只能根據(jù)一些經(jīng)驗(yàn)法則或通過試驗(yàn)來確定，如Hecht-Nielsen提出的“2N+1”法，由輸入矩陣可以確定輸入層節(jié)點(diǎn)數(shù)為9，根據(jù)“2N+1”這一經(jīng)驗(yàn)，可確定隱含層節(jié)點(diǎn)數(shù)為19；輸出層節(jié)點(diǎn)數(shù)為1，這樣就構(gòu)成了一個(gè)9-19-1的BP神經(jīng)網(wǎng)絡(luò)模型，其中，訓(xùn)練函數(shù)為Trainlm，輸入層到隱含層以及隱含層到輸出層的傳遞函數(shù)分別為L(zhǎng)ogsig和Purelm，最大訓(xùn)練次數(shù)Epochs為50 000次；訓(xùn)練誤差精度Goal為0.001；訓(xùn)練時(shí)間間隔Show為5，學(xué)習(xí)步長(zhǎng)Lc為0.5，動(dòng)量因子Me為0.95，其他參數(shù)均選用缺省值。

3 仿真結(jié)果

取1994-2004年的11個(gè)實(shí)際產(chǎn)量作為訓(xùn)練樣本集，將2005-2009年的5個(gè)實(shí)際產(chǎn)量作為預(yù)測(cè)效果檢測(cè)樣本集。將1994-2004年9個(gè)指標(biāo)的原始數(shù)據(jù)作為BP神經(jīng)網(wǎng)絡(luò)的輸入樣本，糧食產(chǎn)量實(shí)際值作為輸出樣本，然后對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，可得相應(yīng)結(jié)點(diǎn)的權(quán)值與閾值，將2005-2009年9個(gè)指標(biāo)的原始數(shù)據(jù)（檢測(cè)樣本）作為網(wǎng)絡(luò)的仿真輸入，得到最終預(yù)測(cè)結(jié)果，表1是1994-2009年中國糧食實(shí)際產(chǎn)量和神經(jīng)網(wǎng)絡(luò)方法模擬值對(duì)比分析結(jié)果。

從表1可以看出，訓(xùn)練樣本集中擬合精度平均相對(duì)誤差為0.47%，最大值為2004年的1.13%，模擬值和實(shí)際值的相關(guān)系數(shù)為0.996；檢測(cè)樣本集中，BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型得到的預(yù)測(cè)值和實(shí)際值具有較好的擬合效果，平均相對(duì)誤差為0.56%，最大相對(duì)誤差為1.11%，最小相對(duì)誤差僅為0.04%，模擬值和實(shí)際值的相關(guān)系數(shù)為0.994；2005-2009年的糧食產(chǎn)量預(yù)測(cè)值的相對(duì)誤差均較小。這種改進(jìn)后的方法比較有效，利用該算法獲得的預(yù)測(cè)數(shù)據(jù)結(jié)果較好。

總之，由以上分析結(jié)果可以看出，無論是擬合精度還是預(yù)測(cè)5個(gè)獨(dú)立樣本，BP神經(jīng)網(wǎng)絡(luò)模型的精度都比較高。但從預(yù)測(cè)結(jié)果也可以看出，BP網(wǎng)絡(luò)模型方法預(yù)測(cè)的平均相對(duì)誤差為0.56%，平均預(yù)測(cè)精度仍有待提高。

4 小結(jié)與討論

針對(duì)中國糧食產(chǎn)量預(yù)測(cè)問題，將BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于國家糧食安全預(yù)警系統(tǒng)中，采用1994-2004年的中國糧食產(chǎn)量和影響因子的歷史數(shù)據(jù)建立模型，利用2005-2009年的數(shù)據(jù)檢驗(yàn)?zāi)Ｐ停芯康贸鲆韵陆Y(jié)論。

1）由于常規(guī)統(tǒng)計(jì)模型難以滿足糧食產(chǎn)量的預(yù)測(cè)要求，提出的改進(jìn)BP算法較好地解決了神經(jīng)網(wǎng)絡(luò)收斂慢和易陷入局部極小值的問題，通過建立預(yù)測(cè)模型，運(yùn)用該改進(jìn)方法對(duì)中國糧食產(chǎn)量進(jìn)行了預(yù)測(cè)，實(shí)例證明，運(yùn)用基于Levenberg-Marquardt算法的改進(jìn)BP神經(jīng)網(wǎng)絡(luò)，無論從訓(xùn)練結(jié)果精度上還是在收斂性能上都表現(xiàn)出較好的效果，說明運(yùn)用該方法來預(yù)測(cè)糧食產(chǎn)量是完全可行的，彌補(bǔ)了傳統(tǒng)BP算法的不足，提高了預(yù)測(cè)精度，加快了收斂速度，而且具有很好的外延性。

2）BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)精度高，預(yù)測(cè)值和實(shí)際產(chǎn)量的擬合性好。BP神經(jīng)網(wǎng)絡(luò)法允許原始的隨機(jī)數(shù)據(jù)或數(shù)據(jù)中含有較多的噪聲，這是它區(qū)別于其他模型的最大優(yōu)勢(shì)，因而任何能用傳統(tǒng)的模型分析或統(tǒng)計(jì)方法解決的問題，BP神經(jīng)網(wǎng)絡(luò)能處理得更好。在進(jìn)行糧食產(chǎn)量預(yù)測(cè)時(shí)，BP神經(jīng)網(wǎng)絡(luò)法是一種非常理想的預(yù)測(cè)方法，但是在構(gòu)造神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型時(shí)，要注意正確選擇影響因素，不要漏掉對(duì)預(yù)測(cè)對(duì)象有重大影響的因素。

由于糧食產(chǎn)量受各種因素的影響，波動(dòng)性較大，除了受到上述9種因素的影響外，在很大程度上還受國家宏觀政策、作物品種、耕作技術(shù)等因素的影響，如何更全面地將難以量化的因素也納入模型中進(jìn)行考慮分析，從而不斷地改進(jìn)預(yù)測(cè)模型、提高預(yù)測(cè)精度，是需要進(jìn)一步研究的工作。

參考文獻(xiàn)：

[1] 和文超，師學(xué)義，鄧青云，等.土地利用規(guī)劃修編中糧食產(chǎn)量預(yù)測(cè)方法比較[J].農(nóng)業(yè)工程學(xué)報(bào)，2011，27（12）：348-352.

[2] 周永生，肖玉歡，黃潤(rùn)生. 基于多元線性回歸的廣西糧食產(chǎn)量預(yù)測(cè)[J]. 南方農(nóng)業(yè)學(xué)報(bào)，2011，42（9）：1165-1167.

[3] 王巧華，文友先.基于BP神經(jīng)網(wǎng)絡(luò)的雞蛋大小分級(jí)方法研究[J].湖北農(nóng)業(yè)科學(xué)，2005（1）：97-99.

[4] 于平福，陸宇明，韋莉萍，等.基于小波廣義回歸神經(jīng)網(wǎng)絡(luò)的糧食產(chǎn)量預(yù)測(cè)模型[J].湖北農(nóng)業(yè)科學(xué)，2011，50（10）：2135-2137.

[5] 李紅平，魏振方，郭衛(wèi)霞.小麥白粉病的數(shù)學(xué)模型預(yù)測(cè)[J].湖北農(nóng)業(yè)科學(xué)，2011，50（17）：3611-3613.

[6] 李 艷，劉 軍.農(nóng)產(chǎn)品價(jià)格預(yù)測(cè)系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[J].湖北農(nóng)業(yè)科學(xué)，2011，50（14）：2976-2978.

[7] 黃 華，黎未然.人工神經(jīng)網(wǎng)絡(luò)在柚皮總黃酮提取中的應(yīng)用[J].湖北農(nóng)業(yè)科學(xué)，2011，50（10）：2088-2091.

[8] 汪東升，李小昱，李 鵬，等.基于小波和神經(jīng)網(wǎng)絡(luò)的柴油機(jī)失火故障檢測(cè)[J].湖北農(nóng)業(yè)科學(xué)，2011，50（15）：3181-3183.

[9] 梁 丹，李小昱，李培武，等.近紅外光譜法對(duì)食用植物油品種的快速鑒別[J].湖北農(nóng)業(yè)科學(xué)，2011，50（16）：3383-3385.

[10] 吳澤鑫，李小昱，王 為，等. 基于近紅外光譜的番茄農(nóng)藥殘留無損檢測(cè)方法研究[J].湖北農(nóng)業(yè)科學(xué)，2010，49（4）：961-963.

[11] 章 英.基于收購質(zhì)量的烤煙煙葉無損檢測(cè)技術(shù)研究綜述[J].湖北農(nóng)業(yè)科學(xué)，2011，50（7）：1297-1300.

[12] 李 哲，李干瓊，董曉霞，等.農(nóng)產(chǎn)品市場(chǎng)價(jià)格短期預(yù)測(cè)研究進(jìn)展[J]. 湖北農(nóng)業(yè)科學(xué)，2011，50（17）：3666-3675.

[13] 宰松梅，溫 季，仵 峰，等.基于灰色關(guān)聯(lián)分析的遼寧省糧食產(chǎn)量預(yù)測(cè)模型[J].節(jié)水灌溉，2011（5）：64-66.

第7篇：神經(jīng)網(wǎng)絡(luò)回歸算法范文

1．1光譜噪聲去除由于實(shí)驗(yàn)條件如光譜儀硬件和環(huán)境光等因素影響，采集的原始光譜數(shù)據(jù)會(huì)包含噪聲，需要采用光譜預(yù)處理的方法把這些噪聲去除，同時(shí)保留有用光譜信息。采用SG平滑算法，經(jīng)驗(yàn)?zāi)B(tài)分解（empiricalmodedecomposition，EMD）算法和小波分析（wavelettransform，WT）去噪算法等對(duì)光譜進(jìn)行處理，并對(duì)三種去噪算法進(jìn)行比較。

1．2潛在變量（LatentVariable，LV）在利用PLS方法建立模型時(shí)，非常關(guān)鍵的一點(diǎn)是所選取的對(duì)于建模最優(yōu)的LV個(gè)數(shù)，LV和主成分分析中主成分類似，第一個(gè)LV貢獻(xiàn)率最大，第二個(gè)次之，以此類推。如果選取的LV個(gè)數(shù)偏少，則無法全面代表樣本的光譜特性，造成模型精度下降，影響模型的預(yù)測(cè)效果。而如果選取的LV個(gè)數(shù)過多，則會(huì)帶入模型的噪聲，干擾建模效果。

1．3建模分析方法用三種建模方法，分別是偏最小二乘回歸（partialleastsquares，PLS），BP神經(jīng)網(wǎng)絡(luò)（backpropagationneuralnet－work，BPNN）和偏最小二乘支持向量機(jī)（leastsquaresupportvectormachine，LS－SVM）。采用PLS建模方法時(shí)，基于全譜作為模型輸入，使用BP神經(jīng)網(wǎng)絡(luò)和LS－SVM建模時(shí)，把PLS回歸模型得到的LV作為輸入，進(jìn)行對(duì)比分析。神經(jīng)網(wǎng)絡(luò)由一個(gè)輸入層、一個(gè)或多個(gè)隱含層和一個(gè)輸出層構(gòu)成。BP神經(jīng)網(wǎng)絡(luò)是一種非線性的建模方法，廣泛應(yīng)用于光譜建模分析中［12］。LS－SVM是在經(jīng)典支持向量機(jī)算法基礎(chǔ)上作了進(jìn)一步改進(jìn)，能夠同時(shí)進(jìn)行線性和非線性建模分析，是解決多元建模的一種快速方法。

1．4定量模型評(píng)價(jià)標(biāo)準(zhǔn)定量模型的評(píng)價(jià)指標(biāo)主要有決定系數(shù)和均方根誤差（rootmeansquareerror，RMSE）。建模集決定系數(shù)用R2表示，預(yù)測(cè)集決定系數(shù)用r2表示。決定系數(shù)越接近于1，表示模型相關(guān)性越好，預(yù)測(cè)效果更好。一般來說，RMSE越小說明模型的誤差越小，模型精度越高。建模集均方根誤差用RMSEC表示，預(yù)測(cè)集均方根誤差RMSEP表示。

2結(jié)果和討論

2．1UV／Vis光譜圖及COD濃度的統(tǒng)計(jì)分析圖1為甲魚養(yǎng)殖水樣本的UV／Vis原始光譜曲線，從圖中可以看出各個(gè)水樣的光譜曲線的趨勢(shì)相類似，沒有呈現(xiàn)顯著性差異，由于水體中硝酸鹽、有機(jī)酸、腐殖質(zhì)等物質(zhì)對(duì)紫外光的強(qiáng)烈吸收，在波段200～260nm區(qū)域的吸收度明顯高于其他區(qū)域。試驗(yàn)水體樣本COD值統(tǒng)計(jì)結(jié)果如表1所示，模型的建模集和預(yù)測(cè)集COD值覆蓋了較大范圍，有助于建立準(zhǔn)確、穩(wěn)定和具有代表性的模型。

2．2基于全波長(zhǎng)的PLS模型為了更好的分析三種消噪算法檢測(cè)水體COD含量的性能，將對(duì)不同預(yù)處理方法獲取的評(píng)價(jià)指標(biāo)相比較，基于全譜的PLS模型的計(jì)算結(jié)果如表2所示。由表2可知，小波算法去除噪聲后的光譜PLS模型取得了最佳結(jié)果，建模集的R2為0．79，RMSEC為15．89mg•L－1，預(yù)測(cè)集的r2為0．78，RMSEP為15．92mg•L－1。SG平滑和EMD算法雖然部分去除了噪聲，但建模效果并沒有得到相應(yīng)提高。故后面建模分析在WT分析基礎(chǔ)上進(jìn)行。

2．3LV一般選取最優(yōu)LV個(gè)數(shù)的標(biāo)準(zhǔn)觀察RMSEP值隨LV個(gè)數(shù)變化情況，如圖3所示，當(dāng)LV個(gè)數(shù)較少時(shí)，RMSEP值較大，隨著LV個(gè)數(shù)的增加，RMSEP隨之減小，當(dāng)LV個(gè)數(shù)增加到6時(shí)，RMSEP的值保持穩(wěn)定，LV個(gè)數(shù)繼續(xù)增加，RM－SEP值也沒有隨著增加。取前6個(gè)LVs作為偏最小二乘支持向量積的輸入建立模型。從貢獻(xiàn)率角度解釋，PLS建模得到的6個(gè)LVs分別作為L(zhǎng)S－SVM的輸入，之所以取前6個(gè)是因?yàn)檫@樣幾乎可以100％表達(dá)原始光譜有用信息，如表3所示，且降低了模型復(fù)雜度，提高模型運(yùn)行速度和精度。

2．4BP神經(jīng)網(wǎng)絡(luò)模型根據(jù)前文得到的結(jié)果，將表3中選出的LVs作為BP神經(jīng)網(wǎng)絡(luò)模型輸入，BP神經(jīng)網(wǎng)絡(luò)模型的計(jì)算結(jié)果如表4所示。分析表4可知，將6個(gè)LVs作為L(zhǎng)S－SVM模型輸入的結(jié)果，其建模集的R2為0．82，RMSEC為15．77mg•L－1，預(yù)測(cè)集的r2為0．81，RMSEP為16．67mg•L－1。

2．5基于LVs輸入的LS－SVM模型LS－SVM模型預(yù)測(cè)結(jié)果如表5所示。采用LVs作為L(zhǎng)SSVM模型輸入，得到的結(jié)果優(yōu)于基于BP神經(jīng)網(wǎng)絡(luò)模型。其建模集的R2為0．83，RMSEC為14．78mg•L－1，預(yù)測(cè)集的r2為0．82，RMSEP為14．82mg•L－1。

2．6PLS，BP神經(jīng)網(wǎng)絡(luò)和LS－SVM模型比較PLS，BPNN和LS－SVM建模方法的結(jié)果比較如圖3所示，Cal表示模型的建模集（calibration），Pre表示模型的預(yù)測(cè)集（prediction）。不難發(fā)現(xiàn)，在LS－SVM模型和BP神經(jīng)網(wǎng)絡(luò)模型中，基于LV作為模型輸入－建立的LS－SVM模型取得了最優(yōu)的效果，BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)效果較優(yōu)，且LS－SVM模型和BP神經(jīng)網(wǎng)絡(luò)模型都優(yōu)于全波長(zhǎng)的PLS模型結(jié)果。

3結(jié)語

第8篇：神經(jīng)網(wǎng)絡(luò)回歸算法范文

關(guān)鍵詞：回彈-超聲-拔出綜合法；混凝土；強(qiáng)度；檢測(cè)

Abstract: in the theoretical analysis and test research, it established concrete rebound-ultrasound-pulled out of the synthesis detection artificial neural network model. Comparing the traditional regression algorithm, the artificial neural network model of concrete strength has higher precision.

Keywords: rebound-ultrasound-pull out the synthesis; Concrete; Strength; detection

中圖分類號(hào)： TU528 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：

1 引言

混凝土的強(qiáng)度可采用無損檢測(cè)的方法進(jìn)行推定，如采用回彈法、聲速法、拔出法或綜合法。綜合法由于采用多項(xiàng)物理參數(shù)，能較全面地反映構(gòu)成混凝土強(qiáng)度的各種因素，并且還能夠抵消部分影響強(qiáng)度與物理量相關(guān)關(guān)系的因素，因而它比單一物理量的無損檢測(cè)方法具有更高的準(zhǔn)確性和可靠性[1]。通過試驗(yàn)研究和工程實(shí)踐積累的檢測(cè)數(shù)據(jù)，建立了混凝土強(qiáng)度回彈-超聲-拔出綜合法神經(jīng)網(wǎng)絡(luò)模型。

2 試驗(yàn)設(shè)計(jì)

2.1 試件制作

設(shè)計(jì)C15、C20、C25、C30、C35、C40六個(gè)強(qiáng)度等級(jí)、三個(gè)齡期的混凝土，共制作標(biāo)準(zhǔn)養(yǎng)護(hù)100×100×100mm立方體試件180組用于回彈法、超聲法檢測(cè)，制作標(biāo)準(zhǔn)養(yǎng)護(hù)200×200×200mm立方體試件180組用于拔出法檢測(cè)，同時(shí)制作相同組數(shù)的自然養(yǎng)護(hù)試件。試件均采用機(jī)械攪拌、機(jī)械振搗。

2.2 混凝土配合比及原材料基本性能

混凝土配合比及設(shè)計(jì)參數(shù)見表1。

表1 混凝土配合比及設(shè)計(jì)參數(shù)統(tǒng)計(jì)表

3 回彈-超聲-拔出綜合法人工神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)與模型建立

3.1網(wǎng)絡(luò)設(shè)計(jì)與說明

3.1.1輸入和輸出層的設(shè)計(jì)

人工神經(jīng)網(wǎng)絡(luò)的輸入、輸出層數(shù)是完全根據(jù)使用者的要求來設(shè)計(jì)，問題確定下來，輸入輸出層也就確定了。

3.1.2隱含層單元的選擇

隱含層單元個(gè)數(shù)的選擇是一個(gè)十分復(fù)雜的問題，目前尚沒有很好的解析表達(dá)式，隱含層單元的個(gè)數(shù)與問題的要求、輸入輸出單元的數(shù)量、訓(xùn)練樣本的數(shù)量等都有直接關(guān)系。當(dāng)隱含層單元的數(shù)量太少時(shí)會(huì)導(dǎo)致網(wǎng)絡(luò)的容錯(cuò)性能降低，即訓(xùn)練不出理想的結(jié)果。但隱含層單元個(gè)數(shù)太多又往往會(huì)造成網(wǎng)絡(luò)的訓(xùn)練時(shí)間過長(zhǎng)，且網(wǎng)絡(luò)的輸出誤差也不一定最小，因此目前主要依靠理論和經(jīng)驗(yàn)確立合適的計(jì)算網(wǎng)絡(luò)[2]。下面公式作為選擇隱含層單元數(shù)的參考：

式中：n1為隱含層單元數(shù)，m為輸出層單元數(shù)，n為輸入層單元數(shù)，a為1-10之間的常數(shù)。

3.1.3初始值的選取

對(duì)于系統(tǒng)是非線性的，初始值對(duì)于學(xué)習(xí)是否達(dá)到局部最小和是否能夠收斂的關(guān)系很大，一個(gè)重要的要求是希望初始權(quán)在輸入累加時(shí)使每個(gè)神經(jīng)元的狀態(tài)接近于零，這樣可以保證開始時(shí)不落到那些平坦區(qū)域上。權(quán)一般取隨機(jī)數(shù)，而且要求比較小，這樣可以保證每個(gè)神經(jīng)元一開始都在它們轉(zhuǎn)換函數(shù)變化最大的地方進(jìn)行[3]。

3.1.4數(shù)據(jù)的歸一化處理

由于輸入數(shù)據(jù)的密集性，數(shù)據(jù)之間的差別太小，如超聲值；同時(shí)由于采集的各數(shù)據(jù)單位不一致，直接將數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練會(huì)引起混淆。因此，必須對(duì)輸入數(shù)據(jù)和輸出數(shù)據(jù)進(jìn)行歸一化處理（Normalization Processing），使得輸入層的輸入值介于[-1,1]之間，而輸出層的輸出值介于[0,1]之間。

神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)束后，在神經(jīng)網(wǎng)絡(luò)進(jìn)行混凝土強(qiáng)度推測(cè)階段（即仿真階段），需要對(duì)數(shù)據(jù)進(jìn)行反歸一化處理。

3.2網(wǎng)絡(luò)算法改進(jìn)

3.2.1附加沖量(動(dòng)量)法

附加沖量法修正網(wǎng)絡(luò)參數(shù)時(shí)，不僅考慮誤差函數(shù)的梯度下降，而且考慮誤差曲面的變化趨勢(shì)。沒有附加沖量作用時(shí)，網(wǎng)絡(luò)可能陷入局部極小或進(jìn)入誤差曲面平坦區(qū)，而附加沖量則有可能使網(wǎng)絡(luò)跳出局部極小或滑過平坦區(qū)[4]。

3.2.2自適應(yīng)學(xué)習(xí)速率

正確選擇學(xué)習(xí)速率不是一件容易的事情，通常對(duì)訓(xùn)練初期合適的學(xué)習(xí)速率，隨著訓(xùn)練的進(jìn)行會(huì)變得不合適，因?yàn)檎`差曲面是非常復(fù)雜的。為了解決這一問題，設(shè)法讓網(wǎng)絡(luò)具有這樣一種功能，根據(jù)自身的訓(xùn)練情況自動(dòng)調(diào)整學(xué)習(xí)速率，即采用自適應(yīng)學(xué)習(xí)速率[5]。

3.2.3 S型函數(shù)輸出限幅算法

網(wǎng)絡(luò)的連接權(quán)和閥值的調(diào)節(jié)量都與中間層輸出b有關(guān)，當(dāng)bj=0或b=l時(shí)，vji=0或wji=0或θj=0，即當(dāng)bj=0或bj=1時(shí)，不能對(duì)網(wǎng)絡(luò)的權(quán)值和閥值進(jìn)行調(diào)整。

3.3 網(wǎng)絡(luò)訓(xùn)練和模型的建立

混凝土強(qiáng)度回彈-超聲-拔出綜合法神經(jīng)

網(wǎng)絡(luò)訓(xùn)練如圖1示。經(jīng)過訓(xùn)練，網(wǎng)絡(luò)模型如

圖2所示。

建立的神經(jīng)網(wǎng)絡(luò)的訓(xùn)練函數(shù)為Trainlm。

輸入層數(shù)是3，即回彈值、超聲值、拔出力；

輸出層數(shù)是1，即混凝土立方體抗壓強(qiáng)度。

隱含層是1層，單元數(shù)是5。初始學(xué)習(xí)速率

0.05，沖量系數(shù)0.9，允許學(xué)習(xí)次數(shù)3000，

學(xué)習(xí)樣本數(shù)168，計(jì)算樣本數(shù)15，初始權(quán)值和閾值為[-0.01，0.01]區(qū)間的隨機(jī)數(shù)，輸入層的輸入值介于[-1，1]之間，輸出層的輸出值介于[0，1]之間。網(wǎng)絡(luò)檢測(cè)樣本見表2所示。

4 人工神經(jīng)網(wǎng)絡(luò)與回歸算法推測(cè)混凝土強(qiáng)度對(duì)比

4.1回歸模型選擇

根據(jù)試驗(yàn)數(shù)據(jù)情況擬選三種回歸公式，通過回歸指標(biāo)綜合評(píng)價(jià)這三種回歸公式，然后選取既能反映混凝土實(shí)際工作狀況又較為簡(jiǎn)單的回歸公式作為綜合法的測(cè)強(qiáng)公式 。

擬選用以下幾種回歸公式模型[6，7]：

冪函數(shù)方程 ：

線性方程：

指數(shù)方程：

式中；—混凝土強(qiáng)度計(jì)算值(MPa)；F—拔出力(kN)；N—回彈值；V—超聲速度(km/s)；A、B、C、D—回歸系數(shù)

4.2 綜合法檢測(cè)回歸公式及試驗(yàn)結(jié)果分析

本次試驗(yàn)通過對(duì)576組150×150×150mm試塊和90根750×200×200mm小梁180組進(jìn)行拔出、回彈、超聲檢測(cè)。對(duì)試驗(yàn)數(shù)據(jù)利用Matlab進(jìn)行回歸分析，得到如下回歸方程和相應(yīng)的回歸指標(biāo)，見表3。

表3幾種回歸方程比較

第9篇：神經(jīng)網(wǎng)絡(luò)回歸算法范文

一、BP神經(jīng)網(wǎng)絡(luò)方法

1.BP算法

BP算法是一個(gè)監(jiān)督訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)的算法，每一個(gè)訓(xùn)練范例在網(wǎng)絡(luò)中經(jīng)過兩遍傳遞計(jì)算：一遍向前傳播計(jì)算，從輸入層開始，傳遞各層并經(jīng)過處理產(chǎn)生一個(gè)輸出，并等到一個(gè)該實(shí)際輸出和所需輸出之差的差錯(cuò)矢量。一遍向后傳播計(jì)算，從輸出層至輸入層，利用差錯(cuò)矢量對(duì)權(quán)值進(jìn)行逐層修改。

BP網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò)，其結(jié)構(gòu)如圖所示。BP網(wǎng)絡(luò)是一種具有三層或三層以上的神經(jīng)網(wǎng)絡(luò)，包括輸入層、中間層(隱層)和輸出層。當(dāng)學(xué)習(xí)樣本提供給網(wǎng)絡(luò)后，神經(jīng)元的激活值從輸入層經(jīng)各中間層向輸出層傳播，在輸出層的各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)。接下來，按照減少目標(biāo)輸出與實(shí)際誤差方向，從輸出層經(jīng)過各中間層逐層修正各連接權(quán)值，最后回到輸入層。隨著這種誤差的逆?zhèn)鞑バ拚粩嗟倪M(jìn)行，網(wǎng)絡(luò)對(duì)輸入模式影響的正確率不斷上升。圖1BP網(wǎng)絡(luò)結(jié)構(gòu)

2.改進(jìn)的BP算法

在實(shí)際應(yīng)用中，BP算法很難勝任，因此出現(xiàn)了多種改進(jìn)算法，Levenberg-Marquardt算法是其中的一種，采用Levenberg-Marquardt可以使訓(xùn)練速度和訓(xùn)練成功率大大提高，對(duì)中小型神經(jīng)網(wǎng)絡(luò)訓(xùn)練而言，Levenberg-Marquardt算法是最好的訓(xùn)練算法]。

Levenberg-Marquardt算法的基本思想是使其每次迭代不再沿單一的負(fù)梯度方向，而是允許誤差沿著惡化的方向進(jìn)行搜索，同時(shí)通過在最速梯度下降法和高斯-牛頓法之間自適應(yīng)調(diào)整來優(yōu)化網(wǎng)絡(luò)權(quán)值，使網(wǎng)絡(luò)能夠有效收斂，大大提高了網(wǎng)絡(luò)的收斂速度和泛化能力。Levenberg-Marquardt算法的權(quán)值調(diào)整公式為：

e-誤差向量

J-雅可比矩陣

μ一個(gè)標(biāo)量

二、最小二乘支持向量機(jī)算法

1.支持向量機(jī)原理

支持向量機(jī)是在統(tǒng)計(jì)學(xué)習(xí)理論基礎(chǔ)之上提出的一種新的非常有發(fā)展前景的機(jī)器學(xué)習(xí)方法。支持向量機(jī)是對(duì)結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則的近似，支持向量機(jī)方法根據(jù)有限的樣本信息在模型的復(fù)雜度和學(xué)習(xí)能力之間尋求最佳折衷，以期獲得最好的推廣能力。

支持向量機(jī)的學(xué)習(xí)，就是尋找一個(gè)參數(shù)向量，通常該向量在某種約束下使某個(gè)代價(jià)函數(shù)最小(或最大)。支持向量機(jī)理論中的代價(jià)函數(shù)是凸二次函數(shù)，約束條件是線性函數(shù)，所以支持向量機(jī)訓(xùn)練問題實(shí)際上是求解一個(gè)凸二次規(guī)劃問題。

2.最小二乘支持向量機(jī)原理

最小二乘支持向量機(jī)(LS-SVM)是標(biāo)準(zhǔn)支持向量機(jī)的一種擴(kuò)展。它的損失函數(shù)直接定義為誤差平方和，將優(yōu)化中的不等式約束轉(zhuǎn)化為等式約束，由此將二次規(guī)劃問題轉(zhuǎn)化為線性方程組求解，降低了計(jì)算復(fù)雜性，加快了求解速度。支持向量回歸機(jī)根據(jù)訓(xùn)練樣本 構(gòu)造回歸函數(shù)。

這樣非線性估計(jì)函數(shù)轉(zhuǎn)化為高維特征空間的線性估計(jì)函數(shù)。利用結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則，尋找w，b就是最小化。

其中

控制模型的復(fù)雜度，c是正規(guī)化參數(shù)，控制對(duì)超出誤差樣本的懲罰程度。

為誤差控制函數(shù)，也即

不敏感損失函數(shù)。最小二乘支持向量機(jī)在優(yōu)化目標(biāo)失函數(shù)為誤差

的二次項(xiàng)，故優(yōu)化問題為：

式中， 　為松弛因子。用拉格朗日法求解這個(gè)優(yōu)化問題：

其中：

是拉格朗日乘子。根據(jù)最優(yōu)化條件：

置各變量偏導(dǎo)數(shù)為0

得到方程：

其中：

最后用最小二乘法求出 與 ，得到非線性預(yù)測(cè)模型：

三、方法比對(duì)結(jié)果

結(jié)合油氣井生產(chǎn)歷史、地質(zhì)評(píng)價(jià)結(jié)果以及油氣田開發(fā)動(dòng)態(tài)綜合分析，確定用于選井選層決策的參數(shù)。表1　決策參數(shù)表

選了重復(fù)壓裂井，進(jìn)行預(yù)測(cè)，表2列出兩種方法得到的測(cè)試結(jié)果對(duì)比。表2　兩種模型測(cè)試結(jié)果對(duì)比

從表中可以看出，在研究樣本數(shù)量相對(duì)有限的情況下，最小二乘支持向量機(jī)算法在精度上明顯優(yōu)于改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)。

四、結(jié)論及建議

本文介紹了重復(fù)壓裂選井選層的經(jīng)驗(yàn)方法，詳細(xì)討論了改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)和最小二乘支持向量機(jī)兩種定量判斷的選井選層的數(shù)學(xué)方法，分別敘述了各自的原理，建立了預(yù)測(cè)模型，通過實(shí)例測(cè)試和比較。

1.得出以下主要結(jié)論：

1.1Levenberg-Marquard算法雖然可以實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的快速訓(xùn)練，但局部最優(yōu)問題、過擬合、網(wǎng)絡(luò)結(jié)構(gòu)選擇等問題依然存在，神經(jīng)網(wǎng)絡(luò)方法的預(yù)測(cè)效果不夠理想。

1.2支持向量機(jī)從理論上解決了神經(jīng)網(wǎng)絡(luò)固有的局部最優(yōu)、過擬合等問題，從預(yù)測(cè)效果看，最小二乘支持向量機(jī)預(yù)測(cè)方法的預(yù)測(cè)精度高于BP人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)法。所以，最小二乘支持向量機(jī)方法可以作為神經(jīng)網(wǎng)絡(luò)法的替代方法。

2.主要建議