您好,欢迎来到尔游网。
搜索
您的当前位置:首页BP神经网络最优组合预测方法及其应用

BP神经网络最优组合预测方法及其应用

来源:尔游网


BP 神经网络最优组合预测方法及其应用

鲍一丹,吴燕萍,何 勇

(浙江大学 生物系工程与食品科学学院,浙江 杭州 310029)

[摘 要] 为了解决各种单一传统的预测方法中存在的问题 ,提出了一种 BP 神经网络最优组合的预测方法。 将单一预测方法所得到的预测值作为 BP 神经网络的输入样本,相应历史数据的实际值作为样本的输出,经 过样本训练达到期望精度,应用 BP 神经网络进行预测。通过对浙江省农机总动力需求预测,表明该方法比 各种单一的预测方法都有更高的精度。

[关键词] 人工智能; BP 神经网络;应用; 农机总动力 [ 中图分类号 ]

TP183 [文献标识码] A [ 文章编号] 1003 ─ 188X(2004)03 ─ 0162 ─ 03

1 BP 神经网络最优组合预测方法

1.1 BP 神经网络基本理论

1985 年 ,以 Rumelhart 和 Mc-Clelland 为首的 PDP(Parallel Distributed Processing)小组提出 了实现神经网络的 BP 模型。事实上, BP 网络可以 看成是输入与输出集合之间的一种非线性映射。而 实现这种非线性映射关系,并不需要知道所要研究 系统的内部结构,只需通过对有限多个样本的学习 来达到对所研究系统内部结构的模拟。基本的 BP 网络拓朴结构(如图 1 所示 ),由输入层、隐含层和 输出层组成。

输入层

Sigmoid 函数作为神经元的激发函数。采用的 S 型 函数为

1 f ( x)  x1 e

(1)

1.2 BP 神经网络最优组合预测模型

采用 m 种预测方法得出预测的结果作为网络的 输入,而实际的历史数据值作为网络的输出,各种 预测方法在预测中权重根据网络的自学习获得。

BP 网络具体算法的步骤为:

(1) 输入 p 个样本, m 种预测方法的预测值作 为输入向量 Xki,(k= 1,2,3, ,p;i=1,2,3, , m)。各个历史数据真实值为神经网络的输出 Tk ,对 每个输入样本进行下面( 3)到( 5)的迭代。

(2) 计算网络的实际输出及隐层单元的状态

okj f j (

隐含层

输出层

w o

i

ji ki  j )

(2)

(3) 计算训练误差,则

输入

输出

(3) (4)

输出层  kj (tkj okj ) okj (1 okj ) 输入层  kj okj (1 okj )

图 1 基本的 BP 网络拓扑结构



m

km wmj

Fig.1 The basal structure of BP neutral networking

(4) 修正权值和阈值,则

w ji (t 1) w ji (t )  kjoki [w ji (t ) w ji (t 1)]

BP 网络的学习过程包括:正向传播和反向传 播。当正向传播时,输入信息从输入层经隐单元处 理后传向输出层,每一层神经元的状态只影响下一

层的神经元的状态。如果在输出层得不到希望的输 出,则转入反向传播,将误差信号沿原来的神经元 连接通路返回。返回过程中,逐一修改各层神经元 连接的权值。这种过程不断迭代,最后使得信号误 差达到允许的误差范围之内。

BP 网络采用了有一定阈值特性的 、连续可微的

(5) (6)

 j (t 1)  j (t)  j [ j (t )  j (t 1)]

(5) 当每经历 1 至 P 后,判断整个样本集的均 方

误差是否满足精度要求

p

E=

式中:ε

E

i1

k

≤ε

2

k  okj ) 为第

1 2

为预先给定精度; Ek = (tkj

个样本误差。

[收稿日期 ] 2003-06-06

[作者简介 ] 鲍一丹 (1963-),女,浙江杭州人,浙江大学副教授,主要从事信息与自动控制等方面的研究。

(6) 学习结束。

(7) 进行预测。 对某一训练样本使用上述算法,1.4 BP 神经网络组合预测效果分析

(1) BP 神经网络模型是一个强有力的学习系 通过误差反传

调整各层网络单元的权系数,输入所有训练样本, 重复以上步骤,使输出误差在规定的范围内, 此时权系数则不再改变。 1.3 预测模型参数选择

在进行 BP 网络设计前,一般应从网络的层数、 每层中的神经元个数、初始值以及学习方法等方面 进行考虑

[ 3 ]

。网络的结构与参数对其学习效果和预

测精度起着决定性的作用。

(1) BP 网络结构及参数的确定 ,主要是输入层 与隐含层内的节点数的确定。隐含层节点数的选择 非常重要,节点数太少时,学习时间太长,网络预 测的精度难以得到保证;节点数太多时,网络的鲁 棒性下降,在训练过程中又容易陷入局部极小值。 目前 ,理论上确定隐含层节点的数目是比较困难的, 实际中大多数以经验和实际运算结果来判断。隐层 节点数的确定,参考下面的隐层单元数计算公式

[4]

n1  n  m a

(7)

式中: n1 为隐层单元数 ;n 为输入神经元个数 ;m 为 输出神经元个数; a 为 1~ 10 之间的常数。

(2) 由于网络系统是非线性的,初始值对于是 否达到局部最小,是否能够收敛以及训练时间的长 短关系很大。所以,总是希望经过初始加权后的每 个神经元的输出值都接近于零,这样可以保证每个 神经元的权值都能够在它们的 S 型激活函数变化最 大之处进行调节。一般取初始权值在( -1,1)之间 的随机数。

(3) 学习速率决定每一次循环训练中所产生的 权值变化量 。大的学习速率可能导致系统的不稳定, 但小的学习速率将会导致训练较长 ,收敛速度很慢。 所以,一般选取较小的学习速率,以保证系统的稳 定性。学习速率的选取范围在 0.01~ 0.8 之间。 在一个神经网络的设计中,网络要经过几个不 同的学习速率的训练,通过观察每一次训练后的误

差平方和 e2

的下降速率,来判断所选定的学习速 率是否合适。如果误差平方和 e2

下降很快,则说 明学习速率合适;若 e2 出现震荡现象,则说明学 习速率过大。

(4) 在设计网络的训练过程中,期望误差值应 当通过对比训练后确定一个合适的值,相对于所需 要的隐含层的节点数来确定,因为较小的期望误差 值是要靠增加隐含层的节点,以及训练时间来获得 的。可以通过同时对两个不同期望误差值的网络进 行训练,再综合比较来确定采用其中的一个网络。

统,能够实现输入与输出之间的高度非线性映射。 神经网络的组合预测方法中,各个输入预测方法的 权重是按单个样本误差和总体误差满足给定精度要 求,由网络在动态学习中给出。某一种预测方法对 组合预测结果的影响,虽然与自身的预测结果和网 络中的权重有关,但其权重对预测结果的影响是非 线性的,因而更适应非线性预测。

(2) BP 神经网络系统中的各个权值特点 ,即对 权重的要求并不严格。无论是从输入到隐含层的权 值,还是隐含层到输出层的权值都可正,可负,也 可以是零。这种对权重不严格的特点,可以对各个 预测结果所提供的信息按照其反映现实的真实程度 进行有效地筛选,从而有效地保存各种预测方法, 提供有用的信息,提高预测的精度。

(3) BP 神经网络系统具有无后效性的特点 。每 一层神经网元的状态只影响下一层神经元的状态, 并且神经元众多,可以对个别单元产生失误、对整 体的影响产生明显地缓冲作用,减少了组合预测结 果对真实值的偏离;同时,还有利于提高网络整体

的收敛性。

2 浙江省农机总动力需求预测

农机总动力的数量是衡量一个地区农业机械 化程度的重要指标之一,也代表着农业现代化的发 展水平 。农机总动力的市场需求往往受社会 、经济、 技术和自然条件的影响 [ 5 ]

,因此年需求量变化很大。 1986~ 1997 年,浙江省农机总动力需求数据 [6]

和分 别使用一元线性回归、二次指数平滑及 GM( 1, 1) 的预测值(如表 1 所示 ),使用 BP 神经网络进行分 析和预测。

表 1 浙江省 1986 至 1997 年农机总动力 单位 :万 kW

Table.1 The total power of agricultural machinery in

Zhejiang province from 1986 to 1997

年份 一元线性回 二次指数平 GM(1,1) 归预测值 滑预测值 实际值 1986 905.21 830.88 922.26 预测值 888.67 1987 981.84 933.76 998.19 974.62 1988 1058.47 1036.34 1057.88 1075.91 19 1135.10 1154.84 1121.13 1133.48 1990 1211.72 1230.77 1188.17 1215.73 1991 1288.35 1306.71 1259.21 1265.46 1992 13.98 1382. 1334.50 1352.03 1993 1441.61 1458.58 1414.30 1417.88 1994 1518.24 1534.51 1498.86 1497.34 1995 1594.86 1610.44 1588.49 1639.87 1996 1671.49 1686.38 1683.47 1707.59 1997

1748.12

1762.32

1784.13

1733.33

根据隐层单元数计算公式

即: 3 n1 12

n1 n m a

利用 Visual Basic 6.0 编制了 BP 人工神经网 络模型计算机程序,进行训练集样本训练,当误差 给定 E= 0.00001,隐含层节点数选定 12 个,学习 步长为 0.7,动量项为 0.5,经 350000 次训练,网络

精度达到要求。用检验样本集( 1998~ 2001 )进行 预测检验,取得了很好的预测精度,如表 2 所示。

根据 n1 的计算值,由小到大改变节点数训练并 检验其精度 ,当节点数的增加误差不进一步减小时, 其临界值即为应采用的数值。最后,经过网络的实 际训练结果比较,选定网络隐含层节点数为 12,此 时网络能较快地收敛至所要求的精度。

表 2 不同预测方法的预测结果的分析比较( 1998~ 2001 年)

Table.2 The analysis of some different prediction methods results

线性回归( Excel)

年份 1998 1999 2000 2001

实际值 1798.84 1912.53 1990.09 2017.24

预测 1824.75 1901.38 1978.00 2054.63

精度 (%) 98.56 99.42 99.39 98.15

二次指数平滑 预测 1936.71 1991.41 2048.92 2111.37

精度 (%) 92.33 95.88 97.04 95.33

预测 10.80 2003.86 2123.68 2250.66

GM(1,1) 精度 (%) 94. 95.22 93.29 88.43

BP 神经网络 预测 1798.78 1912.28 1994.78 2008.03

精度 (%) 99.99 99.99 99.76 99.54

(1) 在 BP 神经网络预测方法中,输入与输出

之间高度非线性的映射特点,使它更适应非线性预 测。 (2) 在 BP 神经网络预测方法中,对权值的非

严格性特点,有效地保存了各种预测方法所提供的

有用信息,提高了预测的精度。

(3) BP 神经网络预测方法中的无后效性特点,

减少了组合预测结果对真实值的偏离,并且提高网 络整体的收敛性。

(4) BP 神经网络预测方法在浙江省农机总动

力需求的运用,表明了它在预测方面的适用性,并

为进一步在其他领域的预测提供了方法。

3 结论

[ 参 考 文 献 ]

[1] 程 昳.常用预测方法及评价综述[J].四川师范大

学学报.2002,( 1):70-73.

[2] 张友兰,周爱民.最优加权组合预测及其应用[J].

数量经济技术经济研究.1997,(10):56-60. 吴怀非线性回归分析中的神经网络方 [3] 宇,宋玉阶.

法 [J]. 武汉冶金科技大学学报,1998,(21): 90- 93.

[4] 闻 新,周 露,力,等.MATLAB 神经网络应用

设计[M].北京:科学出版社,2001 张宝文.努力开[5] 创农业机械化发展新局面[J].中国

农机化, 2001,( 2): 2-5. 浙江省统计局.浙江统

[6] 计年 鉴( 1987~ 2002 年 )[M] .

北京:中国统计出版社, 2003.

Optimal Mix Forecasting Method Based on BP Neutral

Networkand its Application

BAO Yi-dan , WU Yan-ping, HE Yong

(College of Biosystem Engineering and Food Science , Zhejiang University, Hangzhou 310029, China) [Abstract] Aiming at solving the problems in each traditional forecasting method, a optimal mix forecas- ting method based on BP neural network was put forwards. Using the for sample inputs of the BP neural and the history factual values as the outputs,Expected precision could be reached by sample training,the forecast could be done by applying BP neural network. By having applied the new method to the prediction of the total power requirement of agricultural machinery in Zhejiang province, it showed that the method had achieved better forecasting results compared with other forecasting models.

[Key words] artificial intelligence; BP nearal network; application; the total power of agricultural machin- ery

因篇幅问题不能全部显示,请点此查看更多更全内容

Copyright © 2019- axer.cn 版权所有 湘ICP备2023022495号-12

违法及侵权请联系:TEL:199 18 7713 E-MAIL:2724546146@qq.com

本站由北京市万商天勤律师事务所王兴未律师提供法律服务