
题名
基于曲率信息的改进BP算法及其在FNN中的应用
DOI
作者
熊伟丽1,2 孙文心1 史旭东1
作者单位
1.江南大学物联网工程学院;2.江南大学轻工过程先进控制教育部重点实验室
摘要
针对步长选取影响误差反向传播(BP,Back Propagation)算法优化效率问题,提出一种基于曲率信息的步长优化BP算法,并将其应用到了模糊神经网络(FNN)的训练过程中。参考牛顿法的思想,根据代价函数的梯度及梯度方向上的曲率信息来确定模型参数调整的方向和幅度。仅需考虑梯度方向上的二阶信息,因此不需要存储和处理Hessian矩阵。通过一个数值仿真和高炉炼铁过程数据建模实验,验证了方法的有效性及训练效率。
关键词
步长优化;BP算法;模糊神经网络;学习速度
刊名
建模与系统仿真
ISSN
3078-9745
年、卷(期)
20203
所属期刊栏目
数学与物理
打印