前馈网络的一种高精度鲁棒在线贯序学习算法

上海交通大学学报（自然版） ›› 2015, Vol. 49 ›› Issue (08): 1137-1143.

• 自动化技术、计算机技术 • 上一篇下一篇

前馈网络的一种高精度鲁棒在线贯序学习算法

卢诚波，梅颖

（丽水学院工程与设计学院，浙江丽水 323000）

收稿日期:2014-09-01 出版日期:2015-08-31 发布日期:2015-08-31
基金资助:
国家自然科学基金项目（11171137）,浙江省自然科学基金项目（LY13A010008）资助

An Accurate and Robust Online Sequential Learning Algorithm for Feedforward Networks

LU Chengbo，MEI Ying

（Faculty of Engineering and Design, Lishui University, Lishui 323000, Zhejiang, China）

Received:2014-09-01 Online:2015-08-31 Published:2015-08-31

摘要/Abstract

摘要：

摘要：基于离散傅里叶变换-极限学习机（DFT-ELM）提出了一种新的单隐层前馈神经网络在线贯序学习算法，命名为“在线贯序-离散傅里叶变换-极限学习机”（OS-DFT-ELM）.该算法能够逐个或逐段学习数据，随着新数据的逐渐到达，单隐层前馈神经网络的内权矩阵和外权矩阵得到逐步调整.该算法与在线贯序-极限学习机（OS-ELM）相比，具有更高的精度和鲁棒性. 同时，通过实验和分析，表明OS-DFT-ELM具有优良性能.

关键词: 单隐层前馈神经网络, 在线贯序算法, 极限学习机

Abstract:

Abstract： In this paper, a kind of accurate and robust online sequential learning algorithm was proposed for single hidden layer feedforward networks. The algorithm is referred to as online sequential discrete Fourier transformextreme learning machine (OSDFTELM). This approach is able to learn data onebyone or chunkbychunk. During the growth of the data, input weights and output weights are adjusted incrementally. The proposed algorithm has a higher degree of accuracy and robustness compared to the approach referred to as online sequentialextreme learning machine (OSELM). Two simulation examples were presented to show the excellent performance of the proposed approach.

Key words: single hidden layer feedforward networks, online sequential learning machine, extreme learning machine

中图分类号:

卢诚波，梅颖. 前馈网络的一种高精度鲁棒在线贯序学习算法[J]. 上海交通大学学报（自然版）, 2015, 49(08): 1137-1143.

LU Chengbo，MEI Ying. An Accurate and Robust Online Sequential Learning Algorithm for Feedforward Networks[J]. Journal of Shanghai Jiaotong University, 2015, 49(08): 1137-1143.

参考文献

［1］Man Z H, Lee K, Wang D H, et al. Robust singlehidden layer feedforward networkbased pattern classifier ［J］. IEEE Transactions on Neural Networks and Learning Systems，2012，23(12)：19741986.

［2］Liang N Y, Huang G B, Saratchandran P, et al. A fast and accurate online sequential learning algorithm for feedforward networks ［J］. IEEE Transactions on Neural Networks，2006，17(6)：14111423.

［3］Haykin S. Neural networks and learning machines ［M］. 3rd ed. New Jersey：Pearson, PrenticeHall，2009.

［4］Kumar S. Neural networks ［M］. New York：McGrawHill Companies, Inc，2006.

［5］Yao X. Evolving artificial neural networks ［J］. Proceedings of the IEEE，1999，87(9)：14231447.

［6］Zhang G, Neural networks for classification: a survey ［J］. IEEE Transactions on Systems, Man and Cybernetics：Part C，2000(30)：451462.

［7］Hertz J, Krogh A, Palmer R G. Introduction to the theory of neural computations ［M］. Boston: AddisonWesley Publishing Company，1991.

［8］Huang G B, Chen L, Siew C K. Universal approximation using incremental constructive feedforward networks with random hidden nodes ［J］. IEEE Transactions on Neural Networks，2006，17(4)：879892.

［9］Igelnik B, Pao Y H. Stochastic choice of basis functions in adaptive function approximation and the functionallink net ［J］. IEEE Transactions on Neural Networks，1995，6 (6)：13201329.

［10］乔俊飞，韩红桂. 前馈神经网络分析与设计［M］.北京：科学出版社，2013.

［11］Rumelhart D E, Hinton G E, Williams R J. Learning internal representations by error propagation ［J］. Parallel Distribution Processing: Explanations in the Microstructure of Cognition, 1986(1)：318362.

［12］Huang G B, Zhu Q Y, Siew C K. Extreme learning machine: Theory and applications ［J］. Neurocomputing, 2006，70(13)：489501.

［13］Huang G B, Wang D H, Lan Y. Extreme learning machines：A survey ［J］. International Journal of Machine Learning and cybernetics, 2011，2(2)： 107122.

［14］Golub G H, Loan C F. Matrix computations ［M］. 3rd ed. Baltimore：The Johns Hopkins University Press，1996.

［15］Lecun Y, Bottou L, Bengio Y, et al. Gradientbased learning applied to document recognition ［J］. Proceedings of the IEEE,1998，86(11)：22782324.

[1]	金皓纯, 葛敏辉, 徐波. 基于极限学习机的双馈感应风力发电机综合自适应调频参数优化方法[J]. 上海交通大学学报, 2021, 55(S2): 42-50.
[2]	席剑辉, 姜瀚, 陈博, 傅莉. 基于PCA-ELM的红外多光谱辐射测温[J]. 上海交通大学学报, 2021, 55(7): 891-898.
[3]	李春祥, 张浩怡. 基于混合多变量经验模态分解和极限学习机的非平稳过程预测[J]. 上海交通大学学报, 2020, 54(4): 376-386.
[4]	张林林，胡熊伟，李鹏，石访，于之虹. 基于极限学习机的电力系统暂态稳定评估方法[J]. 上海交通大学学报, 2019, 53(6): 749-756.
[5]	刘敏，张英堂，李志宁，范红波. 基于增量稀疏核极限学习机的柴油机故障在线诊断[J]. 上海交通大学学报（自然版）, 2019, 53(2): 217-224.
[6]	钟国强1,2，王浩1，张国华1，覃卫民1，王成汤1,2，熊俊峰1,2. 基于RS-MIV-ELM模型的基坑水平位移影响因素分析和预测[J]. 上海交通大学学报（自然版）, 2018, 52(11): 1508-1515.
[7]	张伟，许爱强，高明哲. 一种基于积累一致性测量的在线状态预测算法[J]. 上海交通大学学报（自然版）, 2017, 51(11): 1391-1398.
[8]	王萍，王迪，冯伟. 基于流形正则化的在线半监督极限学习机[J]. 上海交通大学学报（自然版）, 2015, 49(08): 1153-1158.
[9]	刘菲菲，彭荻，贺彦林，朱群雄. 基于极限学习的过程神经网络研究及化工应用[J]. 上海交通大学学报（自然版）, 2014, 48(07): 977-981.
[10]	张英堂,马超，李志宁，范红波. 基于快速留一交叉验证的核极限学习机在线建模[J]. 上海交通大学学报（自然版）, 2014, 48(05): 647-652.
[11]	刘学艺a, 李平a, b, 郜传厚c. 极限学习机的快速留一交叉验证算法[J]. 上海交通大学学报（自然版）, 2011, 45(08): 1140-1145.

前馈网络的一种高精度鲁棒在线贯序学习算法

An Accurate and Robust Online Sequential Learning Algorithm for Feedforward Networks

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 11

编辑推荐

Metrics

本文评价