2018年5月,研究生朱明月的EI会议论文“An Efficient Elman Neural Networks Based on Improved Conjugate Gradient Method with Generalized Armijo Search”被ICIC 2018正式接收,王健老师为通讯作者。2018年08月15日-18日,ICIC 2018会议在武汉召开。
共轭梯度法具有低内存和收敛速度快的特点,是一种有效的神经网络训练策略。本文提出了一种改进的共轭梯度算法来训练Elman神经网络。我们采用两种方式来提高训练效果。一种是在训练过程中通过一个改进的共轭系数来构造充分下降方向;另一种方式是在每次迭代过程中通过广义Armijo搜索确定最优的学习率。为验证算法的有效性和收敛性,我们对问题进行了UCI中数据集仿真分析。