课题组王健老师与张炳杰同学合作的文章被Neurocomputing接收
发布人:张锋  发布时间:2018-01-31   浏览次数:135

20181月31日,王健老师与张炳杰同学合作的文章A novel conjugate gradient method with generalized Armijo search for efficient training of feedforward neural networks被Neurocomputing(SCI二区期刊)接收并正式发表。孙占全副研究员为通讯作者。

本文提出了一种新的基于广义Armijo线搜索的共轭多层BP神经网络算法。在实际应用中,该算法要求低记忆存储,但表现除了更快的收敛速度。造成这种现象的原因之一是该算法构造的共轭方向系数保证了目标函数的充分下降性。另外,广义Armijo线搜索方法能够在每一次训练迭代过程中自行得到一个更合适的学习率。理论方面,我们详细证明了在更宽松条件下该算法的两个确定性收敛性质(强收敛性和弱收敛性)。弱收敛性即目标函数的关于权值的梯度范数趋于零,强收敛性指的是权值序列本身趋近于稳定点。为验证理论结果,我们给出了许多不同的标准数据集下的数值模拟实验。