2018年07月06日,研究生张炳杰的会议论文“Fully Complex-Valued Wirtinger Conjugate Neural Networks with Generalized Armijo Search”被ICIC 2018正式接收,张华清老师为通讯作者。2018年08月15日-18日,ICIC 2018会议在武汉召开。
共轭梯度法具有低内存和收敛速度快的特点,是一种有效的神经网络训练策略。本文提出了一种基于Wirtinger微积分的高效共轭梯度算法来训练全复神经网络。我们采用两种方式来提高训练效果。一种是在训练过程中通过设计一个微调的共轭系数来构造充分下降方向;另一种方式是在每次迭代过程中通过广义Armijo搜索确定最优的学习率而不是固定为常数。为验证算法的有效性和收敛性,我们对复值基准非圆信号问题进行了仿真分析。