不同训练算法下光子神经网络鲁棒性能研究

摘要

优化了训练算法和学习率组合以提高光子神经网络(optical neural network, ONN)对器件误差的鲁棒性能，同时确保其对数字图像的高精确识别。仿真搭建两种全连接ONN架构，即GridNet和FFTNet,其中使用马赫曾德尔干涉仪(mach-zehnder interferometers, MZI)作为光子器件，并对含有器件误差的ONN进行了不同算法的训练，包括随机梯度下降(stochastic gradient descent, SGD)、均方根传递(root mean square prop, RMSprop)、适应性矩估计(adaptive moment estimation, Adam)和自适应梯度下降(adaptive gradient, Adagrad)。结果表明，在不同程度的器件误差下，FFTNet型ONN比GridNet型ONN更鲁棒。具体来说，采用学习率为0.005的RMSprop和Adam算法以及学习率为0.5的Adagrad算法训练的FFTNet型ONN在数字图像识别精度和器件误差鲁棒性上表现最佳。优化训练算法和学习率的组合可以有效提高ONN的鲁棒性能。

关键词

光子神经网络 / 器件误差 / 马赫曾德尔干涉仪 / 梯度下降算法 / 学习率

基金资助

国家自然科学基金(61575096)