本发明涉及以自适应学习率学习神经网络的方法及装置、利用其测试神经网络的方法及装置。所述学习方法包括:(a)学习装置在预设了作为用于调整学习率变更比例的常数的第一伽马的状态下,(i)在所述迭代累积次数在第一特定值以下期间,执行利用训练数据中的一部分以第一预设的学习率反复所述神经网络的所述学习的第一学习过程,(ii)参照通过所述第一学习过程获得的所述神经网络的第一损失将所述第一伽马变更为第二伽马的步骤;(b)所述学习装置在将k从2增大到(n‑1)的过程中,(b1)在所述迭代累积次数超过第(k‑1)特定值且在第k特定值以下期间,执行反复所述神经网络的所述学习的第k学习过程等过程的步骤。本发明能够最小化学习神经网络所需的时间。
声明:
“以自适应学习率学习神经网络的方法及装置” 该技术专利(论文)所有权利归属于技术(论文)所有人。仅供学习研究,如用于商业用途,请联系该技术所有人。
我是此专利(论文)的发明人(作者)