摘要：考虑一类学习问题，问题的目标函数可表示为大量组函数的平均，并且假设每一个组件函数都是光滑的。在众多机器学习方法中，在线学习操作流程简洁、收敛速度快，而且可以实现模型的自动更新，为大数据的学习提供了有利的工具。针对这类问题，提出了一种基于随机谱梯度下降（Stochastic Spectral Gradient Descent，82GD）的在线学习方法。该方法利用Rayleigh商收集目标函数的二阶信息来构造Hessian阵逆的近似。S2GD方法可以看作是谱梯度方法从确定性优化到随机优化的延伸。算法每次迭代所产生的搜索方向具有下降性，且现有结论表明算法收敛。在LIBSVM数据库上的初步实验表明S2GD方法是可行的、有效的。

原文链接:http://www.cqvip.com//QK/92817X/201609/670246269.html

送人玫瑰，手留余香~如您已下载到该资源，可在回帖当中上传与大家共享，欢迎来CDA社区交流学习。（仅供学术交流用。）