梯度下降算法是一个比较广的概念, 意思是: 你优化一个函数/分类器时,如何减少它的误差?不妨选择梯度下降方向,该方向很可能是走向最优点的方向。然后加上一个随机,表示: 既然你知道 方向是:梯度方向了,那么走多长呢? 答案是:随机。所以,梯度下降算法包括 随机梯度下降算法。