大家好，我是小夏，我來為大家解答以上問題。sgd 隨機(jī)梯度下降，隨機(jī)梯度下降很多人還不知道，現(xiàn)在讓我們一起來看看吧！

1、原始的隨機(jī)梯度下降（SGD）適合于低精度的任務(wù)，而梯度下降算法適合用于高精度的任務(wù)。

2、如果接受一個比較低的精度（應(yīng)用問題中往往不要求高精度），那么由于SGD每次只利用一個或部分樣本的梯度做更新，所以前期迭代較快，導(dǎo)致前期一段時間內(nèi)比梯度下降算法下降得多。

3、但是由于原始的SGD算法在目標(biāo)函數(shù)強(qiáng)凸的情況下依舊無法做到線性收斂，所以當(dāng)執(zhí)行的時候足夠長的時候SGD的精度會被梯度下降算法趕超，因?yàn)樘荻认陆邓惴梢栽谀繕?biāo)函數(shù)強(qiáng)凸的時候有線性收斂速度。

本文到此講解完畢了，希望對大家有幫助。