線搜索與信賴域的異同點(diǎn)
相同點(diǎn)
:借助泰勒展開(kāi)來(lái)對(duì)目標(biāo)函數(shù)進(jìn)行局部近似
不同點(diǎn)
:看待近似函數(shù)的方式不同 線搜索算法是先利用近似模型求出下降方向d,然后去確定步長(zhǎng)α,目的是構(gòu)造和α有關(guān)的輔助函數(shù)再去求輔助函數(shù)的最小值 信賴域算法是在一個(gè)有界區(qū)域內(nèi)直接去求解這個(gè)近似模型,對(duì)下一個(gè)迭代點(diǎn)的函數(shù)進(jìn)行二階展開(kāi)之后,海瑟矩陣用對(duì)稱矩陣近似替代,求解與d有關(guān)的函數(shù)的最小值(d有半徑限制,即信賴域半徑,d也不宜過(guò)小,否則無(wú)意義)
標(biāo)簽: