ADMM算法推導(dǎo)筆記(自用) 對偶上升 對偶分解 乘子法 ADMM 收斂性與停止準(zhǔn)則
交替方向乘子法(ADMM),這是一種簡單而強(qiáng)大的算法,非常適合于分布式凸優(yōu)化,特別是在應(yīng)用統(tǒng)計(jì)和機(jī)器學(xué)習(xí)中出現(xiàn)的問題。ADMM協(xié)調(diào)局部子問題以找到大型全局問題的解決方案。ADMM試圖融合對偶分解和增廣拉格朗日約束優(yōu)化方法的好處。下面是本人學(xué)習(xí)過程中的筆記。
參考文獻(xiàn):
[1] Boyd S ,? Parikh N ,? Chu E , et al. Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers[J]. Foundations & Trends in Machine Learning, 2010, 3(1):1-122.


下面是各個(gè)部分大圖。








標(biāo)簽: