交替方向乘子法（ADMM），這是一種簡單而強大的算法，非常適合于分布式凸優(yōu)化，特別是在應(yīng)用統(tǒng)計和機器學習中出現(xiàn)的問題。ADMM協(xié)調(diào)局部子問題以找到大型全局問題的解決方案。ADMM試圖融合對偶分解和增廣拉格朗日約束優(yōu)化方法的好處。下面是本人學習過程中的筆記。

參考文獻：

[1] Boyd S ,? Parikh N ,? Chu E , et al. Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers[J]. Foundations & Trends in Machine Learning, 2010, 3(1):1-122.

下面是各個部分大圖。