最近正在看一些ADMM的工程化应用。毕竟有人说理论不重要,最重要的是工程化经验。这样的人确实不太好交流。在阅读 最优化:建模、算法与理论/最优化计算方法 的时候,我发现Lasso问题的一个求解方法就是ADMM,在我…
ADMM form: ADMM algorithm: For the previous special case, theATA+σFTFis tridiagonal, so can be carried out inO(n)flops. 4.4.2 Group Lasso Replace‖x‖1with∑i=1N‖xi‖2, wherex=(x1,⋯,xN)withxi∈Rni. All the same, except thez-update: ...
利用ADMM算法求解lasso回归的系数,代码如下: lm.lasso=function(X,Y,lambda1) { #本函数求解利用ADMM算法求解下列优化问题 # #min{|Y-X*beta|2+lambda1*|beta|1 #rou是ADMM算法中的常数,人为给定 #给定初始值beta0,theta0,mu0 beta0 = rep(0,length(X[1,])) theta0 = beta0 mu0 = rep(0,leng...