增广拉格朗日乘子法、ADMM-程序员宅基地

技术标签：数学

增广拉格朗日乘子法

关于拉格朗日的定义，具体见：http://mp.blog.csdn.net/mdeditor/79341632

概述

增广拉格朗日乘子法（Augmented Lagrange Method），是用于解决等式约束条件下的优化问题。相对于朴素拉格朗日，它增加对偶上升法的鲁棒性和放松函数f的强凸约束，使得转换后的问题能够更容易求解，不至于因条件数变大不好求

形式：在朴素拉格朗日形式上加上一个惩罚项 $\frac{\rho}{2} \lVert \varphi(x) \rVert^2_2$

s . t . min f (x) φ (x) = 0} \Rightarrow L (x, λ) = f (x) + λ φ (x) + ρ 2 ‖ φ (x) ‖ 22 ， 其 中 惩 罚 因 子 ρ > 0 (1)

$\left.\begin{array}{l} & \min{f(x)} \\ {\bf s.t.} & \varphi(x)=0 \end{array}\right\} \Rightarrow L(x,\lambda)=f(x)+\lambda \varphi(x)+\frac{\rho}{2} \lVert \varphi(x) \rVert^2_2，\text{其中惩罚因子 } \rho > 0 \tag{1}$
关于范数，见： http://blog.csdn.net/Michael__Corleone/article/details/75213123

更新迭代

假设 $\lambda^k$ 为当前 $k$ 轮迭代的对偶问题最优解
求解 $x^{k+1}$ ： $x^{k+1}=\arg\min_x{L(x,\lambda^k)}$ ，其中 $L(x,\lambda)$ 定义如上（1）式
梯度上升法更新 $\lambda$ ： $\lambda^{k+1}=\lambda^k+\alpha \cdot \frac{\partial{L(x,\lambda)}}{\partial{\lambda}}|_{x=x^{k+1},\lambda=\lambda^k}$

ADMM(Alternating Direction Method of Multipliers)

概述

交替方向乘子算法：将对偶上升法的可分解性和乘子法的上界收敛属性融合在一起的算法

博客链接1
博客链接2

本文链接：https://blog.csdn.net/deepinC/article/details/79344981

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

gif图用photoshop快速抽帧,压缩,去底,修改时间_gif抽帧-程序员宅基地

文章浏览阅读1.3w次，点赞3次，收藏13次。网上下载的gif图很多都不透底,而且尺寸时间什么的都不合适,用ps简单修改一下就好了1.抽帧很多gif图帧数很多,抽帧可以大幅压缩gif大小1.导入gif到ps2.勾选动作和时间轴面板这时我们发现帧和图层的隐藏显示是相对应的这样的话我们操作图层就会打乱帧,我们要让所有的图层都显示,但又不干扰帧的显示3.这时我们就要把它转换为视频时间轴4.然后再转换帧>>转换为..._gif抽帧

c++ 优先队列_面试必知必会|堆和优先队列-程序员宅基地

文章浏览阅读235次。通过本文将了解到以下内容：优先队列的概念优先队列的实现优先队列的应用1.优先队列的概念优先队列是计算机科学中的一类抽象数据类型。优先队列中的每个元素都有各自的优先级，优先级最高的元素最先得到服务；优先级相同的元素按照其在优先队列中的顺序得到服务。优先队列至少需要支持下述操作：a.插入带优先级的元素b.取出具有最高优先级的元素c.查看最高优先级的元素。综合考虑插入和删除的性能优先队列一般采用堆来实..._优先队列 c++面试

windows系统VMware安装Linux虚拟机、Linux配置JDK环境、Linux安装tomcat、Linux安装mysql、Linux通过SSH连接Navicat 数据库可视化工具_vm中linux下载安装mysql jdk-程序员宅基地

文章浏览阅读281次。windows系统VMware安装Linux虚拟机、配置JDK环境、安装tomcat、安装mysql、安装redis第一部分VMware安装Linux—————————————————————————————————xshell、VMware工具链接：解压之后安装VMware工具xshell不需要安装解压可直接使用..._vm中linux下载安装mysql jdk

Python 加密解密_咕咕加密v4-程序员宅基地

文章浏览阅读1k次。# -*- coding: utf-8 -*-import hashlib'''加密解密'''#MD5是最常见的摘要算法，速度很快，生成结果是固定的128 bit字节，# 通常用一个32位的16进制字符串表示。md5 = hashlib.md5()update = md5.update('hhhhhaaa')print(md5.hexdigest())#SHA1的结果是160..._咕咕加密v4

使用cesium primitive api绘制三维插值图，热力图_cesium 插值点-程序员宅基地

文章浏览阅读1.4k次，点赞3次，收藏13次。【代码】使用cesium primitive api绘制三维插值图。_cesium 插值点

flask + pyecharts 疫情数据分析搭建交互式动态可视化疫情趋势分析、舆情监测平台（附代码实现）_疫情舆情分析代码-程序员宅基地

文章浏览阅读978次，点赞3次，收藏21次。该项目是浙江大学地理空间数据库课程作业8：空间分析中，使用 flask + pyecharts搭建的简单新冠肺炎疫情数据可视化交互分析平台的一部分，完整的实现包含疫情数据获取、态势感知、预测分析、舆情监测等任务；包含完整代码、数据集和实现的github地址： https://github.com/yunwei37/COVID-19-NLP-vis项目分析报告已部署到网页端，可点击 http://flask.yunwei123.tech/ 进行查看，数据已更新到6.17本项目采用flask作为_疫情舆情分析代码

随便推点

Ubuntu18.04安装教程——超详细的图文教程_ubuntu系统18.04-程序员宅基地

文章浏览阅读10w+次，点赞112次，收藏974次。Ubuntu18.04镜像_ubuntu系统18.04

二、Json对象、Json数组和Json字符串_json字符串数组-程序员宅基地

文章浏览阅读6.7k次，点赞3次，收藏17次。一、Json字符串和Json对象定义：1、Json字符串：所谓字符串：单引号或者双引号引起来，是一个String类型的字符串：如下：var person='{"name":"shily","sex":"女","age":"23"}';//json字符串console.log(person)console.log(person.name)console.log(typeof person) 2、Json对象：最显著的特征：对象的值可以用 “对象.属性” 进行访问，_json字符串数组

Linux系统100条命令：关于Ubuntu和 CentOS 7 相同功能的不同的终端操作命令_ubuntu 命令跟centos-程序员宅基地

文章浏览阅读718次。CentOS 7：ip link set interface_name up 或 ip link set interface_name down。Ubuntu：ifconfig interface_name up 或 ifconfig interface_name down。CentOS 7：编辑 /etc/sysconfig/network-scripts/ifcfg-eth0 文件。Ubuntu：编辑 /etc/network/interfaces 文件。_ubuntu 命令跟centos

windows10下VS2019编译jpegsrc.v9e.tar.gz为lib静态库（已验证）_jpeg library error vs2019-程序员宅基地

文章浏览阅读652次。jpegsr9e windows vs2019生成方法，以及库下载_jpeg library error vs2019

重磅？华为 Mate60/Pro 系列网速实测结果公布，最高 1205.57 Mbps_华为mate60pro+核实网络-程序员宅基地

文章浏览阅读647次。总的来说，华为Mate 60/Pro系列手机的高速网速表现引起了广泛的关注，这也是消费者对该系列手机购买热情高涨的一个重要因素。可以看出，华为Mate 60/Pro系列手机的网速表现非常出色，这也是消费者购买该系列手机的一个重要原因。此前，华为Mate 60 Pro的供应量已经增至1500万至1700万台，而最新消息称，华为Mate 60 Pro和Mate 60 Pro+的出货量甚至已上调至2000万台。目前，在中国市场上，手机竞争愈发激烈，不仅华为Mate 60系列，其他品牌的手机也都受到了高温的迎接。_华为mate60pro+核实网络

access查找出生日期年份_access怎样利用出生日期计算年龄呀！-程序员宅基地

文章浏览阅读7.1k次。公告：为响应国家净网行动，部分内容已经删除，感谢读者理解。话题：access怎样利用出生日期计算年龄呀！回答：lt;%set rs = server.createobject(＂adodb.recordset＂) curid=request(＂id＂) sql = ＂UPDATE pany SET a_num=a_num+1,day_count=day_count+1 WHERE day_lda..._access出生年份表达式