21 有约束优化算法:增广拉格朗日法和ADMM 我们还是假设问题是凸的(非凸难啊)、目标函数可微(不可微可以用次梯度和无梯度),且限定一下优化问题只有一个等式约束(不等式可以用内点法,但是额我还没看(◡‿◡))。即,我们的标准问题 为: 看看改进的拉格…阅读全文 赞同217 20 条评论 分享...
【凸优化笔记2】-凸函数、下水平集、范数 目录1.凸函数2.下水平集3.范数1. 凸函数1.1 凸函数定义一个函数 是凸的,如果定义域 是凸集,并且对于所有 ,都有: 凸优化里对凹凸的定义和某些高等数学教材中对凹凸的定义可能正好相反,这里说的凸函数可… ...
DP 凸优化(WQS 二分 & Slope Trick) 笔记 本文原在 2025-01-21 08:36 发布于本人洛谷博客。一、WQS 二分考虑有下面这个问题:有nn 个物品,每个物品有价值 aiai,价值有正有负,你选择恰好其中 mm 个物品求最大价值。其实直接贪心就能做,但是考虑下面这种做法:假如五个物品的价值分别是 {5,3,2,−3,−...
这是自动化系的凸优化期末复习笔记,应该覆盖所有考点了。据可靠情报,至少 2023 秋季学期,两位老师的考题是一样的。想起来,考试时考察凸集,有问到一个腐蚀球的问题;大概先定义了腐蚀(若 r=1 的球被凸集包含,则球心在腐蚀后的凸集里)。去证明凸集腐蚀后还是凸的(或者类似的证明)。 证明思路:若 a b 都在...
凸锥是锥与凸集的交集，意味着其同时满足锥的性质与凸集的性质。 常见凸锥：对称半正定矩阵集合和对称矩阵集合同时满足锥的性质和凸集的性质，因此它们也是凸锥。总结：凸集和凸锥是优化理论中的重要概念，它们在描述和解决优化问题时起着关键作用。理解这些概念及其性质对于深入学习凸优化至关重要。
凸优化极简笔记: Ridge regression的核心要点如下：脊回归的概念：脊回归，又称Tikhonov正则化，是优化领域中的一个重要概念。它通过在目标函数中加入惩罚项来防止模型过拟合。凸函数与脊回归的关系：凸函数在优化问题中具有重要地位，因为它确保了全局最优解的存在。脊回归的目标函数是凸函数，这使得我们...
CMU凸优化笔记:凸集与锥的概念详解 从第二课开始,课程内容变得丰富起来,因此我们将每节课的内容拆分成几篇笔记。本篇笔记主要介绍了典型的凸集和锥的概念。 📖 凸集: 球:这是一个典型的凸集,其形状类似于一个三维的球体。 超平面:一个线性方程所确定的平面,也是凸的。 半空间:由一个超平面和一侧的点组成的...
凸优化理论笔记.pdf,Chapter 2 Convex Set 对于x1 x 2 Rn 连接两点的直线可表示为 x | x x (1)x ,R 1 2 连接两点的线段可表示为x | x x (1)x ,[0,1] 1 2 仿射集(Affine Set ) C C 定义: 是仿射集↔x , x C ,则连接两点的直线也在 内 1 2 一条直线是仿射集,一条线段则
🔍 此外,对偶理论还涉及到敏感性分析。在优化问题中,敏感性分析可以帮助我们了解参数变化对解的影响,从而更好地调整算法参数,提高算法的性能。📚 通过对偶理论与敏感性分析的学习,我们可以更深入地理解凸优化问题的本质,掌握更多高效的优化算法,为解决实际问题打下坚实的基础。0 0...