1.无约束优化的常用方法在讲带约束优化方法之前,我们先简单回顾一下常用的无约束优化方法。1.梯度下降法 2.牛顿法/拟牛顿法 3.共轭梯度法 … 上面梯度系列的无约束条件下的最优化,基本解法是根据极值的必要条件一阶导数为0,通过泰勒展开等形式,构造不同数列不断逼近最优解。2.带约束的优化实际情况中,不带约束...