DFP是其发现者Davidon, Fletcher, Powell的开头大写字母拼成的,也是第一个公认的拟牛顿法。 其基本思路和SR1差不多,也是想着确定一个对称矩阵修正量\Delta H_k来更新H_k,只不过SR1是令\Delta H_k=\beta uu^T,而DFP是给与了\Delta H_k更大的自由度。DFP中,我们令\Delt
DFP算法：DFP（Davidon-Fletcher-Powell）算法是第一个公认的拟牛顿法，其迭代更新式为\(B_k = (I - \alpha_ky_kx_k^T)B_{k-1}(I - \alpha_kx_ky_k^T) + \alpha_kx_kx_k^T\)，其中\(y_k = g_k - B_{k-1}x_k\)。BFGS算法：BFGS算法在迭代更新式上与DFP类似，但通过逆...