牛顿-拉弗森算法和拟牛顿算法

牛顿-拉弗森算法和拟牛顿算法都是求解无约束最优化问题的常用方法，有收敛速度快的优点。牛顿法是迭代算法，每一步都需求解目标函数的海塞矩阵（Hessian Matrix），计算比较复杂。而拟牛顿法是一种基于线性代数的优化算法，它通过构造一个近似于海塞矩阵的矩阵来代替直接求海塞矩阵，从而减少了计算量。

牛顿法（Newton's method）又称为牛顿-拉弗森方法（Newton-Raphson method），它是一种在实数域和复数域上近似求解方程的方法。牛顿法的基本思想是使用函数f(x)的泰勒级数的前几项来寻找方程f(x)=0的根。

拟牛顿法（quasi Newton method）是一种基于线性代数的优化算法，它通过构造一个近似于海塞矩阵的矩阵来代替直接求海塞矩阵，从而减少了计算量。