本文ppt来自深蓝学院《机器人中的数值优化》

目录

1 函数高阶信息的介绍
2 函数高阶信息的计算

1 函数高阶信息的介绍


hessian矩阵是对称矩阵,最后一个公式是函数关于0的泰勒展开

负梯度是函数下降的最快方向

注意区分Hessian矩阵与Jacobian矩阵,Hessian矩阵对应的函数是向量映射到标量,矩阵元素是二阶信息,而Jacobian矩阵对应的函数是向量映射到向量,矩阵元素是一阶信息。

2 函数高阶信息的计算


上述几种不同的高阶信息是由于函数映射中X、Y的不同类型导致导数的形式不同

Matrix calculus - HandWiki 此为该数学网站的网址

用两种方法计算梯度,一种是元素法,一种是向量法