一、前言
在讲解超定方程求解之前,以及为什么最小奇异值对应的特征特征向量为最优解之前,我们需要知道以下知识:矩阵的特征向量,特征值,EVD(特征分解),SVD(奇异值分解)等相关知识。这些内容本人在上一篇博客中,有特别详细的讲解,链接如下:史上最简SLAM零基础解读(3) - 白话来说SVD奇异值分解(1)→原理推导与奇异值求解举例。请认真仔细的阅读这篇博客,阅读以及弄明白之后,就可以思考接下来的问题了。


二、适定、欠定、超定方程


    若方程(1)至少有一个精确解,称为一致方程。
    若方程(1)无任何精确解,称为非一致方程。


下面是术语 “适定”、“欠定” 和 “超定” 的含义。
适定的双层含义 方程组的解是唯一的; 独立的方程个数与独立末知参数的个数相 同, 正好可以唯一地



三、超定方程求解
在计算机视觉或者说 slam 中,经常遇到超定方程求解的情形。比如三角化地图点,pnp,以及 Fundamental 与 Homography 矩阵的求解。那么我们就来介绍一下 超定方程 的求解。通过前面的介绍,我们已经知道超定方程没有精确解的,那么只能去求他的最优解。这个时候我们就需要引入最小二乘法了(关于最小二乘法的相关知识大家可以百度一下)。





这是一个带约束的最小二乘问题,我们把拉格朗日搬出来:



为了求极值,我们分别对 A和λ 求偏导数,令为0:



把(5)式整理一下:





列。因为每一个奇异值都是一个残差项,因此最后一个奇异值最小,其含义是最优的残差。因此其对用的奇异值向量就是最优解。

四、结语
通过上一篇博客,与这一篇博客的讲解,我相信大家对于 SVD奇异值分解 的原理,以及推导过程应该算是比较了解呢,但是与工程上的应用还是需要多磨合一下。毕竟理论没有实践,也仅仅是纸上谈兵。没有运用到现实生活的数学公式,还是比较空洞的。