知识回顾和准备：

第2课矩阵：消元

矩阵E的逆记作E，有E·E=单位矩阵I。

第3课：乘法和逆矩阵

若存在逆，对于方阵，左逆右逆是相等的，非方阵则左逆右逆不等。

如果存在非零向量矩阵X，使AX=0，那么矩阵不可逆。

第4课：A的LU分解

若存在逆，A·B的逆矩阵是B·A。

第5课：置换、转置部分

对任意矩阵R有R·R为对称矩阵。

(A·B)=B·A

对称矩阵：转置后与原矩阵相等的矩阵。A=A

第10课：四个基本子空间

第11课：矩阵空间、秩1矩阵

第14课：正交向量与子空间与Ax=b

判断两个向量X,Y 是否正交，求乘积X·Y 是否等于0，等于0，则X,Y 正交。

学习总结：

上一讲中Ax=b无解的时候说起，当其无解的时候，我们求的解是什么？我们想要的"最优解"，即这个节对于原方程偏差最小，我们知道Ax=b有解时b在A的列空间中；当无解时，我们取b在A的列空间的b'，Ax=b'理论上是"最优解"。

1.投影矩阵

1.1 二维欧式空间的投影

如图向量b到向量a的最短距离是b在a上的投影是p，a垂直于e，e就像误差e=b-p，e与p互相垂直，p是a的某个倍数x，p=xa，它在a的一维子空间里，可得到一个方程，求解x，方程为：a·(b-xa) = 0。

其中a·a是一个常数，a·a是一个矩阵。假设b变成原来的2倍，那么投影p也变成原来的2倍；如果a变为原来的2倍，p则不变。

假设把上式写成：p=Pb，则P称为投影矩阵，可以说投影矩阵作用与某个向量后，得到其投影向量。

投影矩阵P的性质：

（1）rank(P)=1，因为P中a·a是一个对称矩阵，而且a秩为1；

（2）向量a是列空间的基，因为投影矩阵乘以任何向量b后仍旧在其列空间，因此投影矩阵的列空间C(P)是通过a的一条线；

（3）P是对称的P=P；

（4）对投影好的向量再次投影结果不变，所以P·P=P。

牢记重要的几个关系式：

1.2高维空间

1）正如引子所写，为什么要做投影？

因为Ax=b也许会无解，可能等式太多，造成无解，那么只能求解最接近的那个可能问题。Ax总在A的列空间里，那么如果将b微调，将b变为列空间中最接近它自己的那一个，将问题换做求解A=p （不是原来那个不存在的x，而是那个最接近解的，即最优解），p 是b在列空间上的投影（列空间内最合适的右侧向量）。这就是要找最好的那个投影的原因。

2）在三维空间中，将向量b投影在平面上A。同样的，p是向量b在平面A上的投影，e是垂直于平面A的向量，即b在平面A法方向的分量。设平面A的一组基为a1,a2，则投影向量p=a1+a2，我们更倾向于写作p=A，这里如果我们求出，则该解就是无解方程组最近似的解。

它与直线上的投影方程很相似，对于直线来说，矩阵A只有一列，就是一个小写的a，本质都是A·e = 0 。所以，e在A的零空间中，从前面几讲我们知道，左零空间与列空间垂直，则e与A的列空间垂直，与我们设想的一致。

3）那么x'是什么？投影p 是什么？投影矩阵P 是什么？（与一维情况下得到的公式相比较）

2. 最小二乘法

如图，要找到一条最优的直线来拟合这些点，误差最小。我们要确定C 和D的大小，来得到b=C+Dt 方程。

3.总结

（1）投影矩阵及其应用；

（2）解决Ax=b无解时，最优解的问题；

（3）最小二乘法。