2020 年 MIT 数学教授 Gilbert Strang 录制了一个关于线性代数的学习和教学的一个新的、启发性的课程,从矩阵 A 的列空间和组合这些列的乘法 Ax 开始,包括了线性代数的概览、正交向量、特征值和特征向量、以及奇异值和奇异向量等方面的内容。以下为我在学习过程中所做的笔记,可供参考。
一、矩阵的列空间
常用矩阵
$A_{0}$ 所有的行向量在同一个方向并且所有的列向量在同一个方向:
$A_{1}$ 第一行加第二行等于第三行:
$S$ 为对称矩阵:
$Q$ 为正交矩阵:
A 的列空间(列的所有线性组合)
$Ax$ 为一种特殊的列的线性组合,将矩阵乘以向量:
$A$ 的列空间 = $C(A)$ = 所有 $Ax$ 向量 = 各列的所有线性组合,$C(A)$ 是一个平面。
列空间的基
C 中包含了第一列 $\begin{bmatrix} 1 & 3 & 2 \end{bmatrix}^{T}$,也包含第二列 $\begin{bmatrix} 4 & 2 & 1 \end{bmatrix}^{T}$。C 不包含第三列,该列与前两列线性相关:$\begin{bmatrix} 5 & 5 & 3 \end{bmatrix}^{T} = \begin{bmatrix} 1 & 3 & 2 \end{bmatrix}^{T} + \begin{bmatrix} 4 & 2 & 1 \end{bmatrix}^{T}$。
行秩 = 列秩 = r = 2
C 是平面的两个独立列向量,而 R 则表示了 A 是如何通过 C 中的两个向量重组 A 的
R 的 r 行是行空间的一组基
$A = CR$ 表明 A 的行秩等于列秩
- C 的 r 列相互线性独立(由定义可知)
- A 的每一列都是(C 的)这 r 列的线性组合(因为 A = CR)
- R 的 r 行相互线性独立(这 r 列包含了 r × r 的矩阵 I )
- A 的每一行都是(C 的)这 r 行的线性组合(因为 A = CR)
核心内容
- C 的 r 列组成了 A 的列空间的基:维度 r
- R 的 r 列组成了 A 的行空间的基:维度 r
基包含两个向量
- A 的秩等于 r = 2
- $n − r = 3 − 2 = 1$
计数定理
- $Ax = 0$ 有一组解 $x = (1, 1, −1)$ 有 $n − r$ 组独立解可使 $Ax = 0$ 成立
秩为 1 的矩阵 A
如果 A 的任意一列均为第一列的若干倍,那么 A 的每一行均为某行的若干倍
用 A = CR 来证明
- C 当中的一列 $v$ ⇒ R 当中的一行 $w$
- $A=\left[ v\right] ^{\left[ w\right] }$ ⇒ 每一行都是 $w$ 的倍数
A = CR 的优良性质
C 的列直接来源于 A:体现了此公式的内涵
R 变成了A 的行化简阶梯形
“行秩 = 列秩”这一结论变得显然:C = 列的基,R = 行的基
A = CR 不好的性质
C 和 R 可能是病态矩阵
如果 A 是可逆的,则有 C = A 和 R = I ⇒ A = AI,原地打转
二、线性代数概览
线性方程组
若 $Ax = 0$ 则有 $\begin{bmatrix} 1 \ \vdots \ m \end{bmatrix}\left[ x\right]=\begin{bmatrix} 0 \ \vdots \ 0 \end{bmatrix}$,x 与 A 的各列均正交
- 每个处于 A 的零空间当中的 x 都与 A 的行空间正交
- 每个处于 $A^T$ 的零空间当中的 y 都与 A 的列空间正交
$N\left( A\right) \bot C\left( A^{T}\right) $ 与 $N\left( A^{T}\right) \bot C\left( A\right) $
- 两对正交子空间,其中一对子空间的维度之和等于 n,另一对等于 m
宏观视角下的线性代数
一对子空间处于 $R{n}$ 之中,另一对处于$R{m}$ 当中,从行空间变换为列空间——由此可知 A 是可逆的。
列与行相乘(六组因式)
A = BC = 秩为 1 的矩阵之和(列乘以行:外积)
对矩阵相乘的全新理解(高层次),每次拿一列乘以一行是低层次的
$A=\begin{bmatrix} 2 & 3 \ 4 & 7 \end{bmatrix}=\begin{bmatrix} 1 & 0 \ 2 & 1 \end{bmatrix}\begin{bmatrix} 2 & 3 \ 0 & 1 \end{bmatrix}=LU$ (将矩阵拆分成上下两个三角矩阵)
- $2x+3y=7$ , $4x+7y=15$ ⇒ $x=2,y=1$
- 若两行发生交换,则 $PA = LU$ (P 指的是排列矩阵)
用消元来解Ax = b(因式 A = LU)
下三角矩阵 L 乘以上三角矩阵 U
三、正交向量
正交向量 – 矩阵 – 子空间
(直角三角形)
$Q=\dfrac{1}{3}\begin{bmatrix} -1 & 2 \ 2 & -1 \ 2 & 2 \end{bmatrix}$ ,$Q^{T}Q=I,QQ^{T}\neq I$ ,$QQ^TQQ^T = QQ^T$
正交矩阵
四、特征值和特征向量
特征值和特征向量
五、奇异值和奇异向量
奇异值和奇异向量