本科课程 · 线性代数
线性代数
线性代数研究最简单也最普遍的运算——加法与数乘:向量、矩阵、方程组、变换、二次型都在这两条规则下运行。它是机器学习的骨架:神经网络的每一层就是一个矩阵乘法。
1 线性方程组与高斯消元
概念增广矩阵与初等行变换
高斯消元:对增广矩阵 (A | b) 施行初等行变换(交换、倍乘、倍加)化为行阶梯形——不改变解集。
解的判别(核心定理):设 r = r(A):
① r(A) = r(A|b) = n(未知数个数)⇒ 唯一解;
② r(A) = r(A|b) < n ⇒ 无穷多解(自由变量 n − r 个);
③ r(A) < r(A|b) ⇒ 无解(出现 0 = 非零 矛盾行)。
齐次 Ax = 0 恒有零解;有非零解 ⇔ r(A) < n。
解的判别(核心定理):设 r = r(A):
① r(A) = r(A|b) = n(未知数个数)⇒ 唯一解;
② r(A) = r(A|b) < n ⇒ 无穷多解(自由变量 n − r 个);
③ r(A) < r(A|b) ⇒ 无解(出现 0 = 非零 矛盾行)。
齐次 Ax = 0 恒有零解;有非零解 ⇔ r(A) < n。
2 矩阵及其运算
概念矩阵是"动作",不只是数表
乘法 (AB)ᵢⱼ = Σₖ aᵢₖbₖⱼ——行乘列;不满足交换律 AB ≠ BA,也推不出 AB = 0 ⇒ A = 0 或 B = 0(有零因子)。
转置:(AB)ᵀ = BᵀAᵀ;逆:A⁻¹ 存在 ⇔ det A ≠ 0,(AB)⁻¹ = B⁻¹A⁻¹;
三大等价刻画(方阵 A 可逆 ⇔ 以下全部成立):det A ≠ 0 ⇔ r(A) = n ⇔ Ax = 0 只有零解 ⇔ 列向量线性无关 ⇔ A 是满秩线性变换。
转置:(AB)ᵀ = BᵀAᵀ;逆:A⁻¹ 存在 ⇔ det A ≠ 0,(AB)⁻¹ = B⁻¹A⁻¹;
三大等价刻画(方阵 A 可逆 ⇔ 以下全部成立):det A ≠ 0 ⇔ r(A) = n ⇔ Ax = 0 只有零解 ⇔ 列向量线性无关 ⇔ A 是满秩线性变换。
3 行列式
概念体积缩放因子
定义与性质:det A 按行/列展开;换行变号、某行乘 k 则 det 乘 k、两行成比例则为 0、某行加另一行的倍数不变。
几何意义:|det A| = A 把单位正方形(体)拉伸成的面积(体积)倍数;det < 0 还意味着翻转定向。
乘积公式 det(AB) = det A · det B;Cramer 法则(理论意义大于计算价值)。
几何意义:|det A| = A 把单位正方形(体)拉伸成的面积(体积)倍数;det < 0 还意味着翻转定向。
乘积公式 det(AB) = det A · det B;Cramer 法则(理论意义大于计算价值)。
4 向量组、秩与解的结构
概念线性相关与基础解系
线性相关:存在不全为零的系数使 Σkᵢαᵢ = 0 ⇔ 某向量可由其余表示。
极大无关组所含向量个数 = 秩 r(A)——矩阵的"真实维数",行变换不变。
解的结构定理:非齐次通解 = 特解 + 齐次通解;齐次解集是 n − r 维子空间,其基叫基础解系。
三向量共线/共面、四向量共体是三维情形的几何直觉。
极大无关组所含向量个数 = 秩 r(A)——矩阵的"真实维数",行变换不变。
解的结构定理:非齐次通解 = 特解 + 齐次通解;齐次解集是 n − r 维子空间,其基叫基础解系。
三向量共线/共面、四向量共体是三维情形的几何直觉。
随堂检测方程组 · 矩阵 · 秩
5 线性空间与线性变换
概念变换 = 矩阵,矩阵 = 变换
线性映射:T(α + β) = Tα + Tβ,T(kα) = kTα。取定基后,线性映射 ↔ 矩阵一一对应(坐标列的作用)。
核与像:ker T(映到 0 的向量,维数 = n − r)与 im T(像空间,维数 = r)——"没被看见的"与"被照亮的"两个子空间。
常见变换:旋转 θ:[[cosθ, −sinθ],[sinθ, cosθ]];剪切;伸缩;投影(降维,不可逆);镜面反射。
核与像:ker T(映到 0 的向量,维数 = n − r)与 im T(像空间,维数 = r)——"没被看见的"与"被照亮的"两个子空间。
常见变换:旋转 θ:[[cosθ, −sinθ],[sinθ, cosθ]];剪切;伸缩;投影(降维,不可逆);镜面反射。
6 特征值、特征向量与对角化
概念矩阵的"固有方向"
定义:Av = λv(v ≠ 0)——变换后不离开原所在直线的方向。
求法:解特征方程 det(λI − A) = 0(λ² − tr·λ + det = 0,二阶情形);
重要关系:Σλᵢ = tr(迹),Πλᵢ = det;Aᵏ = PΛᵏP⁻¹(对角化后幂运算飞快)。
可对角化条件:n 个线性无关特征向量 ⇔ 每个特征值的几何重数 = 代数重数。实对称矩阵必可正交对角化,特征值全为实数,不同特征值的特征向量正交。
求法:解特征方程 det(λI − A) = 0(λ² − tr·λ + det = 0,二阶情形);
重要关系:Σλᵢ = tr(迹),Πλᵢ = det;Aᵏ = PΛᵏP⁻¹(对角化后幂运算飞快)。
可对角化条件:n 个线性无关特征向量 ⇔ 每个特征值的几何重数 = 代数重数。实对称矩阵必可正交对角化,特征值全为实数,不同特征值的特征向量正交。
随堂检测特征值
7 二次型
概念标准形与正定性
二次型 f = xᵀAx(A 对称)。主轴定理:正交变换 x = Qy 化为标准形 λ₁y₁² + λ₂y₂²(λᵢ 为特征值)。
正定 ⇔ 所有特征值 > 0 ⇔ 顺序主子式全大于 0 ⇔ f(x) > 0 对一切 x ≠ 0(几何:f = 1 是椭球/椭圆)。
惯性定理:正负惯性指数在合同变换下不变。
正定 ⇔ 所有特征值 > 0 ⇔ 顺序主子式全大于 0 ⇔ f(x) > 0 对一切 x ≠ 0(几何:f = 1 是椭球/椭圆)。
惯性定理:正负惯性指数在合同变换下不变。
8 内积与正交
概念Schmidt 正交化与正交矩阵
Schmidt 正交化:β₁ = α₁;β₂ = α₂ − (α₂·β₁)/(β₁·β₁) · β₁;再单位化得标准正交组——"减掉投影,留下垂直分量"。
正交矩阵 Q:QᵀQ = I ⇔ 列向量标准正交;保内积、保长度(刚体旋转/反射)。
应用:最小二乘(法方程 AᵀAx = Aᵀb)、QR 分解、傅里叶基的正交性。
正交矩阵 Q:QᵀQ = I ⇔ 列向量标准正交;保内积、保长度(刚体旋转/反射)。
应用:最小二乘(法方程 AᵀAx = Aᵀb)、QR 分解、傅里叶基的正交性。