LinearAlgebra

Previous Next

Linear Algebra

求解方程的几种视角

1.Cramer's Rule（克拉默法则，仅方阵）

非齐次方程$AX=B$有唯一解：$X_{1} = \frac{|A_{1}|}{|A|},...,Xn=...$

其中，$A_1$为用常数矩阵代替该列后，所形成的新矩阵

2.Inverse Matrix（逆矩阵的观点，仅方阵）

非齐次方程$AX=B$：$X=A^{-1} B$

  • 为了求这个$A^{-1}$，可以先证A可逆，然后直接求逆

  • 为了求这个$A^{-1}$，常使用Gauss高斯消元，构造增广矩阵$(A,B)=(E,A^{-1}B)$，其他构造方法见下

3.Rank&System of Solutions（秩与解系的观点，任意矩阵）

方阵：用方阵、最高阶非零子式、秩的观点求解。 推广至任意矩阵：用向量组、极大线性无关组、秩的观点求解。

  1. 化简向量组$V$（或称系数矩阵、增广矩阵$V$），将它化简至最简型矩阵
  2. 确定极大无关组并求解极大无关组的数量$D_r$，即求出$V$的秩$R(V)$，有$D_r=R(V)$

  3. 若变量数为n，求出自由变量数$N=n-D_r$

  4. 列出向量形式解（方阵时）：$X =x\cdot \xi=x_{1}\xi_{1} + x_{2}\xi_{2} +...+ x_{n}\xi_{n}$

  5. 在向量形式解的基础上，找到基础解系$\xi$，也就是n列系数向量

  6. 根据非齐次/齐次方程组对应的通解形式，列出代数形式解（任意矩阵时）：
  7. 齐次通解：同方阵的向量形式解。
  8. 非齐次通解：对应齐次通解+任意一个非齐次特解。（这样可以避免化简增广矩阵）。

也就是说，齐次通解的求解方法只有一种。 但非齐次通解有两种方法：(1)向量组V设为增广矩阵，使用高斯消元，作向量形式解表达 (2)V设为系数矩阵，作代数形式解表达：齐次通解+非齐次特解

判定方程有无解、解的个数

非齐次方程$AX=B$

  1. 行列式观点（仅方阵）：
  2. $|A|=0$ 即无解或无穷解

  3. $|A|\ne0$ 即唯一解

  4. 秩观点（任意矩阵）

  5. $R(A,B)< R(A)$ 即无解
  6. $R(A,B) = R(A) = n$ 无自由变量，即有唯一解
  7. $R(A,B) = R(A) < n$ 含自由变量，即有无穷解

齐次方程$AX=0$

注：齐次方程一定有解，只有零解和非零解的区别。非零解对应上文无穷解，零解对应上文唯一解。

  1. 行列式观点（仅方阵）：
  2. $|A|=0$ 即非零解

  3. $|A|\ne0$ 即零解

  4. 秩观点（任意矩阵）

  5. $R(A,B) = R(A) = n$ 无自由变量，即有零解
  6. $R(A,B) = R(A) < n$ 含自由变量，即有非零解

求逆的几种方法

  1. Cramer's Rule推论（利用伴随矩阵$A^{-1}=\frac{1}{|A|}A^{*}$，一般只用来求二阶矩阵的逆，记结论即可：两调一除）
  2. Gauss消元（构造增广矩阵$(A,E)=(E,A^{-1})$）
  3. 待定系数法
  4. LU分解：L为上三角矩阵，U为下三角矩阵
  5. 若$A\rightarrow Gauss消元法\rightarrow L_2(L_{1}A)=U$，则$L=L_2^{-1}L_1^{-1}$，于是$A=LU$

内积、基与正交

内积：$(x,y)=x^{T}y$ 基：基等同于空间中的一个线性无关组，所以一个基础解系也是一组基。空间中的任何一个向量都能被这一组基线性表示。

规范正交基：基不一定两两正交，Schmidt正交化（包含==正交化和单位化==）后的基才是规范正交基。

正交矩阵的性质：$A^{T}A=E$或$A^{T}=A^{-1}$。也就是说正交阵的转置操作和求逆操作是等同的；正交阵的行列式为1或-1 正交变换：将空间的基左乘一个正交阵。

正交矩阵的求法：(1)找到一组规范正交基 (3)组成一个矩阵

特征值与特征方程

因为有定义$Ax=\lambda x$，所以有特征方程：$(\lambda E-A)x=0$

求解==任意矩阵==的特征值，即判断这个齐次方程在$\lambda$等于多少时有解（行列式角度、秩的角度）。 求解==任意矩阵==的特征向量，需要先求出$\lambda$，则在$\lambda=\lambda_0$的情况下，找到一个基础解系x。

==方阵==特征值$\lambda$的一些性质

  1. $\lambda$之和=方阵的迹
  2. $\lambda$之积=方阵的行列式

（以下两个性质，可直接从定义推出） 3. 对应逆矩阵的特征值=$\frac{1}{\lambda}$ 4. 对应伴随矩阵的特征值=$\frac{|A|}{\lambda}$

相似变换

判定相似

  1. 矩阵的迹
  2. 矩阵的秩
  3. 矩阵的特征值
  4. 矩阵的特征向量个数相等（$\lambda E-A$和$\lambda E-B$）

相似变换 $U^{-1}AU=B$

包含：对角变换等。

判断能否对角化

  1. 若该矩阵有n个不同的特征值，则必可对角化
  2. 对称矩阵必可对角化
  3. （充要条件）代数重复度==几何重复度

对角变换

  1. 对角阵中对角线上的元素是原矩阵的特征值
  2. 对于对称矩阵A，总存在一个正交阵T（也就是A的特征正交阵），可以让A对角化
  3. 特征正交阵的求法：(1)解特征方程会得到一个基础解系 (2)转换为规范正交基 (3)组成一个矩阵

合同变换

合同变换 $U^{T}AU=B$

由定义可推知，如果U为正交阵，那么相似变换==合同变换； 如果再加上A是对称矩阵，那么相似变换==对角变换==合同变换。

二次型 $f(x)=x^{T}Ax$

A必定是对称矩阵，若找到对应的特征正交阵，则相似变换==对角变换==合同变换。

将二次型化为标准型（正交变换）

给一个$f=x^TAx$

  1. 找到对应的特征正交阵Q
  2. 取正交变换$x=Qy$
  3. 则$f=y^T(Q^TAQ)y$
  4. 求$Q^TAQ$并代入3式即可

将标准型化为规范型

略。

判断矩阵正定

矩阵正定 <==>矩阵的各阶顺序主子式全大于0 <==>矩阵的特征值全大于0

一些技巧

行列式

计算行列式

  1. 范德蒙行列式
  2. 三线型行列式
  3. 分块矩阵的行列式（拉普拉斯公式）

计算一个给定展开式的值

  1. 用余子式分别计算
  2. 用替代法，将给定展开式逆推成一个新的行列式，求行列式值即可

抽象矩阵求逆

  1. 凑定义法
  2. 长除法

常见方阵的行列式

  1. $|A^{-1}|=\frac{1}{|A|}$
  2. $|A^{T}|=|A|$
  3. $|kA|=k^n|A|$
  4. $|A^*|=|A|^{n-1}$

逆乘与伴随乘

  1. $A^{-1}A=E$
  2. 当A为正交阵时（有$A^T=A^{-1}$），则$A^TA=A^{-1}A=E$
  3. $AA^=A^A=|A|E$

用基理解：线性无关、线性有关与秩的关系

向量组A无关==>n个列向量组就是空间的n个基==>向量个数n=空间最大维度=秩 向量组A有关==>n个列向量中至少有一个向量不是基==>向量个数n>空间最大维度=秩

  1. 向量组有关<==>$R(A)<n$
  2. 向量组无关<==>$R(A)=n$

用基理解：线性表示与秩的关系

假设向量组V线性无关，说明可以把V当成空间的基，V有几个列向量，空间就有几维。

向量组A能被向量组V线性表示<==>让B为空间的基，A可以用基来表示<==>$R(A)\le R(B)$

如果向量组A也无关，并且A与B可以互相线性表示<==>说明A与B都是空间的基，且A与B等价<==>$R(A)=R(B)$

算法复习 函数与极限