Skip to content

Latest commit

 

History

History
158 lines (82 loc) · 7.22 KB

09-线性相关性-基-维数.md

File metadata and controls

158 lines (82 loc) · 7.22 KB

09-线性相关性-基-维数

1、Overview(概述)

在之前的章节中,我们可能经常会发现矩阵中有时会有一行或几行本身就是前面几行的线性组合的情况,那么这一节,我们就从这种线性相关的特征入手,介绍空间中的几个重要的概念 。

具体内容如下:

  • 线性无关(Linear Independence)
  • 生成空间(Spanning a Space)
  • 空间的基(Basis)与维数(Dimension)

注:以上内容针对向量组

2、线性无关与线性相关

2.1、背景知识

我们从之前学习的 Ax=0 方程谈起。

给定 m*n 的矩阵 A (m < n):

方程 Ax = 0 中,,未知数一共 n 个,方程一共 m 个,未知数 x 的个数比方程的个数多。

所以矩阵 A 的零空间中除零向量以外还有其他非零向量,因为矩阵 A 最多 m 个主列,而 m < n,因此矩阵 A 至少有 n-m 个自由列,即矩阵 A 至少有 n-m 个自由向量,这就造成了矩阵 A 的零空间 N(A) 中有除了零向量之外的非零向量。

2.2、线性无关

1. 从向量的线性组合的角度看线性无关

设向量组为

对于任意的系数c(不全为0),各个向量的线性组合无法组合得到零向量,则称此向量组线性无关

对于任意的系数c(不全为0),各个向量的线性组合可以等于零向量,则称此向量组线性相关

因此,如果一个向量组中有零向量存在,那么这个向量组一定是线性相关的。例如,对于向量 v1, v2 (v2= 0), 其线性组合 0 v1 + 6 v2 = 0,因此此向量组线性相关,总能找到一个非零系数,使得向量的线性组合变成0,这都是零向量惹的祸。

举例说明:

显然,A 矩阵是 n > m 型的矩阵。根据背景知识 (2.1), Ac = 0 这个方程对应的零空间中,除了零空间肯定还有其他非零向量,即存在一种 c 不全为 0 的情况,使 A 各列线性组合后得到 0 。因此矩阵 A 的各列: 线性相关。

2. 从矩阵的零空间看待线性无关

线性无关仅与向量组有关系,与矩阵毫无关系,但是我们可以将向量组放入矩阵之中,将向量组的线性无关与矩阵的零空间联系起来。

设向量组是矩阵 A 的列向量。

若向量组 线性无关,则矩阵 A 的零空间只包含零向量, N(A) = {0}

若向量组 线性相关,则矩阵 A 的零空间除了零向量之外还包含其他非零向量 c,N(A) = {0, c},即 Ac = 0

3. 从矩阵的秩的角度看待线性无关

设向量组是矩阵 A (m*n)的列向量。

若向量组 线性无关,则 rank(A) = n,此时没有自由变量。

若向量组 线性相关,则 rank(A) < n,此时有 n-r 个自由变量。

3、生成空间与空间的基、维数

3.1 生成空间

生成空间 :向量 v1, v2, ..., vl 生成一个空间意味着这个空间是由这个向量组所有的线性组合构成的。

例如:给定矩阵 A, A 的所有列向量的线性组合生成了 A 的列空间 C(A),即 C(A) 由列向量的所有线性组合构成。

那么这个列向量组是线性无关的吗? 也许是,也许不是。

我们更加关心的是这样的向量组:既能生成空间,又是线性无关的。这意味着向量组的个数必须是适当的个数。

  • 若个数不够,则向量组无法构成空间;
  • 若个数过多,则向量组可能不是线性无关的。

这就引出了空间的基的概念。

3.2 空间的基

空间的基是一组向量。那么这组向量具有什么性质呢?

  • 向量组线性无关
  • 向量组生成了整个空间

那么某个空间的基是不是唯一的呢?

不是,因为我们始终可以找到不同的向量组,满足基的所有性质,因此某个空间的基有多个,并且基的个数是确定的,我们把某个空间中的基的个数称为空间的维数。

那么若将基的所有向量作为列向量组成一个矩阵,这个矩阵有何特征呢?

将所有基的向量作为列向量组合成一个矩阵 A ,这个矩阵 A 必然是可逆的。因为所有的列向量都是线性无关的,这意味着给定系数矩阵 c, 矩阵 A 的所有列向量的线性组合要想得到零向量,必须使得 c = 0,即方程 Ax = 0 的零空间只有零向量,因此矩阵 A 必然是可逆的。此矩阵称为非奇异矩阵。 详细的证明见:03-乘法和逆矩阵

以下详细解释。

3.3 空间的维数

空间的维数 是指空间的基的个数。

对于一个向量空间,可以有不同的基,但是基的总量是一定的,即不同的基包含的向量的个数是一定的。

理解维数也很简单,像我们的三维空间,其基一定是三个三维向量(三个向量,每个向量有三个分量),四维空间的基也一定是四个四维向量。

举例如下:

(2) 找出 A 列空间中的一个基

从 A 的结构看来:

第3列 = 第1列 + 第2列 第4列 = 第1列

我们可以取前两列作为基。所以 A 的列空间的维数为:2。

再看 A 矩阵,显然 A 的秩为 2,因为 A 消元后只有两个主列。所以有:矩阵 A 的秩 = 矩阵 A 主列的个数 = A 列空间维数

这下我们就将矩阵的秩与列空间的维数联系了起来,而更重要的是,我们知道了列空间的维数,那么在这个列空间中随便找两个线性无关的向量,它们就可以构成一组基,这组基就可以生成这个列空间。

(3) A 对应零空间的维数为多少?

所谓零空间维数,即是零空间基的个数,也是 Ax=0 的特解的个数,还可以理解为: Ax=0 的解中自由变量的个数。

最简单的方法是解 Ax=0 这个方程。经过消元,自由变量赋值,回代,最后得到两个特解:

所以此零空间的维数为 2.

总结一下

对于矩阵 A (m*n),rank(A) = r,则有:

  • 列空间的维数:dim(C(A)) = r = 主列的个数 = 主列的个数
  • 零空间的维数:dim(N(A)) = n - r = 自由变量的个数

一旦知道了一个空间的维数 dim,那么我们可以随便找 dim 个线性无关的向量构成空间的基。

6、小结

这一章节的内容相对来说,是比较简单的,就是几个概念的介绍:线性相关/无关,基,维数。这一节这几个概念都是用来描述空间的,了解了这几个概念之后,我们便将矩阵的秩,矩阵的自由变量等概念与空间的维数,基,线性相关/无关 的判定联系起来。便于我们接下来对向量空间的研究。

上一章:08-求解Ax=b、可解性和解的结构】【下一章:10-四个基本子空间