向量的线性相关性
通过引入向量的线性相关性的概念,我们能够从一个全新的角度理解线性方程组解的结构,并为后续理解向量空间结构、矩阵秩、特征值与特征向量、线性变换以及数据降维等奠定基础。
1. 线性相关性的定义
这一节我们将引入向量的线性相关性这一新的概念,从另一个角度研究齐次线性方程组(Ax=0)。通过分析向量的线性相关性,我们可以更好地理解方程组解的结构。我们先来看定义:
向量线性相关、无关性
Rn 中的一组向量
{v1,v2,…,vp} ,若向量方程
x1v1+x2v2+⋯+xpvp=0 仅有平凡解(也就是
x1,x2,…,xp 全为零),那我们就称这组向量
线性无关。若向量方程有非平凡解(也就是存在不全为零的
x1,x2,…,xp ),那这组向量就是
线性相关的。
定义
根据上面的定义,观察下面两个示例中的向量组是否线性相关,重点在于理解向量的线性相关性和方程组解的结构之间的联系。
要判断 v1,v2,v3 是否线性相关, 根据定义,我们需要判断 x1v1+x2v2+x3v3=0 (也就是齐次方程 Ax=0 ) 是否有非平凡解,判断齐次方程是否有非平凡解,可以根据上一节的结论来判断方程中是否有自由变量。通过对增广矩阵 [v1v2v30] 进行行化简后,可得方程存在非平凡解,所以向量组 {v1,v2,v3} 线性相关。
判断矩阵 A 的列向量 [a1a2a3] 是否线性相关,也既是判断 x1a1+x2a2+⋯+xnan=0 是否有非平凡解。这个问题和例 1 是等价的。这次对增广矩阵行化简后可知方程组没有自由变量,它只有平凡解,所以矩阵 A 的列向量线性无关。
2. 线性相关性判别方法一
通常情况下,我们不会直接依据定义来判断向量组的线性相关性,而是利用更便于计算或更容易检查的条件。下面的方法是从向量组合的角度来判定向量的线性相关性的。
当向量集合 S={v} 只含有一个向量时,当且仅当 v=0 时,S 线性相关。这是因为:如果 v=0 ,那么 x1v=0 会有无穷多个非平凡解( x1 可取任意值),根据定义可知此时 S 线性相关。
当向量集合 S={v1,v2} 中有两个向量时,当且仅当 v1=kv2 (k取任意实数)时, S 线性相关。这是因为:如果 v1=kv2 ,那么 v1−kv2=0 存在非平凡解,此时 S 线性相关。
推广到包含更多向量的集合 S={v1,v2,…,vp} ,有如下定理:
线性相关集的特征
设
S={v1,v2,…,vp} 是由两个或更多个向量组成的集合,当且仅当
S 中至少有一个向量是其它向量(注意:不是所有向量)的线性组合时,集合
S 线性相关。实际上,如果
S 线性相关,且
v1=0 ,那么一定存在一个
vj (j>1) 是前面向量
v1v2,…,vj−1 的线性组合。
定理 7
关于定理 7 的证明过程如下:
- 假设在集合 S={v1,v2,…,vp} 中,存在向量 vj 是其它向量的线性组合:
vj=c1v1+c2v2+⋯+cj−1vj−1+cj+1vj+1+⋯+cpvp - 我们可以将上述等式中的 vj 移到等式的另一边,得到:
0=(−1)vj+c1v1+c2v2+⋯+cj−1vj−1+cj+1vj+1+⋯+cpvp - 上述等式表明向量方程
c1v1+c2v2+⋯+cpvp=0 存在非平凡解(存在非零系数),所以集合 S 线性相关。
定理 7 通过向量的线性组合来判断向量组是否线性相关,使得我们能够从几何角度来理解向量的线性相关性。对于向量组 {u,v,w}⊆R3 ,其中 u 和 v 线性无关,那么当且仅当 w 在 u 和 v 所生成的平面上( Span{u,v} )时, {u,v,w} 线性相关。
3. 线性相关性判别方法二
我们还可以根据向量的数量和向量的维度来判断向量的相关性。比如,在 R2 中, 当向量的数量超过 2 个时,我们可以确定这些向量线性相关,因为在 R2 空间中只需要 2 个不相关的向量就可以组合出其它任意的向量。同理,在 R3 中,最多只需要 3 不相关的向量就可以组合出其它任意向量。推广到 Rn ,有如下定理:
向量的线性相关性定理
如果一个向量组中的向量数量多于每个向量的元素个数,那么这个向量组线性相关。也就是说,任何
Rn 中任意向量组
{v1,v2,…,vp} ,如果
p>n ,则是线性相关的。
定理 8
这个定理非常有用。比如,对于一个矩阵 Am×n ,当它的列数大于它的行数(即n>m )时,矩阵 A 的列向量必定是线性相关的。另外,该定理在后续章节中对于理解矩阵的秩、向量空间的基等概念非常重要。
4. 线性相关性判别方法三
还有一种特殊的情况,就是向量组中包含零向量。有如下定理:
包含零向量的线性相关性定理
如果
Rn 中向量组
S={v1,v2,…,vp} 中包含零向量,则它线性相关。
定理 9
这个定理的证明也十分简单,假设
S={v1,v2,…,vp} 中
v1=0 ,那么方程
1v1+0v2+⋯+0vp=0 ,根据定义可知
S 线性相关。比如下面的示例中,由于:
0235+2000+0118=0 方程中存在非零系数。所以,向量
235 ,
000 ,
118 线性相关。