加载中...

向量的线性相关性

通过引入向量的线性相关性的概念，我们能够从一个全新的角度理解线性方程组解的结构，并为后续理解向量空间结构、矩阵秩、特征值与特征向量、线性变换以及数据降维等奠定基础。

1. 线性相关性的定义

这一节我们将引入向量的线性相关性这一新的概念，从另一个角度研究齐次线性方程组 $\mathbf{A}\mathbf{x}=\mathbf{0}$ 。通过分析向量的线性相关性，我们可以更好地理解方程组解的结构。我们先来看定义：

定义

向量线性相关、无关性

$\mathbb{R^n}$ 中的一组向量 $\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ ，若向量方程

x_1\mathbf{v_1}+x_2\mathbf{v_2}+\dots+x_p\mathbf{v_p}=\mathbf{0}

仅有平凡解（也就是 $x_1,x_2,\dots,x_p$ 全为零），那我们就称这组向量线性无关。若向量方程有非平凡解（也就是存在不全为零的 $x_1,x_2,\dots,x_p$ ），那这组向量就是线性相关的。

根据上面的定义，观察下面两个示例中的向量组是否线性相关，重点在于理解向量的线性相关性和方程组解的结构之间的联系。

要判断 $\mathbf{v_1},\mathbf{v_2},\mathbf{v_3}$ 是否线性相关，根据定义，我们需要判断 $x_1\mathbf{v_1}+x_2\mathbf{v_2}+x_3\mathbf{v_3}=\mathbf{0}$ （也就是齐次方程 $\mathbf{A}\mathbf{x}=\mathbf{0}$ ）是否有非平凡解，判断齐次方程是否有非平凡解，可以根据上一节的结论来判断方程中是否有自由变量。通过对增广矩阵 $\begin{bmatrix}\mathbf{v_1}&\mathbf{v_2}&\mathbf{v_3}&\mathbf{0}\end{bmatrix}$ 进行行化简后，可得方程存在非平凡解，所以向量组 $\{\mathbf{v_1},\mathbf{v_2},\mathbf{v_3}\}$ 线性相关。

判断矩阵 $\mathbf{A}$ 的列向量 $\begin{bmatrix}\mathbf{a_1}&\mathbf{a_2}&\mathbf{a_3}\end{bmatrix}$ 是否线性相关，也既是判断 $x_1\mathbf{a_1}+x_2\mathbf{a_2}+\dots+x_n\mathbf{a_n}=\mathbf{0}$ 是否有非平凡解。这个问题和例 $1$ 是等价的。这次对增广矩阵行化简后可知方程组没有自由变量，它只有平凡解，所以矩阵 $\mathbf{A}$ 的列向量线性无关。

2. 线性相关性判别方法一

通常情况下，我们不会直接依据定义来判断向量组的线性相关性，而是利用更便于计算或更容易检查的条件。下面的方法是从向量组合的角度来判定向量的线性相关性的。

当向量集合 $S=\{\mathbf{v}\}$ 只含有一个向量时，当且仅当 $\mathbf{v}=\mathbf{0}$ 时， $S$ 线性相关。这是因为：如果 $\mathbf{v}=\mathbf{0}$ ，那么 $x_1\mathbf{v}=\mathbf{0}$ 会有无穷多个非平凡解（ $x_1$ 可取任意值），根据定义可知此时 $S$ 线性相关。

当向量集合 $S=\{\mathbf{v_1},\mathbf{v_2}\}$ 中有两个向量时，当且仅当 $\mathbf{v_1}=k\mathbf{v_2}$ （ $k$ 取任意实数）时， $S$ 线性相关。这是因为：如果 $\mathbf{v_1}=k\mathbf{v_2}$ ，那么 $\mathbf{v_1}-k\mathbf{v_2}=\mathbf{0}$ 存在非平凡解，此时 $S$ 线性相关。

推广到包含更多向量的集合 $S=\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ ，有如下定理：

定理 7

线性相关集的特征

设 $S=\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ 是由两个或更多个向量组成的集合，当且仅当 $S$ 中至少有一个向量是其它向量（注意：不是所有向量）的线性组合时，集合 $S$ 线性相关。实际上，如果 $S$ 线性相关，且 $\mathbf{v_1}\neq\mathbf{0}$ ，那么一定存在一个 $\mathbf{v_j}~(j>1)$ 是前面向量 $\mathbf{v_1}\mathbf{v}_2,\dots,\mathbf{v}_{j-1}$ 的线性组合。

关于定理 7 的证明过程如下：

假设在集合 $S=\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ 中，存在向量 $\mathbf{v_j}$ 是其它向量的线性组合：
$\mathbf{v_j}=c_1\mathbf{v_1}+c_2\mathbf{v_2}+\dots+c_{j-1}\mathbf{v_{j-1}}+c_{j+1}\mathbf{v_{j+1}}+\dots+c_p\mathbf{v_p}$
我们可以将上述等式中的 $\mathbf{v_j}$ 移到等式的另一边，得到：
$\mathbf{0}=(-1)\mathbf{v_j}+c_1\mathbf{v_1}+c_2\mathbf{v_2}+\dots+c_{j-1}\mathbf{v_{j-1}}+c_{j+1}\mathbf{v_{j+1}}+\dots+c_p\mathbf{v_p}$
上述等式表明向量方程
$c_1\mathbf{v_1}+c_2\mathbf{v_2}+\dots+c_p{v_p}=\mathbf{0}$
存在非平凡解（存在非零系数），所以集合 $S$ 线性相关。

假设集合 $S$ 是线性相关的，即存在非零系数 $c_1,c_2,\dots,c_p$ ，使得：
$c_1\mathbf{v_1}+c_2\mathbf{v_2}+\dots+c_p\mathbf{v_p}=\mathbf{0}$
如果 $\mathbf{v_1}=\mathbf{0}$ （换成任意 $\mathbf{v_k}=\mathbf{0}$ 也可以），则它本身就是其它向量的线性组合，即：
$\mathbf{v_1}=c_2\mathbf{v_2}+c_3\mathbf{v_3}+\dots+c_p\mathbf{v_p}=\mathbf{0}$
如果 $\mathbf{v_1}\neq\mathbf{0}$ ，我们可以假设 $c_j\neq0$ 是系数中最后一个非零项（即 $j$ 是最大的使得 $c_j\neq0$ 的下标）。

我们可以将上面的等式改写为：
$c_1\mathbf{v_1}+\dots+c_j\mathbf{v_j}+0\mathbf{v_{j+1}}+0\mathbf{v_p}=\mathbf{0}$
将 $c_j\mathbf{v_j}$ 移到等式的另一边，并除以 $c_j$ ，得到：
$\mathbf{v_j}=-\frac{c_1}{c_j}\mathbf{v_1}-\frac{c_2}{c_j}\mathbf{v_2}-\dots-\frac{c_{j_1}}{c_j}\mathbf{v_{j-1}}$
这表明 $\mathbf{v_j}$ 是前面 $j-1$ 个向量的线性组合，结论得证。

定理 7 通过向量的线性组合来判断向量组是否线性相关，使得我们能够从几何角度来理解向量的线性相关性。对于向量组 $\{\mathbf{u},\mathbf{v},\mathbf{w}\}\subseteq \mathbb{R^3}$ ，其中 $\mathbf{u}$ 和 $\mathbf{v}$ 线性无关，那么当且仅当 $\mathbf{w}$ 在 $\mathbf{u}$ 和 $\mathbf{v}$ 所生成的平面上（ $Span\{\mathbf{u},\mathbf{v}\}$ ）时， $\{\mathbf{u},\mathbf{v},\mathbf{w}\}$ 线性相关。

3. 线性相关性判别方法二

我们还可以根据向量的数量和向量的维度来判断向量的相关性。例如，在 $\mathbb{R^2}$ 中，当向量的数量超过 2 个时，我们可以确定这些向量线性相关，因为在 $\mathbb{R^2}$ 空间中只需要 2 个不相关的向量就可以组合出其它任意的向量。同理，在 $\mathbb{R^3}$ 中，最多只需要 3 不相关的向量就可以组合出其它任意向量。推广到 $\mathbb{R^n}$ ，有如下定理：

定理 8

向量的线性相关性定理

如果一个向量组中的向量数量多于每个向量的元素个数，那么这个向量组线性相关。也就是说，任何 $\mathbb{R^n}$ 中任意向量组 $\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ ，如果 $p>n$ ，则是线性相关的。

这个定理非常有用。例如，对于一个矩阵 $\mathbf{A}_{m\times n}$ ，当它的列数大于它的行数（即 $n>m$ ）时，矩阵 $\mathbf{A}$ 的列向量必定是线性相关的。另外，该定理在后续章节中对于理解矩阵的秩、向量空间的基等概念非常重要。

4. 线性相关性判别方法三

还有一种特殊的情况，就是向量组中包含零向量。有如下定理：

定理 9

包含零向量的线性相关性定理

如果 $\mathbb{R^n}$ 中向量组 $S=\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ 中包含零向量，则它线性相关。

这个定理的证明也十分简单，假设 $S=\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ 中 $\mathbf{v_1}=\mathbf{0}$ ，那么方程 $1\mathbf{v_1}+0\mathbf{v_2}+\dots+0\mathbf{v_p}=\mathbf{0}$ ，根据定义可知 $S$ 线性相关。例如下面的示例中，由于：

0\begin{bmatrix}2\\3\\5 \end{bmatrix}+2\begin{bmatrix}0\\0\\0\end{bmatrix}+0\begin{bmatrix}1\\1\\8\end{bmatrix}=\mathbf{0}

方程中存在非零系数。所以，向量 $\begin{bmatrix}2\\3\\5\end{bmatrix}$ 、 $\begin{bmatrix}0\\0\\0\end{bmatrix}$ 、 $\begin{bmatrix}1\\1\\8\end{bmatrix}$ 线性相关。

1.6 线性系统的应用

1.8 线性变换简介

浙ICP备2024102481号

向量的线性相关性

1. 线性相关性的定义

定义

向量线性相关、无关性

$\mathbb{R^n}$ 中的一组向量 $\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ ，若向量方程

x_1\mathbf{v_1}+x_2\mathbf{v_2}+\dots+x_p\mathbf{v_p}=\mathbf{0}

根据上面的定义，观察下面两个示例中的向量组是否线性相关，重点在于理解向量的线性相关性和方程组解的结构之间的联系。

2. 线性相关性判别方法一

推广到包含更多向量的集合 $S=\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ ，有如下定理：

定理 7

线性相关集的特征

关于定理 7 的证明过程如下：

假设在集合 $S=\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ 中，存在向量 $\mathbf{v_j}$ 是其它向量的线性组合：
$\mathbf{v_j}=c_1\mathbf{v_1}+c_2\mathbf{v_2}+\dots+c_{j-1}\mathbf{v_{j-1}}+c_{j+1}\mathbf{v_{j+1}}+\dots+c_p\mathbf{v_p}$
我们可以将上述等式中的 $\mathbf{v_j}$ 移到等式的另一边，得到：
$\mathbf{0}=(-1)\mathbf{v_j}+c_1\mathbf{v_1}+c_2\mathbf{v_2}+\dots+c_{j-1}\mathbf{v_{j-1}}+c_{j+1}\mathbf{v_{j+1}}+\dots+c_p\mathbf{v_p}$
上述等式表明向量方程
$c_1\mathbf{v_1}+c_2\mathbf{v_2}+\dots+c_p{v_p}=\mathbf{0}$
存在非平凡解（存在非零系数），所以集合 $S$ 线性相关。

假设集合 $S$ 是线性相关的，即存在非零系数 $c_1,c_2,\dots,c_p$ ，使得：
$c_1\mathbf{v_1}+c_2\mathbf{v_2}+\dots+c_p\mathbf{v_p}=\mathbf{0}$
如果 $\mathbf{v_1}=\mathbf{0}$ （换成任意 $\mathbf{v_k}=\mathbf{0}$ 也可以），则它本身就是其它向量的线性组合，即：
$\mathbf{v_1}=c_2\mathbf{v_2}+c_3\mathbf{v_3}+\dots+c_p\mathbf{v_p}=\mathbf{0}$
如果 $\mathbf{v_1}\neq\mathbf{0}$ ，我们可以假设 $c_j\neq0$ 是系数中最后一个非零项（即 $j$ 是最大的使得 $c_j\neq0$ 的下标）。

我们可以将上面的等式改写为：
$c_1\mathbf{v_1}+\dots+c_j\mathbf{v_j}+0\mathbf{v_{j+1}}+0\mathbf{v_p}=\mathbf{0}$
将 $c_j\mathbf{v_j}$ 移到等式的另一边，并除以 $c_j$ ，得到：
$\mathbf{v_j}=-\frac{c_1}{c_j}\mathbf{v_1}-\frac{c_2}{c_j}\mathbf{v_2}-\dots-\frac{c_{j_1}}{c_j}\mathbf{v_{j-1}}$
这表明 $\mathbf{v_j}$ 是前面 $j-1$ 个向量的线性组合，结论得证。

3. 线性相关性判别方法二

定理 8

向量的线性相关性定理

4. 线性相关性判别方法三

还有一种特殊的情况，就是向量组中包含零向量。有如下定理：

定理 9

包含零向量的线性相关性定理

如果 $\mathbb{R^n}$ 中向量组 $S=\{\mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_p}\}$ 中包含零向量，则它线性相关。

0\begin{bmatrix}2\\3\\5 \end{bmatrix}+2\begin{bmatrix}0\\0\\0\end{bmatrix}+0\begin{bmatrix}1\\1\\8\end{bmatrix}=\mathbf{0}

方程中存在非零系数。所以，向量 $\begin{bmatrix}2\\3\\5\end{bmatrix}$ 、 $\begin{bmatrix}0\\0\\0\end{bmatrix}$ 、 $\begin{bmatrix}1\\1\\8\end{bmatrix}$ 线性相关。

1.6 线性系统的应用

1.8 线性变换简介

向量的线性相关性

1. 线性相关性的定义

例1{v1, v2, v3}\{\mathbf{v}_1,~\mathbf{v}_2,~\mathbf{v}_3\}{v1​, v2​, v3​} 线性相关

例2A\mathbf{A}A 的列向量线性无关

2. 线性相关性判别方法一

1正向证明（如果某个向量是其它向量的线性组合，则该集合是线性相关的）

2逆向证明（如果集合是线性相关的，则其中某个向量是其它向量的线性组合）

3. 线性相关性判别方法二

4. 线性相关性判别方法三

向量的线性相关性

1. 线性相关性的定义

例1{v1, v2, v3}\{\mathbf{v}_1,~\mathbf{v}_2,~\mathbf{v}_3\}{v1​, v2​, v3​} 线性相关

例2A\mathbf{A}A 的列向量线性无关

2. 线性相关性判别方法一

1正向证明（如果某个向量是其它向量的线性组合，则该集合是线性相关的）

2逆向证明（如果集合是线性相关的，则其中某个向量是其它向量的线性组合）

3. 线性相关性判别方法二

4. 线性相关性判别方法三