1. 特征值和特征向量的概念推广
这一节我们探讨特征值和特征向量在更广泛的线性变换(不仅仅限于矩阵)中的应用。首先,我们从定义上对特征值和特征向量的概念进行扩展:
将特征值和特征向量的概念推广到一般的线性变换后,我们不仅可以在任何向量空间(包括函数空间、信号空间和多项式空间等)中应用这一概念,还能更深入地研究变换的核心几何特性,即:特征向量的方向不变性和特征值反应变化后的缩放程度。下面我们来讨论一个在离散信号空间中的问题,通过研究 余弦信号 在特定线性变换下的特征值和特征向量,揭示信号的频率特性和变换的核心行为。给定信号:
{ s k } = { cos ( f k π 4 ) } \{s_k\} = \left\{\cos\left(\frac{fk\pi}{4}\right)\right\} { s k } = { cos ( 4 f kπ ) }
定义变换 D ~D~ D 为左移 2 ~2~ 2 位:
D ( { s k } ) = { s k + 2 } D(\{s_k\}) = \{s_{k+2}\} D ({ s k }) = { s k + 2 }
有如下结论:
更一般地,当 f ~f~ f 为偶数时,对应的信号 s k ~s_k~ s k 都是变换 D ~D~ D 的特征向量。即,当 f = 2 n ~f=2n~ f = 2 n {( n ∈ Z ) (n \in \mathbb{Z}) ( n ∈ Z ) } 时:
s k + 2 = ( − 1 ) n s k s_{k+2}=(-1)^ns_k s k + 2 = ( − 1 ) n s k
特征值为 ( − 1 ) n ~(-1)^n~ ( − 1 ) n 。
2. 线性变换的矩阵 在 坐标系 一节中我们介绍过:任何向量空间中的向量都可以通过选定一组基一一映射到 R n ~\mathbb{R^n}~ R n 空间中的坐标向量,从而我们可以将线性变换 T ~T~ T 表示为一个矩阵。具体来说,假设 V ~V~ V 是一个 n − ~n- n − 维向量空间,选取基 B = { b 1 , b 2 , … , b n } \mathbb{B} = \{\mathbf{b}_1, \mathbf{b}_2, \dots, \mathbf{b}_n\} B = { b 1 , b 2 , … , b n } 。任意向量 x ∈ V ~\mathbf{x}\in V~ x ∈ V 可以表示为基向量的线性组合:
x = r 1 b 1 + r 2 b 2 + ⋯ + r n b n \mathbf{x} = r_1 \mathbf{b}_1 + r_2 \mathbf{b}_2 + \cdots + r_n \mathbf{b}_n x = r 1 b 1 + r 2 b 2 + ⋯ + r n b n
在基 B ~\mathcal{B}~ B 下, x ~\mathbf{x}~ x 的坐标向量为:
[ x ] B = [ r 1 r 2 ⋮ r n ] [\mathbf{x}]_\mathcal{B} =
\begin{bmatrix}
r_1 \\
r_2 \\
\vdots \\
r_n
\end{bmatrix} [ x ] B = r 1 r 2 ⋮ r n
线性变换 T ~T~ T 的作用是将向量 x ~\mathbf{x}~ x 映射到 T ( x ) ~T(\mathbf{x})~ T ( x ) ,即:
T ( x ) = T ( r 1 b 1 + ⋯ + r n b n ) = r 1 T ( b 1 ) + ⋯ + r n T ( b n ) (1) T(\mathbf{x}) = T(r_1 \mathbf{b}_1 + \cdots + r_n \mathbf{b}_n)= r_1 T(\mathbf{b}_1) + \cdots + r_n T(\mathbf{b}_n)\tag{1} T ( x ) = T ( r 1 b 1 + ⋯ + r n b n ) = r 1 T ( b 1 ) + ⋯ + r n T ( b n ) ( 1 )
由于从 V ~V~ V 到 R n ~\mathbb{R^n}~ R n 的坐标映射是线性的,可以写成:
[ T ( x ) ] B = r 1 [ T ( b 1 ) ] B + ⋯ + r n [ T ( b n ) ] B (2) [T(\mathbf{x})]_\mathcal{B} = r_1 [T(\mathbf{b}_1)]_\mathcal{B} + \cdots + r_n [T(\mathbf{b}_n)]_\mathcal{B}\tag{2} [ T ( x ) ] B = r 1 [ T ( b 1 ) ] B + ⋯ + r n [ T ( b n ) ] B ( 2 )
我们可以用矩阵表示这个线性变换。定义矩阵 M ~\mathbf{M}~ M :
M = [ [ T ( b 1 ) ] B [ T ( b 2 ) ] B ⋯ [ T ( b n ) ] B ] (3) \colorbox{#F0F8FF}{$M = \begin{bmatrix}
[T(\mathbf{b}_1)]_\mathbb{B} & [T(\mathbf{b}_2)]_\mathbb{B} & \cdots & [T(\mathbf{b}_n)]_\mathbb{B}
\end{bmatrix}\tag{3}$} M = [ [ T ( b 1 ) ] B [ T ( b 2 ) ] B ⋯ [ T ( b n ) ] B ] ( 3 )
其中,矩阵的每一列对应基向量经过变换后的坐标向量。于是,线性变换 T ~T~ T 可以表示为:
[ T ( x ) ] B = M [ x ] B (4) \colorbox{#F0F8FF}{$[T(\mathbf{x})]_\mathcal{B} = \mathbf{M}[\mathbf{x}]_\mathcal{B}\tag{4}$} [ T ( x ) ] B = M [ x ] B ( 4 )
这表明,在基 B ~\mathcal{B}~ B 下,线性变换 T ~T~ T 的作用等价于用矩阵 M ~\mathbf{M}~ M 左乘坐标向量 [ x ] B ~[\mathbf{x}]_\mathcal{B}~ [ x ] B 。矩阵 M ~\mathbf{M}~ M 被称为线性变换 T ~T~ T 在基 B ~\mathcal{B}~ B 下的矩阵表示,记为 [ T ] B ~[T]_\mathcal{B}~ [ T ] B 。这种表示方法不仅让我们能够通过矩阵运算研究线性变换的性质,还能更清晰地理解特征向量与线性变换之间的关系。
3. 矩阵表示的计算示例
以下两个示例分别展示了如何构造线性变换的矩阵表示,以及如何验证矩阵表示与线性变换的等价性。第一个示例关注基向量在变换下的映射,第二个示例则以多项式求导为例,进一步展示线性变换在特定基下的矩阵表示方法。
3.1 基向量变换的矩阵表示
给定一个二维向量空间 V ~V~ V ,基为 B = { b 1 , b 2 } ~\mathcal{B}=\{\mathbf{b}_1,\mathbf{b}_2\}~ B = { b 1 , b 2 } 。定义了线性变换 T : V → V T:V\rightarrow V T : V → V ,满足:
T ( b 1 ) = 3 b 1 − b 2 , T ( b 2 ) = 2 b 1 + b 2 T(\mathbf{b}_1) = 3\mathbf{b}_1 - \mathbf{b}_2, \quad T(\mathbf{b}_2) = 2\mathbf{b}_1 + \mathbf{b}_2 T ( b 1 ) = 3 b 1 − b 2 , T ( b 2 ) = 2 b 1 + b 2
下面动画演示计算 T ~T~ T 在基 B ~\mathcal{B}~ B 下的矩阵表示 M ~\mathbf{M}~ M :
3.2 多项式求导的矩阵表示
给定一个线性变换(求导运算) T : P 2 → P 1 T:\mathbb{P}_2 \rightarrow \mathbb{P}_1 T : P 2 → P 1 :
T ( a 0 + a 1 t + a 2 t 2 ) = a 1 + 2 a 2 t T(a_0 + a_1 t + a_2 t^2) = a_1 + 2a_2 t T ( a 0 + a 1 t + a 2 t 2 ) = a 1 + 2 a 2 t
给定标准基 B = { 1 , t , t 2 } \mathcal{B}=\{1,t,t^2\} B = { 1 , t , t 2 } ,需要求:
这个示例说明,多项式求导问题可以通过矩阵运算来完成。
4. R n ~\mathbb{R^n}~ R n 上的线性变换
线性变换 T ~T~ T 可以用矩阵 A ~\mathbf{A}~ A 来表示,其中 T ( x ) = A x T(\mathbf{x})=\mathbf{A}\mathbf{x} T ( x ) = Ax 。出于简化运算的考虑,我们自然会去尝试对矩阵 A ~\mathbf{A}~ A 进行对角化处理。如果矩阵 A ~\mathbf{A}~ A 可对角化,那么可以找到一组由特征向量构成的基 B ~\mathcal{B}~ B ,使得 T ~T~ T 在基 B ~\mathcal{B}~ B 下的矩阵是对角矩阵 D ~\mathbf{D}~ D 。有如下定理:
定理 8 ~8~ 8 的作用是将一个复杂的线性变换简化为对角矩阵的形式。下面我们从几何角度来观察这个过程:
上述示例展示了在不同基下对同一线性变换的表示形式。通过选择矩阵 A ~\mathbf{A}~ A 的特征向量作为新基 B ~\mathcal{B}~ B ,原来的矩阵 A ~\mathbf{A}~ A 被转化为对角矩阵 D ~\mathbf{D}~ D 。这种变换的好处是,在基 B ~\mathcal{B}~ B 中,矩阵 A ~\mathbf{A}~ A 的线性变换等价于对每个基向量按特征值进行伸缩,而不涉及基向量间的混合操作。
5. 矩阵相似性与变换表示
定理 8 ~8~ 8 中的矩阵 A ~\mathbf{A}~ A 和 D ~\mathbf{D}~ D 是一对相似矩阵,它们在几何上表现为在不同基下的同一个变换( 相似矩阵的几何意义 )。只不过定理 8 ~8~ 8 为了对 A ~\mathbf{A}~ A 实现对角化处理,要求新基 B ~\mathcal{B}~ B 是由矩阵 A ~\mathbf{A}~ A 的特征向量构成,如果不考虑这个条件,我们可以找到其他相似矩阵 C ~\mathbf{C}~ C ,满足 A = P C P − 1 \mathbf{A}=\mathbf{P}\mathbf{C}\mathbf{P}^{-1} A = PC P − 1 ,它们也能表示同一个线性变换。
当矩阵 A ~\mathbf{A}~ A 无法对角化时,我们需要寻找其它相似矩阵(例如 Jordan ~\textbf{Jordan}~ Jordan 矩阵 )来简化计算。例如下面的矩阵:
A = [ 4 − 9 4 − 8 ] \mathbf{A}=\begin{bmatrix}4 & -9 \\ 4 & -8\end{bmatrix} A = [ 4 4 − 9 − 8 ]
它的特征多项式为 ( λ + 2 ) 2 ~(\lambda+2)^2~ ( λ + 2 ) 2 ,因此它的特征值是 − 2 ~-2~ − 2 ,代数重数为 2 ~2~ 2 。求解特征方程 ( A + 2 I ) x = 0 (\mathbf{A}+2\mathbf{I})\mathbf{x}=0 ( A + 2 I ) x = 0 ,写成增广矩阵并化简得:
[ 6 − 9 0 4 − 6 0 ] ⟶ [ 2 − 3 0 0 0 0 ] \begin{bmatrix}
6 & -9 & 0 \\
4 & -6 & 0
\end{bmatrix}
\longrightarrow
\begin{bmatrix}
2 & -3 & 0 \\
0 & 0 & 0
\end{bmatrix} [ 6 4 − 9 − 6 0 0 ] ⟶ [ 2 0 − 3 0 0 0 ]
解得特征向量为:b 1 = [ 3 2 ] T \mathbf{b}_1=\begin{bmatrix}3 & 2\end{bmatrix}^T b 1 = [ 3 2 ] T 。这说明 A ~\mathbf{A}~ A 的几何重数少于代数重数,因此矩阵 A ~\mathbf{A}~ A 无法进行对角化处理。我们可以将矩阵转化为 Jordan ~\textbf{Jordan}~ Jordan 形式,那么就需要继续寻找 广义特征向量 ,满足:
( A + 2 I ) 2 x = 0 但 ( A + 2 I ) x ≠ 0 (A + 2\mathbf{I})^2 \mathbf{x} = 0 \quad \text{但} \quad (A + 2\mathbf{I}) \mathbf{x} \neq 0 ( A + 2 I ) 2 x = 0 但 ( A + 2 I ) x = 0
广义特征向量和普通特征向量之间存在递归关系:
( A + 2 I ) b 2 = b 1 (\mathbf{A}+2\mathbf{I})\mathbf{b}_2=\mathbf{b}_1 ( A + 2 I ) b 2 = b 1
求解:
( A + 2 I ) b 2 = [ 6 − 9 4 − 6 ] [ x 1 x 2 ] = [ 3 2 ] (\mathbf{A} + 2\mathbf{I}) \mathbf{b}_2 =
\begin{bmatrix}
6 & -9 \\
4 & -6
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2
\end{bmatrix}
=
\begin{bmatrix}
3 \\
2
\end{bmatrix} ( A + 2 I ) b 2 = [ 6 4 − 9 − 6 ] [ x 1 x 2 ] = [ 3 2 ]
得到广义特征向量 b 2 = [ 2 1 ] T ~\mathbf{b}_2=\begin{bmatrix}2 & 1\end{bmatrix}^T~ b 2 = [ 2 1 ] T 。由获取到的特征向量 b 1 ~\mathbf{b}_1~ b 1 和广义特征向量 b 2 ~\mathbf{b}_2~ b 2 构成的基:
P = [ b 1 b 2 ] = [ 3 2 2 1 ] \mathbf{P} = [\mathbf{b}_1 \ \mathbf{b}_2] =
\begin{bmatrix}
3 & 2 \\
2 & 1
\end{bmatrix} P = [ b 1 b 2 ] = [ 3 2 2 1 ]
最后将基变换矩阵 P ~\mathbf{P}~ P 应用与 A ~\mathbf{A}~ A 得:
C = P − 1 A P = [ − 2 1 0 − 2 ] \mathbf{C} = \mathbf{P}^{-1} \mathbf{A} \mathbf{P} =
\begin{bmatrix}
-2 & 1 \\
0 & -2
\end{bmatrix} C = P − 1 AP = [ − 2 0 1 − 2 ]
矩阵 C ~\mathbf{C}~ C 是 A ~\mathbf{A}~ A 的相似矩阵,它又称为 A ~\mathbf{A}~ A 的 Jordan ~\textbf{Jordan}~ Jordan 形式(若尔当标准型)。