向量空间的维数
向量空间的维数揭示了向量空间的规模与基的关系,并为分析线性无关性、生成性及矩阵的秩提供了理论基础。
1. 维数的定义与性质
对于一个有限维向量空间 V ,任何一组基都是线性无关且张成整个空间的向量组,其向量数量始终是相同的,这一数量就是向量空间的维数 (Dimension) ,记为 n 。维数是向量空间的一种固有性质,它反映了该空间中最大线性无关向量组的大小,且与具体的基的选择无关。因此,任何线性无关的向量组的向量数量都不能超过 n 。有如下定理:
定理 10
线性相关性定理
如果向量空间
V 的基为
B={b1,…,bn} ,那么
V 中任何包含超过
n 个向量的集合必定是线性相关的。
在 R2 空间中,维数是 2 ,任意超过 2 个向量必然线性相关。同理, R3 的维数的 3 ,超过 3 个向量也必然线性相关。
2. 基与维数的一致性
上文提到,向量空间的维数 n 是其固有性质,与选择的基无关。因此,对于同一向量空间,任何一组基的向量数量都必然是 n ,即所有基向量组都由 n 个线性无关且能够张成整个空间的向量组成。有如下定理:
定理 11
基的向量数量一致性
如果一个向量空间
V 的某一组基包含
n 个向量,那么
V 的任何其它基也都必须包含恰好
n 个向量。
如果一个非零向量空间 V 被一个有限集合 S 生成,根据生成集合定理,可以从 S 中选出一个线性无关的子集作为 V 的基。定理 11 保证了无论选取哪个基,其向量数量都等于 V 的维数 n ,从而确保了基的定义和维数的唯一性。
3. 有限维与无限维空间
向量空间的维数 n 可以是有限的,也可以是无限的。根据这个性质,向量空间可以分为有限维空间和无限维空间。具体的定义如下:
定义
有限维与无限维空间
如果一个向量空间
V 可以由一个有限集合生成,那么称
V 为
有限维空间;而
V 的维数(记作
dimV )是
V 的基中向量的数量。零向量空间
{0} 的维数定义为零。如果
V 不能由有限集合生成,则称
V 为
无限维空间。
在实际应用中,有限维空间更适合离散和可计算的问题,例如:机器学习中的特征向量空间;而无限维空间则能描述连续现象和复杂系统,例如:物理学中的波动方程。有限维空间的维数是该空间中最大线性无关向量集合(基底)的大小。基底是空间中所有向量的线性组合所依赖的最小集合。
无限维空间,例如傅里叶级数空间,包含所有
平方可积的周期函数,这些函数可以表示为无穷正弦和余弦函数的级数和。对于傅里叶级数展开,常见的基函数是:
B={cos(x),sin(x),cos(2x),sin(2x),cos(3x),sin(3x),…} 无限维空间
H 的维数
dimH=∞ 。
4. 子空间的维数分类
前面我们讨论了向量空间的维数概念,现在来看一个自然的问题:如果 H 是有限维向量空间 V 的一个子空间,那么 H 的维数与 V 的维数之间有什么关系?
直觉上,子空间 H "包含"在 V 中,所以 H 的"大小"不应该超过 V 。定理 12 正是这一直觉的严格表述——它不仅告诉我们dimH≤dimV,还提供了一个实用的工具:任何线性无关集合都可以扩展为基。这个定理可以看作是生成集合定理的"对偶"版本——生成集合定理告诉我们可以从生成集合中"删减"得到基,而定理 12 告诉我们可以从线性无关集合"扩展"得到基。
定理 12
子空间的维数与基扩展定理
设
H 是有限维向量空间
V 的一个子空间。在
H 中的任何线性无关集合,如果有必要,可以扩展为
H 的一个基。此外,
H 是有限维的,并且满足:
dimH≤dimV 处理零子空间的特殊情况如果
H={0} ,那么根据定义,
dimH=0 。由于
V 是有限维的,必有
dimV≥0 ,因此
dimH=0≤dimV 成立。
从任意线性无关集合 S 出发假设
H 不是零子空间。设
S={u1,…,uk} 是
H 中的任意一个线性无关集合。我们的目标是证明
S 可以扩展为
H 的一个基。
检验 S 是否已经是 H 的基如果
S 张成
H (即
SpanS=H ),那么
S 已经是
H 的一个基,证明完成。
扩展线性无关集合如果
S 不张成
H ,则存在某个向量
uk+1∈H 不在
SpanS 中。根据定理
4 (线性无关集合的扩展性质),由于
uk+1 不能表示为
S 中向量的线性组合,因此新集合
{u1,…,uk,uk+1} 仍然是线性无关的。
重复扩展过程只要新的集合仍不张成
H ,我们就可以继续添加向量来扩展它。每次添加一个不在当前张成空间中的向量,都能保持集合的线性无关性。
扩展过程必然终止关键在于:根据定理
10 ,
V 中任何线性无关集合的向量数量都不能超过
dimV 。由于
H 是
V 的子空间,
H 中的线性无关集合也是
V 中的线性无关集合,因此扩展过程最终必然停止。
得出结论当扩展过程停止时,我们得到的集合既是线性无关的,又张成
H ,因此它是
H 的一个基。这证明了:
dimH≤dimV 证毕!
当我们已知向量空间的维数时,寻找基的工作会变得简单很多。下面的定理告诉我们:如果一个集合恰好有正确数量的元素,那么只需验证它是线性无关的,或者只需验证它能生成整个空间——不必同时验证两者。这在许多应用问题中非常实用,因为验证线性无关性通常比验证生成性更容易。
定理 13
基定理
设
V 是一个
p−维向量空间,且
p≥1 。在
V 中,任何恰好包含
p 个元素的线性无关集合都是
V 的一个基。任何恰好包含
p 个个元素且生成
V 的集合也是
V 的一个基。
证明线性无关集合是基设
S 是
V 中恰好包含
p 个元素的线性无关集合。根据定理
12 ,
S 可以扩展为
V 的一个基。 但由于
dimV=p ,这个基必须恰好包含
p 个向量。因此
S 本身已经是
V 的一个基,无需扩展。
证明生成集合是基设
S 是
V 中恰好包含
p 个元素且生成
V 的集合。由于
V 是非零空间,根据生成集合定理,
S 的某个子集
S′ 是
V 的一个基。由于
dimV=p ,
S′ 必须包含
p 个向量。因此
S′=S ,即
S 本身就是
V 的基。证毕!
5. 零空间、列空间与行空间的维数
5.1 秩与零维的定义
对于一个 m×n 矩阵 A ,其零空间和列空间的维数在应用中经常被用到,因此它们有专门的名称:秩和零维。
定义
秩与零维的定义
矩阵
A 的秩
(rank) 是其列空间的维数,矩阵
A 的零维
(nullity) 是其零空间的维数。
矩阵 A 的主元列构成列空间的一个基,因此秩就是主元列的数量。类似地,行空间的基可以从行阶梯形的主元行中获得,所以行空间的维数也等于秩。
计算零维看起来需要更多工作,因为求零空间的基通常比求列空间的基更费时。但有一个捷径:设 A 是 m×n 矩阵,方程 Ax=0 有 k 个自由变量。根据求解齐次方程组的标准方法,零空间的生成集恰好包含 k 个线性无关的向量——每个自由变量对应一个。因此,自由变量的数量决定了零空间基的大小,即零维等于自由变量的个数。
秩与零维的计算方法
对于
m×n 矩阵
A :
• 秩 = 主元列的数量
• 零维 = 自由变量的数量
• 行空间的维数 = 主元行的数量 = 秩
5.2 秩定理
秩和零维之间存在一个简洁而重要的关系——它们的和恰好等于矩阵的列数。这个结论被称为秩定理。
定理 14
秩定理
矩阵
A 的列空间维数和零空间维数满足如下关系式:
rank A+dim NulA=A的列数 确定 rankA根据定理
6 (4.3节),矩阵
A 的秩等于其主元列的数量。
确定 nullityA矩阵
A 的零维等于方程
Ax=0 中自由变量的数量。换句话说,零维等于
A 中
非主元列的数量。
建立等式关系由于矩阵的每一列要么是主元列,要么是非主元列,因此:
{主元列数量}+{非主元列数量}={总列数} 即:
rankA+nullityA=n 其中
n 是矩阵
A 的列数。证毕!
例5:求下列矩阵的秩和零维:
A=−3126−2−4−125138−7−1−4 将矩阵化为阶梯形将增广矩阵
[A0] 进行行化简,得到阶梯形:
B=100−200210320−1−20000 确定主元列和自由变量从阶梯形可以看出:
• 主元位于第
1 列和第
3 列,共
2 个主元列
• 第
2,4,5 列是非主元列,对应自由变量
x2,x4,x5 ,共
3 个自由变量
计算秩和零维• 秩 = 主元列数量 =
2 • 零维 = 自由变量数量 =
3 验证秩定理 rankA+nullityA=2+3=5 ,正好等于矩阵
A 的列数。✓
从这个例子可以看出秩定理背后的思想:阶梯形中的主元位置同时确定了基本变量(对应列空间的基向量)和自由变量(决定零空间的维数)。主元列的数量加上非主元列的数量,恰好等于总列数。
5.3 秩定理的应用
例6:秩定理不仅可以用来计算秩或零维,还可以用来判断某些情况是否可能存在。
如果 A 是一个 7×9 矩阵,且零维为 2 ,求 A 的秩。
一个 6×9 矩阵能否有零维 2 ?
问题 a:求 7×9 矩阵的秩由秩定理:
rankA+nullityA=n 其中
n=9(列数),
nullityA=2 因此:
rankA=9−2=7 问题 b:6×9 矩阵能否有零维$~2~$?不能。假设存在这样的矩阵
B,根据秩定理:
rankB=9−2=7 但是
B 的列向量是
R6 中的向量,列空间
ColB 是
R6 的子空间,其维数不可能超过
6 。
因此
rankB≤6<7 ,矛盾!
例7:下面的例子展示了如何可视化矩阵的四个基本子空间。设
A=334000−1−15 验证
NulA 是
x2 -轴,
RowA 是
x1x3 -平面,
ColA 是方程
x1−x2=0 确定的平面,
NulAT 是
(1,−1,0) 的所有倍数构成的集合。
求 NulA解方程
Ax=0 ,可以验证零空间是
x2-轴,即所有形如
(0,t,0) 的向量。
求 RowA行空间是
x1x3-平面,即所有
x2=0 的向量构成的平面。
求 ColA列空间是方程
x1−x2=0 确定的平面。
求 NulAT AT 的零空间是所有
(1,−1,0) 的倍数构成的集合。
几何意义 NulA 和
RowA 位于线性变换
x↦Ax 的定义域
R3 中;
ColA 和
NulAT 位于值域(另一个
R3 )中。
6. 秩定理在方程组中的应用
秩定理是处理线性方程组信息的强大工具。下面的例子模拟了实际问题中使用线性方程的方式——问题的表述中可能不会明确提及矩阵、子空间或维数等线性代数术语。
例8:一位科学家发现了一个包含
40 个方程、
42 个未知数的齐次方程组的两个解。这两个解不是彼此的倍数,且所有其他解都可以由这两个解的适当倍数相加得到。问:科学家能否确定相应的非齐次方程组(系数相同)一定有解?
理解问题设
A 是该齐次方程组的
40×42 系数矩阵。题目告诉我们:
• 齐次方程组有两个解,且它们不是彼此的倍数
• 所有其他解都可以由这两个解的线性组合得到
分析零空间上述信息意味着这两个解是线性无关的,并且它们张成
NulA 。因此,零维为
2 。
应用秩定理根据秩定理:
rankA=42−2=40 分析列空间由于
R40 中唯一维数为
40 的子空间就是
R40 本身,所以
ColA=R40 。
得出结论这意味着对于任意
b∈R40 ,方程
Ax=b 都有解。因此,科学家可以确定相应的非齐次方程组一定有解。
7. 秩与可逆矩阵定理
与矩阵相关的各种向量空间概念为可逆矩阵定理提供了更多等价命题。下面列出的新命题是对 2.3 节中原始可逆矩阵定理的补充。
定理
可逆矩阵定理(续)
设
A 是一个
n×n 矩阵。则以下命题都与"
A 是可逆矩阵"等价:
A 的列向量构成 Rn 的一个基
ColA=Rn
rankA=n
nullityA=0
NulA={0}
命题 (m) 与已有命题的等价性命题 (m) 说
A 的列向量构成
Rn 的一个基。这与命题 (e)(列向量线性无关)和命题 (h)(列向量张成
Rn )在逻辑上是等价的。
建立蕴含链其余五个命题通过以下蕴含链与已有命题相连:
(g)⇒(n)⇒(o)⇒(p)⇒(q)⇒(d) 证明 (g)⇒(n)命题 (g) 说方程
Ax=b 对每个
b∈Rn 至少有一个解。这意味着
ColA 恰好是所有使
Ax=b 有解的
b 的集合,因此
ColA=Rn 。
证明 (n)⇒(o)由维数和秩的定义直接得出:若
ColA=Rn ,则
rankA=n 。
证明 (o)⇒(p)⇒(q)若
rankA=n (矩阵的列数),则由秩定理:
nullityA=0 。这意味着
NulA={0} 。
证明 (q)⇒(d) NulA={0} 意味着方程
Ax=0 只有平凡解,这正是命题 (d)。由于 (d) 和 (g) 已知与矩阵可逆等价,证明完成。
我们没有在可逆矩阵定理中添加关于行空间的命题,因为 A 的行空间就是 AT 的列空间。回顾可逆矩阵定理的命题 (l): A 可逆当且仅当 AT 可逆。因此,可逆矩阵定理中的每个命题都可以对 AT 重新表述。但这样做会使定理的长度翻倍,产生超过 30 个命题!
数值注记
本书讨论的许多算法对于理解概念和手工计算很有用,但在实际的大规模问题中往往不太适用。
秩的计算就是一个很好的例子。将矩阵化为阶梯形并数主元看起来很简单,但除非对精确指定的矩阵进行精确运算,否则行变换可能会改变矩阵的"表观秩"。例如,如果矩阵
[557x] 中的
x 在计算机中不是精确存储为
7 ,那么秩可能是
1 或
2 ,取决于计算机是否将
x−7 视为零。
在实际应用中,矩阵
A 的有效秩通常通过
A 的
奇异值分解来确定(将在
7.4 节讨论)。这种分解也是获取
ColA 、
RowA 、
NulA 和
NulAT 的基的可靠方法。