无关组乘可逆矩阵后仍线性无关如何证明？

Question

问题：设向量组 \( \mathbf{v}_1, \mathbf{v}_2, \dots, \mathbf{v}_k \) 在 \( \mathbb{R}^n \) 中线性无关，\( A \) 为 \( n \times n \) 可逆矩阵。如何证明变换后的向量组 \( A\mathbf{v}_1, A\mathbf{v}_2, \dots, A\mathbf{v}_k \) 仍线性无关？常见困惑在于：为何矩阵乘法保持线性无关性？尤其当学生理解线性变换可能“拉伸”或“旋转”向量时，为何不会引入相关性？关键是否依赖于 \( A \) 的可逆性？若 \( A \) 不可逆，反例如何构造？

Answer 1

一、从直观理解到数学严谨：线性变换为何保持线性无关性

在IT与数据科学领域，尤其是涉及机器学习、信号处理和图形学时，向量空间和线性变换是基础工具。我们常需对向量组进行矩阵变换，而一个核心问题是：原始线性无关的向量组经过矩阵变换后是否仍保持无关？这不仅关乎算法稳定性，也影响特征提取的有效性。

1. 问题重述与直觉引导

• 给定向量组 \( \mathbf{v}_1, \mathbf{v}_2, \dots, \mathbf{v}_k \in \mathbb{R}^n \) 线性无关；
• 设 \( A \in \mathbb{R}^{n \times n} \) 为可逆矩阵；
• 问：\( A\mathbf{v}_1, A\mathbf{v}_2, \dots, A\mathbf{v}_k \) 是否仍线性无关？

初学者常困惑：线性变换如旋转、缩放、剪切会改变向量方向和长度，为何不会让原本独立的向量“靠得太近”甚至共线？关键在于——可逆变换不“压缩”维度，它只是重新参数化空间。

2. 数学证明：从定义出发

我们使用线性无关的定义来严格证明：

1. 假设存在标量 \( c_1, c_2, \dots, c_k \)，使得：
2. \( c_1 A\mathbf{v}_1 + c_2 A\mathbf{v}_2 + \cdots + c_k A\mathbf{v}_k = \mathbf{0} \)
3. 由矩阵乘法的线性性质，等价于：
4. \( A(c_1 \mathbf{v}_1 + c_2 \mathbf{v}_2 + \cdots + c_k \mathbf{v}_k) = \mathbf{0} \)
5. 因 \( A \) 可逆，左乘 \( A^{-1} \) 得：
6. \( c_1 \mathbf{v}_1 + c_2 \mathbf{v}_2 + \cdots + c_k \mathbf{v}_k = \mathbf{0} \)
7. 但 \( \mathbf{v}_i \) 线性无关 ⇒ 所有 \( c_i = 0 \)
8. 故 \( A\mathbf{v}_i \) 也线性无关。

此证明揭示了核心：可逆矩阵的核（null space）仅为零向量，因此不会将非零组合映射为零。

3. 可逆性的关键作用分析

矩阵性质	是否保持线性无关	原因简述
可逆（满秩）	是	单射变换，不压缩维度
不可逆（降秩）	否（可能）	存在非零向量被映射为零

若 \( A \) 不可逆，则 \( \exists \mathbf{x} \neq \mathbf{0} \) 使 \( A\mathbf{x} = \mathbf{0} \)。此时即使 \( \mathbf{v}_i \) 无关，也可能有 \( A\mathbf{v}_i \) 相关。

4. 构造反例：当 \( A \) 不可逆时

考虑以下具体反例：

令：
  v₁ = [1, 0]ᵀ,  v₂ = [0, 1]ᵀ ∈ ℝ² （显然线性无关）
  A = [[1, 0],
       [0, 0]]   （投影到x轴，秩1，不可逆）

则：
  Av₁ = [1, 0]ᵀ
  Av₂ = [0, 0]ᵀ

新向量组 {Av₁, Av₂} 包含零向量 ⇒ 必线性相关。

此例说明：不可逆矩阵会“坍塌”某些方向，导致信息丢失，从而破坏线性无关性。

5. 深层视角：线性变换的几何与代数统一

graph LR
  A[原始向量组线性无关] --> B[张成k维子空间]
  B --> C[A作用: 线性同构若A可逆]
  C --> D[像空间仍为k维]
  D --> E[变换后向量仍无关]
  F[A不可逆] --> G[像空间维度降低]
  G --> H[必然出现相关性]

从几何角度看，可逆矩阵诱导的是向量空间的同构（isomorphism），保持结构不变；而奇异矩阵则是投影或压缩，属于商映射，会引入依赖关系。

6. 在IT工程中的实际意义

• 主成分分析（PCA）：协方差矩阵的特征变换是正交可逆的，保证主成分方向独立；
• 神经网络初始化：权重矩阵若接近奇异，可能导致激活值退化，梯度消失；
• 图像处理：仿射变换中旋转/缩放（可逆）保持像素关系结构，而投影变换可能丢失深度信息；
• 编码理论：生成矩阵需满秩以确保码字独立，避免误判。

这些场景均依赖“变换不破坏独立性”的性质，凸显可逆性的重要性。