线性方程组何时无解？何时有无穷多解？

Question

当齐次线性方程组 $ A\mathbf{x} = \mathbf{0} $ 的系数矩阵 $ A $ 为 $ m \times n $ 矩阵且 $ \text{rank}(A) < n $ 时，方程组是否有非零解？若非齐次方程组 $ A\mathbf{x} = \mathbf{b} $ 中 $ \text{rank}(A) < \text{rank}([A|\mathbf{b}]) $，此时解的情况如何？请结合秩与增广矩阵的关系，说明线性方程组无解或有无穷多解的判定条件。

Answer 1

线性方程组解的判定：从秩与增广矩阵视角深入剖析

1. 齐次线性方程组的基本性质

齐次线性方程组的形式为：

\[ A\mathbf{x} = \mathbf{0} \]

其中，\( A \) 是一个 \( m \times n \) 的实数矩阵，\( \mathbf{x} \in \mathbb{R}^n \)，\( \mathbf{0} \in \mathbb{R}^m \)。该方程组始终有零解（即 \( \mathbf{x} = \mathbf{0} \)），但关键问题是是否存在非零解。

根据线性代数基本定理：

• 若 \( \text{rank}(A) = n \)，则列向量线性无关，仅有唯一解（零解）。
• 若 \( \text{rank}(A) < n \)，则列向量线性相关，存在非平凡解（非零解）。

因此，当系数矩阵的秩小于未知数个数时，必然存在无穷多个非零解。

2. 秩与解空间维度的关系

对于齐次系统 \( A\mathbf{x} = \mathbf{0} \)，其解空间构成一个子空间，称为零空间（Null Space），记作 \( \text{Null}(A) \)。

由秩-零化度定理（Rank-Nullity Theorem）：

\[ \text{rank}(A) + \dim(\text{Null}(A)) = n \]

当 \( \text{rank}(A) < n \) 时，\( \dim(\text{Null}(A)) > 0 \)，说明解空间至少是一维的，故存在非零解且解集为无限集。

条件	\( \text{rank}(A) \)	解的情况	解空间维度
\( A \in \mathbb{R}^{m\times n}, \text{rank}(A) = n \)	n	唯一零解	0
\( A \in \mathbb{R}^{m\times n}, \text{rank}(A) < n \)	<n	无穷多非零解	n - r

3. 非齐次线性方程组的可解性分析

考虑非齐次系统：

\[ A\mathbf{x} = \mathbf{b}, \quad \mathbf{b} \neq \mathbf{0} \]

引入增广矩阵 \( [A|\mathbf{b}] \)，其行最简形可用于判断解的存在性。

核心判定准则如下：

1. 若 \( \text{rank}(A) = \text{rank}([A|\mathbf{b}]) \)，则方程组相容，有解。
2. 若 \( \text{rank}(A) < \text{rank}([A|\mathbf{b}]) \)，则方程组不相容，无解。

原因在于：当 \( \mathbf{b} \) 不在 \( A \) 的列空间 \( \text{Col}(A) \) 中时，无法找到 \( \mathbf{x} \) 使得 \( A\mathbf{x} = \mathbf{b} \)。而 \( \text{rank}([A|\mathbf{b}]) > \text{rank}(A) \) 正表明 \( \mathbf{b} \) 引入了新的线性独立方向。

4. 解的结构与自由变量分析

当非齐次系统有解时，通解可表示为：

\[ \mathbf{x} = \mathbf{x}_p + \mathbf{x}_h \]

其中 \( \mathbf{x}_p \) 是特解，\( \mathbf{x}_h \) 是对应齐次系统的通解。

若 \( \text{rank}(A) = r < n \)，则自由变量个数为 \( n - r \)，意味着即使有解，也必然是无穷多解。

// 示例：MATLAB 判断解的存在性 R_A = rank(A); R_Ab = rank([A, b]); if R_Ab > R_A disp('方程组无解'); elseif R_A == n disp('有唯一解'); else disp('有无穷多解'); end

5. 增广矩阵与几何解释

从几何角度看，矩阵 \( A \) 的列张成的空间是 \( \mathbb{R}^m \) 中的一个子空间。向量 \( \mathbf{b} \) 是否落在此空间中决定了是否有解。

使用 Gauss-Jordan 消元法将 \( [A|\mathbf{b}] \) 化为行阶梯形后，若出现形如 \( [0\ 0\ \cdots\ 0 | c] \)（\( c \neq 0 \)）的矛盾行，则说明 \( \text{rank}([A|\mathbf{b}]) > \text{rank}(A) \)，系统无解。

graph TD
    A[开始] --> B{输入 A 和 b}
    B --> C[计算 rank(A)]
    C --> D[构造增广矩阵 [A|b]]
    D --> E[计算 rank([A|b])]
    E --> F{rank(A) == rank([A|b])?}
    F -->|是| G{rank(A) == n?}
    F -->|否| H[无解]
    G -->|是| I[唯一解]
    G -->|否| J[无穷多解]

6. 实际应用中的数值稳定性考量

在实际工程中（如机器学习、控制系统、信号处理），由于浮点误差，严格比较秩可能不可靠。应采用奇异值分解（SVD）结合阈值判断有效秩：

\[ \text{rank}_{\epsilon}(A) = \#\{\sigma_i \geq \epsilon\} \]

例如，在 Python 中可通过 NumPy 实现：

import numpy as np U, S, Vt = np.linalg.svd(A) effective_rank = np.sum(S > 1e-10)

这有助于避免因数值扰动导致的误判，提升算法鲁棒性。

7. 高维数据建模中的启示

在过参数化模型（如深度神经网络）中，常出现 \( n > m \) 的情况，此时 \( \text{rank}(A) \leq m < n \)，齐次系统总有非零解，意味着权重空间中存在冗余自由度。

这一现象与模型泛化能力密切相关——无穷多解中需通过正则化选择最优解（如最小范数解）。

同样，在最小二乘问题中，当 \( A^TA \) 奇异时，伪逆成为必要工具，其本质仍依赖于秩的分析。