对称正定证明

下面给出一个常见的证明思路，来说明在适当条件下 $D^T D + \alpha A^T A$ 为对称正定（通常假设 $\alpha>0$，并且 $D, A$ 的某些性质确保该和确为正定而非仅正半定）。

---

1. 对称性

证明矩阵对称最简单的方式就是验证它等于自己的转置。

• 首先，$(D^T D)^T = D^T (D^T)^T = D^T D$，因为对任何矩阵 $M$，都有 $(M^T)^T = M$。
• 同理，$(A^T A)^T = A^T A$。
• 因此，对任意实数 $\alpha$，$\bigl(D^T D + \alpha A^T A\bigr)^T = D^T D + \alpha A^T A$。

所以 $D^T D + \alpha A^T A$ 是对称矩阵。

---

2. 正定性

2.1 正定性的判定

一个对称矩阵 $M$ 为正定（Positive Definite），需满足对任意非零向量 $x\in \mathbb{R}^n$，都有

$$x^T M x > 0.$$

我们来计算：

$$x^T\bigl(D^T D + \alpha A^T A\bigr)x = x^T (D^T D)x \;+\; \alpha\, x^T(A^T A)x.$$

根据二次型的性质和向量范数的定义，可写成

$$x^T (D^T D)x = \|Dx\|^2,\quad x^T (A^T A)x = \|Ax\|^2.$$

因此

$$x^T\bigl(D^T D + \alpha A^T A\bigr)x = \|Dx\|^2 \;+\; \alpha \|Ax\|^2.$$

若 $\alpha > 0$，则该值显然为非负；要成为严格大于 0（正定），我们需要进一步分析何时可能出现“= 0” 的情形。

2.2 何时为严格正定

$$\|Dx\|^2 + \alpha \|Ax\|^2 = 0$$

当且仅当

$$\|Dx\|^2 = 0 \quad \text{且} \quad \|Ax\|^2 = 0,$$

也就是

$$Dx = 0 \quad \text{和} \quad Ax = 0.$$

• 若对于任何非零 $x$，不可能同时满足 $Dx = 0$ 和 $Ax = 0$，则只有 $x = 0$ 才能使上式为 0，于是对所有非零 $x$，$\|Dx\|^2 + \alpha \|Ax\|^2 > 0$。此时 $D^T D + \alpha A^T A$ 即为正定矩阵。
• 若存在某个非零向量 $x$ 同时落在 $D$ 和 $A$ 的核 (null space) 中，使得 $Dx = 0$ 且 $Ax = 0$，那么对于该 $x$，就会出现 $$x^T(D^T D + \alpha A^T A)x = \|Dx\|^2 + \alpha \|Ax\|^2 = 0,$$ 从而矩阵只能是正半定（Positive Semidefinite）。

因此，要保证 $D^T D + \alpha A^T A$ 为对称正定，最关键的条件是：除了零向量之外，不存在同时属于 $D$ 和 $A$ 的核的非零向量。这在很多应用场景下（例如正则化场景中 $\alpha>0$，且 $D, A$ 的零空间只交于零向量）都能得到满足。

---

3. 结论

• 对称性：$(D^T D + \alpha A^T A)^T = D^T D + \alpha A^T A$，因此它是对称矩阵。
• 正定性：对任意非零 $x$， $$x^T (D^T D + \alpha A^T A)x = \|Dx\|^2 + \alpha \|Ax\|^2.$$ 若 $\alpha > 0$ 并且不存在同时满足 $Dx=0$ 和 $Ax=0$ 的非零向量，则上式严格大于 0，故矩阵 $D^T D + \alpha A^T A$ 为正定矩阵。

这便完成了 $D^T D + \alpha A^T A$ 在通常设定（$\alpha>0$ 且零空间交仅为 $\{0\}$）下为对称正定的证明。

下面先对题意做一点澄清，再结合常见的情形分析「$\rho(T)<1$ 是否能成立」以及所需的条件。题目大致的背景是：

1. 记 $M = D^T D + \alpha A^T A$。
   在 $\alpha>0$ 且 $\mathrm{Ker}(D)\cap \mathrm{Ker}(A)=\{0\}$ 的假设下，可以证明 $M$ 是对称正定矩阵。

2. 进而可得 $D\,M^{-1}\,D^T$ 也是对称正定（后面会简单说明为什么）。

3. 问题是：给定某个算子或迭代矩阵 $T$，其谱半径 $\rho(T)$ 是否严格小于 1？
   但题目中尚未显式给出 $T$ 的定义，通常在这类问题里，$T$ 很可能是形如

   $$T \;=\; I \;-\; D\,M^{-1}\,D^T \quad\text{或者}\quad T \;=\; I \;-\;\omega\,D\,M^{-1}\,D^T$$

   的迭代算子(有时还会带一个松弛参数 $\omega$)。这在数值线性代数、最优控制、或优化算法(如某些预条件子、或 ADMM 迭代的等价形式)中很常见。

以下就分别说明：

• 为什么 $D\,M^{-1}\,D^T$ 一定是「对称正定」；
• 当我们考虑 $T = I - D\,M^{-1}\,D^T$ 时，$\rho(T)<1$ 是否必然成立，或者需要什么额外条件才能保证。

---

1. 为什么 $D\,M^{-1}\,D^T$ 对称正定

1.1 对称性

• $\bigl(D\,M^{-1}\,D^T\bigr)^T = D\,\bigl(M^{-1}\bigr)^T\,D^T$。
• 由于 $M$ 是实对称正定矩阵，$M^{-1}$ 也是对称的(且正定)，故 $\bigl(M^{-1}\bigr)^T = M^{-1}$。
• 因此 $D\,M^{-1}\,D^T$ 与其转置相等，即对称。

1.2 正定性

对任意非零向量 $x\neq 0$，考虑

$$x^T\bigl(D\,M^{-1}\,D^T\bigr)\,x \;=\; (D^T x)^T\,M^{-1}\,(D^T x).$$

设 $y = D^T x$。若 $y \neq 0$，由于 $M^{-1}$ 是正定的，便有

$$y^T M^{-1} y > 0.$$

若 $y = D^T x = 0$，则要看 $x\neq 0$ 是否可能导致 $D^T x=0$ 同时又不违背前提(通常在很多应用场景中，这种 $x\neq 0$ 但 $D^T x=0$ 不会自动让 $x$ 落到整体零空间，但至少不会让矩阵失去正定性——更严格的说法是，如果想要 $D\,M^{-1}\,D^T$ 严格 正定，需要保证 $\mathrm{Im}(D^T)=\mathbb{R}^n$ 或与 $M$ 之间相容的条件，但在大多数实际问题里往往都能满足“不出现非零 $x$ 使得 $D^T x=0$ 破坏正定”的场景)。

简单总结：若 $D^T x \neq 0$，则二次型严格大于 0；若 $D^T x = 0$，需要根据具体情况分析。但通常配合题目“$\mathrm{Ker}(D)\cap \mathrm{Ker}(A)=\{0\}$”等附加条件，可以保证它确为正定。

---

2. 关于 $\rho(T) < 1$ 的问题

2.1 迭代矩阵 $T$ 的常见形式

在数值迭代或预条件子的语境中，最常出现的 $T$ 是

$$T \;=\; I \;-\; \omega\,D\,M^{-1}\,D^T,$$

其中 $\omega>0$ 是某个松弛(步长)参数。若直接就是

$$T = I - D\,M^{-1}\,D^T,$$

可视作 $\omega=1$ 的特例。

要研究「$\rho(T)<1$ 是否成立」，关键是要看

$$\lambda\bigl(T\bigr) \;=\; \lambda\bigl(I - \omega\,D\,M^{-1}\,D^T\bigr),$$

是否都在 $( -\infty, 1 )$ 的区间内(对于谱半径 < 1，需要所有特征值都严格在单位圆内，针对实对称情形则等价于所有特征值都严格 < 1)。

2.2 当 $\omega=1$ 时

令 $N := D\,M^{-1}\,D^T$。因为 $N$ 是对称正定，其特征值都是正的(记作 $\lambda_i(N) > 0$)。则

$$T \;=\; I \;-\; N.$$

$T$ 也是对称的(因为 $N$ 对称)，它的特征值与 $N$ 的特征值关系为

$$\lambda_i(T) \;=\; 1 \;-\; \lambda_i(N).$$

因此

$$\rho(T) \;=\; \max_{i}\,\bigl|\lambda_i(T)\bigr| \;=\; \max_{i}\,\bigl|\,1 - \lambda_i(N)\bigr|.$$

• 若 $\lambda_i(N)\leq 1$ 对所有 $i$，则 $\lambda_i(T)=1-\lambda_i(N)$ 处于 $[0,1)$；
  • 这样一来，$\rho(T)=\max_i\{1-\lambda_i(N)\}<1$。
• 如果有某些 $\lambda_i(N) > 1$，那么 $\lambda_i(T)=1-\lambda_i(N)$ 就是负数，且它的绝对值是否小于 1 要具体数值来判断：
  • 例如 $\lambda_i(N)=2$，则 $1-2=-1$，绝对值为 1；$\rho(T)$ 至少等于 1。
  • 若 $\lambda_i(N)$ 更大，则 $|1-\lambda_i(N)|>1$，导致 $\rho(T)>1$。

因此，$\rho(I - N)<1$ 等价于 “$N$ 的全部特征值都严格位于 $(0,1)$”。换言之，想要

$$\rho\bigl(I - D\,M^{-1}\,D^T\bigr) < 1$$

必须保证

$$\lambda_{\max}\bigl(D\,M^{-1}\,D^T\bigr) < 1.$$

2.3 $\lambda_{\max}(D\,M^{-1}\,D^T) < 1$ 能否保证？

1. 一般情况下并不必然 < 1
   $\lambda_{\max}(D\,M^{-1}\,D^T)$ 是否小于 1，取决于 $D$ 的规模、$M$ 的“大小”、以及 $\alpha$ 是否足够大等等。在没有额外信息的情况下，并不能断言它必然 < 1。举个极端例子：若 $\alpha$ 太小、或 $D$ 具有非常大的奇异值，$M^{-1}$ 可能相对“较大”(因为 $M$ 本身可能比较“弱可逆”)，从而 $D\,M^{-1}\,D^T$ 的特征值也可能大于 1。

2. 通过调大 $\alpha$ 等方式可使它足够小
   如果在应用中有自由度增大 $\alpha$(或者有其它手段让 $M$ 在谱意义上“更大”)，则 $M^{-1}$ 谱范数会减小，进而 $D\,M^{-1}\,D^T$ 的最大特征值也会相应减小，一定程度上可以确保 < 1。很多迭代方法正是利用这种“加正则项使系统更好”的思路，来获得收敛性或收敛速度的控制。

3. 若加上松弛参数 $\omega$
   有时为了保证 $\rho(T)<1$，我们不直接用 $T=I-N$，而是

   $$T \;=\; I \;-\; \omega\,N,$$

   并选取合适的 $\omega\in (0,2/\lambda_{\max}(N))$ 等，使得 $\rho(T)<1$。这与经典的「Jacobi/Gauss-Seidel 迭代收敛条件」或「Richardson 迭代收敛条件」等思路类似——调节 $\omega$ 以确保特征值都落在单位圆内。

---

3. 结论简述

• $D\,M^{-1}\,D^T$ 一定是对称正定：这是因为 $M^{-1}$ 对称正定，且 $D$ 只是一个线性算子，组合后保持对称性和正定性。
• $\rho\bigl(I - D\,M^{-1}\,D^T\bigr) < 1$ 并非自动成立：
  • 若我们把 $N = D\,M^{-1}\,D^T$ 的最大特征值记为 $\lambda_{\max}(N)$，则 $\rho(I-N) = \max\{|1-\lambda|\:\lambda\in\sigma(N)\}$。只有在 $\lambda_{\max}(N) < 1$ 且 $\lambda_{\min}(N) > 0$ 的情形下(后者是正定所保证)，才会得到 $\rho(I-N)<1$。
  • 在实际问题中，一般需要 (1) $\alpha$ 取足够大，或者 (2) 给 $T$ 增加一个合适的松弛因子 $\omega$，才能保证它的谱半径严格小于 1。

因此，题目中若只是问“$D\,M^{-1}\,D^T$ 对称正定吗？”答案是肯定的；但若接着问“$\rho(T)<1$ 吗？”则要看 $T$ 的精确定义，以及 $\alpha$、$\omega$ 等参数如何设置，没有“必然小于 1”的结论，往往需要再做额外的条件或取值上的保证。

下面就直接针对

$$T \;=\; D\,M^{-1}\,D^T, \quad \text{其中 } M \;=\; D^T D \;+\;\alpha\,A^T A,$$

来讨论 $\rho(T)$ 是否小于 1。

---

1. $T$ 的对称正定性

1. 对称:

   $$T^T \;=\; \bigl(D\,M^{-1}\,D^T\bigr)^T \;=\; D\,\bigl(M^{-1}\bigr)^T\,D^T.$$

   由于 $M$ 是实对称正定，所以 $M^{-1}$ 也对称，故

   $$\bigl(M^{-1}\bigr)^T = M^{-1},$$

   因此 $T^T = T$，可见 $T$ 对称。

2. 正定:
   对任意非零向量 $x\neq 0$，

   $$x^T T\,x \;=\; x^T \bigl(D\,M^{-1}\,D^T\bigr)\,x \;=\; (D^T x)^T \,M^{-1}\,(D^T x).$$

   设 $y = D^T x$。如果 $y \neq 0$，由于 $M^{-1}$ 是正定，则

   $$y^T M^{-1} y > 0.$$

   故可得 $x^T T x > 0$。若进一步假设在所处空间中不存在非零 $x$ 使 $D^T x = 0$ 成为“坏情况”，则可严格保证 $T$ 是正定(而不是仅半定)。在很多应用场景下，这个条件往往能被满足，或者不会破坏算法的性质。

因此，$T = D\,M^{-1}\,D^T$ 必然是实对称且正定(至少是正半定，在常见的足够条件下为正定)。

---

2. $\rho(T)$ 是否小于 1？

$\rho(T)$ 即 $T$ 的最大特征值（因为 $T$ 对称，其特征值全部为实数，且正定意味着所有特征值都>0）。

要判断 $\rho(T)<1$ 是否必然成立，需看

$$\lambda_{\max}\bigl(D\,M^{-1}\,D^T\bigr) \;<\; 1 \quad ?$$

2.1 并非总是小于 1

• 当 $M = D^T D + \alpha\,A^T A$ “比较大”时(例如 $\alpha$ 足够大)，$M^{-1}$ 的谱范数就会比较小，从而 $D\,M^{-1}\,D^T$ 的最大特征值有望 < 1。
• 但如果 $\alpha$ 小、或 $D$ 的奇异值过大，$M^{-1}$ 可能相对“偏大”，导致 $D\,M^{-1}\,D^T$ 的最大特征值可能 $\ge1$。并没有一条“一定小于 1” 的普适规律。

所以，仅凭 $T = D\,M^{-1}\,D^T$ 是对称正定，并不能保证 $\rho(T)<1$。

2.2 如何让 $\rho(T)<1$？

1. 增大 $\alpha$
   如果这是一个带正则项的场景(如在优化/数值分析中常见)，可以增大 $\alpha$ 使 $M = D^T D + \alpha A^T A$ 的谱半径变大，$M^{-1}$ 的谱半径变小，从而降低 $\lambda_{\max}(T)$。当它降到 1 以下时，即可实现 $\rho(T)<1$。

2. 在迭代中使用松弛系数
   有些场合并不直接用 $T$，而用

   $$T_\omega \;=\; \omega \,D\,M^{-1}\,D^T$$

   或

   $$I \;-\;\omega\,D\,M^{-1}\,D^T,$$

   并通过调节 $\omega$ 保证迭代收敛($\rho(T_\omega)<1$ 或 $\rho(I-\omega T)<1$)。这是经典的 Richardson/Jacobi/Gauss-Seidel 等迭代思路。

---

3. 结论

• $T = D\,M^{-1}\,D^T$ 一定是对称正定，这是由 $M^{-1}$ 的对称正定性与 $D$ 的线性算子特性决定的。
• $\rho(T)<1$ 并无“必然性”：它取决于 $\alpha$ 的大小、$D$ 的规模，以及 $M$ 的具体构造。若想保证 $\rho(T)<1$，常见做法是增大 $\alpha$（使 $M$ 更大、$M^{-1}$ 更小）或在迭代中引入合适的松弛参数。

因此，题目所问 “$T = D\,M^{-1}\,D^T$ 的谱半径是否小于 1？” 答案是“不一定”。必须额外控制 $\alpha$ 或其他参数，才可能确保 $\rho(T) < 1$。

下面给出一个较为直接而常用的证明，展示为什么

$$T \;=\; D\,\bigl(D^T D \;+\;\alpha\,A^T A\bigr)^{-1}D^T$$

的最大特征值($\rho(T)$)不大于 1。为简洁起见，记

$$M \;=\; D^T D \;+\;\alpha\,A^T A,\quad \alpha>0.$$

---

核心思路概览

1. 利用矩阵序 (Löwner order) 的性质

   $$M = D^T D + \alpha A^T A \;\;\succeq\;\; D^T D,$$

   这在正定对称矩阵的意义下表示 $M - D^T D = \alpha A^T A \succeq 0$。
   当我们对「正定对称矩阵」取逆时，上述序关系会“反向”：

   $$M \;\succeq\; D^T D \quad\Longrightarrow\quad M^{-1} \;\preceq\; (D^T D)^{-1}.$$

2. 比较 $T = D\,M^{-1}D^T$ 与 $D\,(D^T D)^{-1}\,D^T$
   由上一步可得

   $$D\,M^{-1} D^T \;\;\preceq\;\; D\,(D^T D)^{-1} D^T.$$

   而 $\,P := D\,(D^T D)^{-1} D^T$ 在 $D$ 满秩(列满秩)的常见情形下，恰好是投影矩阵(正交投影到 $\mathrm{range}(D)$)，它的所有特征值不是 0 就是 1。因此

   $$\lambda_{\max}\bigl(P\bigr) \;=\; 1.$$

   当 $T \preceq P$ 时，$\lambda_{\max}(T) \le \lambda_{\max}(P) = 1$。

综上，就得到了

$$\rho(T) \;=\; \lambda_{\max}\bigl(D\,M^{-1}D^T\bigr) \;\le\; 1.$$

下面是分步的更详细论证。

---

1. 证明 $M^{-1} \preceq (D^T D)^{-1}$

令

$$M = D^T D + \alpha A^T A, \quad \alpha > 0.$$

由于 $\alpha A^T A \succeq 0$，可写成

$$M - D^T D = \alpha A^T A \succeq 0 \;\;\Longrightarrow\;\; M \succeq D^T D.$$

这是在“对称正定矩阵”构成的偏序关系($\succeq$)之下的比较。

对正定对称矩阵而言，若 $X \succeq Y \succ 0$，则必有

$$X^{-1} \;\preceq\; Y^{-1}.$$

这是一个常见的基本结论（“取逆会反转大小序”）。

于是可知

$$M^{-1} \;\preceq\; (D^T D)^{-1}.$$

---

2. 由此推出 $T \preceq D\,(D^T D)^{-1}D^T$

将上式左右两边左乘 $D$ 并右乘 $D^T$，我们在同一偏序下得到

$$D \,M^{-1}\,D^T \;\;\preceq\;\; D\,\bigl(D^T D\bigr)^{-1}D^T.$$

令

$$T \;=\; D\,M^{-1}D^T, \quad P \;=\; D\,\bigl(D^T D\bigr)^{-1}D^T.$$

则有

$$T \;\preceq\; P.$$

---

3. $P$ 是正交投影矩阵，$\lambda_{\max}(P)=1$

1. 对称性：

   $$P^T = \bigl[D\,(D^T D)^{-1}D^T\bigr]^T = D\,\bigl((D^T D)^{-1}\bigr)^T\,D^T = P,$$

   因为 $(D^T D)^{-1}$ 是对称的。

2. 幂等性（投影）：

   $$P^2 = \bigl[D\,(D^T D)^{-1}D^T\bigr]\bigl[D\,(D^T D)^{-1}D^T\bigr] = D\,(D^T D)^{-1}\underbrace{D^T D}_{\text{相邻乘}}(D^T D)^{-1}D^T = D\,(D^T D)^{-1}D^T = P.$$

   即 $P$ 是投影矩阵。若 $D$ 是 $m\times n$ 且满列秩($\mathrm{rank}(D)=n\le m$)，则这是「正交投影到 $\mathrm{range}(D)\subseteq\mathbb{R}^m$」的算子。

投影矩阵的特征值只能是 0 或 1（因为 $P^2 = P$），因此

$$\lambda_{\max}(P) \;=\; 1.$$

---

4. 结论：$\rho(T) \le 1$

当 $T \preceq P$，在对称矩阵世界里意味着“$P - T$ 是半正定”，这可推得对所有特征值 $\lambda(T)$ 与 $\lambda(P)$ 均成立

$$\lambda_{\max}(T) \;\le\; \lambda_{\max}(P).$$

由于 $\lambda_{\max}(P)=1$，便有

$$\rho(T) \;=\; \lambda_{\max}(T) \;\le\; 1.$$

这就说明了：

$$T \;=\; D\,\bigl(D^T D + \alpha A^T A\bigr)^{-1}D^T \quad \text{的谱半径不超过 1。}$$

---

补充说明

1. 何时等于 1？

   • 若 $D \neq 0$ 并且有非零向量 $x$ 满足 $x \in \mathrm{range}(D)$，则 $Px = x$，从而在该方向上 $T$ 也“比较大”。通常会得到 $\lambda_{\max}(T)=1$。
   • 如果 $D$ 退化到零矩阵，$\mathrm{range}(D)=\{0\}$，则 $T=0$ 矩阵，谱半径为 0，当然也满足 $\le 1$。

2. 依赖的关键假设

   • 需要 $D^T D + \alpha A^T A$ 可逆(从而 $M^{-1}$ 存在)，这一般要求 $\alpha>0$ 且 $D, A$ 没有“过于严重”的退化(如题设经常假定 $\mathrm{Ker}(D)\cap \mathrm{Ker}(A)=\{0\}$ 等)。
   • 如果 $D^T D$ 本身可逆(即 $D$ 满列秩)，则上面的投影矩阵 $P$ 定义合理且有最基本的 0/1 特征值结论。

概言之，「$T\preceq P$ 且 $P$ 的最大特征值为 1」这条链就足以说明 $\rho(T)\le 1$。这也是最常见、最简洁的证明思路。

下面给出简要分析，说明一个对称正定矩阵 $M$ 在被“左乘 $A$、右乘 $A^T$”之后，所得矩阵的正定/半定性及其特征值是否依然>0，取决于 $A$ 是否可逆(或是否满列秩等)。

---

1. 问题表述

给定一个实对称正定矩阵 $M \in \mathbb{R}^{n\times n}$，以及某个矩阵 $A$（大小一般为 $m \times n$ 或 $n\times n$），考虑

$$B \;=\; A\,M\,A^T.$$

我们关心：$B$ 是否仍然是正定矩阵？它的特征值是否都严格大于 0？

---

2. 基本事实：正定性与“左乘-右乘”操作

• $M$ 对称正定意味着：

  $$x^T M x \;>\; 0 \quad \text{对任意非零 } x \in \mathbb{R}^n.$$

  同时也意味着 $M$ 可逆，且其所有特征值都大于 0。

• 记

  $$B \;=\; A\,M\,A^T.$$

  对任意向量 $y \neq 0$，有

  $$y^T B\, y \;=\; y^T \bigl(A\,M\,A^T\bigr)\,y \;=\; \bigl(A^T y\bigr)^T\,M\,\bigl(A^T y\bigr).$$

  设 $z = A^T y$。则

  $$y^T B\, y = z^T M\, z.$$

  由于 $M$ 是正定，所以只要 $z \neq 0$，就有 $z^T M z > 0$。

• 但是，可能存在非零 $y$ 使 $z = A^T y = 0$。这就取决于 $A$ 的秩以及 $A^T$ 的零空间。若存在非零 $y$ 让 $A^T y=0$，则对应的 $y^T B y = 0$。那么 $B$ 最多只能是“半正定”(PSD)，不能保证“严格大于0”(SPD)。

由此可见，$B$ 是否「正定」还是「半正定」，关键在于：$\mathrm{ker}(A^T)$ 是否仅有零向量。

---

3. 具体结论：什么时候特征值仍然严格>0

1. $A$ 可逆 (或方阵满秩) 的情况

   • 若 $A\in\mathbb{R}^{n\times n}$ 并且可逆，则 $\mathrm{ker}(A^T) = \{0\}$。
   • 对任意非零 $y$，$A^T y \neq 0$，因此 $$y^T B y \;=\; (A^T y)^T\,M\,(A^T y) \;>\; 0.$$
   • 这时 $B = A M A^T$ 同样是 对称正定，其特征值全部严格大于 0。并且这是一个“相似于 $M$”的锥同构(合称“合同变换”)，会改变数值但不改变“是否>0”的性质。

2. $A$ 仅满列秩（$A\in \mathbb{R}^{m\times n}$, $\mathrm{rank}(A)=n\le m$)

   • 在这种情形下，$A^T: \mathbb{R}^m \to \mathbb{R}^n$ 是一个满行秩矩阵，故 $\mathrm{ker}(A^T)=\{0\}$。
   • 对任意 $y\neq 0$，若 $A^T y=0$ 只能推出 $y=0$；矛盾。
   • 因而所有非零 $y$ 都使得 $\bigl(A^T y\bigr)\neq 0$，从而 $$y^T B y \;>\; 0.$$
   • 这也能保证 $B$ 是 严格正定(在 $\mathbb{R}^m$ 这个大空间里，它的秩也是 $n$)。但要注意，若 $m>n$，$B$ 是个 $m\times m$ 矩阵，仍可有 $m-n$ 个零特征值吗？
     • 如果 $A$ 是“高(行数大)而窄(列数小)”并且满列秩$=n$，那么 $\mathrm{rank}(A)=n$。再加上 $M$ 可逆($\mathrm{rank}(M)=n$)，最终 $\mathrm{rank}(B)$ 也至多 $n$。
     • 其实，在此情形下，$B$ 会是一个“秩为 $n$”的对称正半定矩阵; 但要说“正定”通常是指“在所在的空间 $\mathbb{R}^m$ 上，对所有非零向量 $y$都有 $y^T B y>0$”。这就需要再看“是否可能有向量 $y\neq 0$ 但落在 $\mathrm{range}(A)^\perp$”。
     • 更准确地说：如果 $A$ 把 $\mathbb{R}^m$ 的某些方向“挤压”到 0 里（$\mathrm{range}(A^T)\subset \mathbb{R}^m$ 不是整个空间），那么 $B$ 在大空间 $\mathbb{R}^m$ 看，可能只能是半正定(PSD)，而在 $\mathrm{range}(A^T)$这个子空间上表现为正定。
     • 所以要区分“在 $\mathbb{R}^m$ 整个空间的意义下 (可能有 0 特征值)” 和 “在 $\mathrm{range}(A^T)$ 子空间上是正定”。
     • 如果题目只关心“只要 $B$ 作用到 $\mathrm{range}(A^T)$ 不会出零”，那它是“在该子空间上严格正定”；但在整个 $\mathbb{R}^m$ 里往往是半正定(可能有零特征值)。

3. $A$ 不满秩 (存在非平凡核)

   • 如果 $A$ 是 rank-deficient，则一定存在非零 $y$ 使 $A^T y = 0$，从而 $$y^T B y \;=\;(A^T y)^T\,M\,(A^T y) \;=\;0.$$
   • 这意味着 $B$ 在整个空间上只能是 正半定(PSD)，它至少有一个特征值为 0。不能再说它“所有特征值都>0”。

---

4. 总结

• 若 $A$ 可逆（方阵满秩）:
  $B = A M A^T$ 在 $\mathbb{R}^n$ 里依旧是对称正定，因此其所有特征值都严格大于 0。
• 若 $A$ 仅是满列秩$\,(\mathrm{rank}(A)=n)$ 但行数 $m\ge n$:
  • 在整个 $\mathbb{R}^m$ 里，$B$ 往往只能说是对称正半定(可能有 0 特征值)，因为存在方向不在 $\mathrm{range}(A^T)$ 上。
  • 但如果你只关心对 $\mathrm{range}(A^T)\subseteq\mathbb{R}^m$ 的作用，可以证明“在这个子空间上它是严格正定”的，也就是说它在 rank 为 $n$ 的子空间里没有退化。
• 若 $A$ 不满秩:
  则 $B$ 只能是对称正半定，其特征值中必含 0。

结论：

• “特征值仍然都严格 > 0” 需要 $A$ 为可逆(若在同维度 $n\times n$ 的情形)或类似情形下在合适子空间中保持正定。
• 更一般地，$A M A^T$ 一定是正半定，但是否“正定”或“所有特征值>0”则要看 $A$ 的秩是否足以排除非平凡核。

下面结合常见的一阶差分算子(Discrete First-Difference Operator)的定义，说明它通常并不可逆。要点在于：

1. 一阶差分算子往往不是方阵(维度不匹配)，即便在某些「加了边界条件/周期条件」的情况下做成方阵，也常常有非平凡的核(如常数向量落在核里)，从而仍然无法是可逆矩阵。

---

1. 一阶差分算子的典型形式

（1）最常见：非方阵形式

• 在数值分析或离散信号处理中，常见的一阶差分算子 $D$ 形状为 $(n-1)\times n$，例如： $$D = \begin{pmatrix} -1 & 1 & 0 & \cdots & 0 \\ 0 & -1 & 1 & \cdots & 0 \\ 0 & 0 & -1 & \cdots & 0\\ \vdots & \vdots & \vdots & \ddots & 1\\ 0 & 0 & 0 & \cdots & -1 \end{pmatrix},$$ 作用于向量 $\,x=(x_1,x_2,\dots,x_n)^T$ 时，实现离散差分 $$(Dx)_1 \;=\; -x_1 + x_2, \quad (Dx)_2 \;=\; -x_2 + x_3, \;\dots$$ 这种 $D$ 显然不是方阵($D$ 是 $(n-1)\times n$)，也就谈不上“可逆”($D^{-1}$ 不存在)。

（2）方阵形式下：往往也有非平凡核

• 若想把一阶差分算子做成 $n\times n$ 方阵，最常见做法是引入“周期边界”或其他边界处理。例如周期边界下，$D$ 可能是

  $$D = \begin{pmatrix} -1 & 1 & 0 & \cdots & 0 \\ 0 & -1 & 1 & \cdots & 0 \\ \vdots & & \ddots & \ddots & 1 \\ 0 & 0 & \cdots & -1 & 1 \\ 1 & 0 & \cdots & 0 & -1 \end{pmatrix}_{n\times n}.$$

  这里最后一行把 $x_n$ 和 $x_1$ 也做差分(周期条件)。

  但是，该矩阵依然有非平凡核：

  • 对于任何常数向量 $x=(c,c,\dots,c)^T$，可检验 $Dx=0$。因为行与行相减都会得到零。
  • 这说明它的行和列都不是满秩，$\mathrm{rank}(D) < n$。核空间包含所有常数向量，非零元素即可落在核中。
  • 因而此 $D$ 不可逆(行列式为 0)。

---

2. 是否可逆的结论

1. 最常见的一阶差分算子：非方阵，无法定义逆
   例如常见的前向差分矩阵是 $(n-1)\times n$，根本就不是方阵。

2. 即便构造成方阵(如加周期边界)，也通常有非平凡核

   • 核中典型元素是「常数向量」，因为常数序列的差分全为 0。
   • 有非平凡核就意味着不可逆。

因此，在绝大多数情形下，一阶差分算子 $D$ 并不可逆。

---

3. 补充：$D^T D$ 是否可逆？

有时有人会关心 $D^T D$ 这个“离散拉普拉斯”矩阵的可逆性：

• 如果 $D$ 是上面提到的“(n-1)\times n”差分，$D^T D$ 是 $n\times n$ 矩阵，但通常也有非平凡核(同样是常数向量造成的)。例如在“周期边界”或“自然边界”下，$\sum_i (x_{i+1}-x_i)=0$，常数向量落在核中。
• 在数值微分方程中，如果施加的是某些「Dirichlet 边界条件」并把边界上的未知量去掉(从而有效减少了一个自由度)，则可能得到一个可逆的离散拉普拉斯。但那往往意味着我们在建模时已经“移除了”常数解的自由度，严格意义上也就不再是纯粹的“全局一阶差分算子”。

总之，“标准的一阶差分算子 $D$”本身大多非方阵或有非平凡核，都不能是可逆矩阵。

在通常的线性代数术语中，“半正定”指“正半定”(Positive Semidefinite, PSD)，即所有特征值均$\geq 0$。要判断它是否可逆，需要看它是否存在零特征值。具体来说：

1. 正半定矩阵（PSD）可逆的充要条件
   若一个实对称正半定矩阵 $M$ 存在零特征值，则其行列式必然为 0，不可逆。只有当它所有特征值都严格大于 0 时，才是正定矩阵(Positive Definite)，进而可逆。

   • 换句话说：正半定矩阵可逆 $\Longleftrightarrow$ 它其实是正定矩阵（即无零特征值）。

2. 总结

   • 如果某个矩阵仅是“正半定”，那它可以不可逆(最常见的情况)，也可能可逆(但这时它其实已是“正定”)。
   • 常见情形：很多正半定矩阵都含有 0 特征值，从而不可逆；只有“严格正定”的情形才可逆。

因此，一般在提到“半正定矩阵”时，大多数情况下它并不可逆；只有当它进一步满足“严格正定”条件时，才是可逆的。

先明确问题的背景和符号：

• 我们有一个矩阵 $$T \;=\; D\,M^{-1}\,D^T,$$ 其中 $D$ 尺寸为 $\displaystyle k \times n$（通常 $k \le n$ 或 $k \ge n$ 都可能），$M$ 是一个 $n \times n$ 的可逆对称正定矩阵($M^{-1}$ 也对称正定)。
• 同时还关心 $$M^{-1}\,(D^T D),$$ 其尺寸是 $\displaystyle n \times n$。

问题是：「$T$ 和 $M^{-1}(D^T D)$ 的特征值是否一样？」

常见结论是：

$T = D M^{-1} D^T$ 与 $M^{-1} D^T D$ 具有完全相同的 非零 特征值（含重数），但由于它们维度可能不同，所以零特征值的个数可能不一样。

换句话说，这两个矩阵在非零谱(positive eigenvalues)上是一致的，但在零特征值(秩亏)方面可能存在差异。下面给出简要的原因和证据。

---

1. 维度与形状

1. $T = D\,M^{-1}\,D^T$ 的尺寸是 $\displaystyle k \times k$。
2. $M^{-1}(D^T D)$ 的尺寸是 $\displaystyle n \times n$。

因此，如果 $k \ne n$，它们本身就不是同形矩阵，很难“一一对应”所有特征值。但这并不妨碍它们在非零特征值上可能相同。

---

2. 矩阵积的谱性质：$AB$ 与 $BA$

有一个经典定理(有时称为 the “AB 与 BA 拥有相同非零特征值” 原理)：

若 $A$ 是 $\,p \times q$ 矩阵，$B$ 是 $\,q \times p$ 矩阵，则

$$A B \;\;\text{与}\;\; B A$$

都是方阵，且它们有相同的非零特征值(包括相同的重数)。
唯一区别在于：如果 $p \ne q$，其中一个矩阵的维度更大，就会多出一些 0 特征值。

举个简单例子：$A\in\mathbb{R}^{3\times 2}$, $B\in\mathbb{R}^{2\times 3}$ ，则 $AB$ 是 $3\times3$，$BA$ 是 $2\times2$。二者秩相同，而且它们共有相同数量的非零特征值，只是 $AB$ 可能比 $BA$ 多出 $(3-2)=1$ 个 0 特征值。

---

3. 将问题转化为 $AB$ 与 $BA$

回到我们的情形，留意到可以写

• $T = D\,\bigl(M^{-1}\bigr)\,D^T$，
• 另一矩阵是 $M^{-1}(D^T D)$。

如果我们令

$$A = D, \quad B = M^{-1}D^T,$$

那么

$$A B = D \,(M^{-1}D^T) = D\,M^{-1}\,D^T = T,$$ $$B A = (M^{-1}D^T)\,D = M^{-1}\,(D^T D).$$

这就精确地套用“$AB$ 与 $BA$ 共享非零特征值”的定理。

---

4. 得出的结论

1. $T$ 与 $M^{-1}D^T D$ 的非零特征值完全相同(含重数)。
2. 如果 $k<n$ 或 $k>n$，则它们之一的维度更大，就会多出若干个 0 特征值；因此两者在所有特征值的列表上不必一模一样，但在“正的特征值”(或非零特征值)那里是一致的。

换言之，如果你只关心“正定(半定)程度”或是那些“大于0”的谱信息，那么可以说它们“看起来一样”，因为它们共享相同的正谱；但是如果精确到“是否有多少个零特征值、特征值总数是多少”，那就要看各自的矩阵大小了。

---

小结

• 同形情形($k=n$)：如果 $D$ 是可逆的(从而 $k=n$)，那 $T$ 和 $M^{-1} D^T D$ 不仅非零特征值相同，而且它们都没有零特征值(因为可逆)，此时二者的全部特征值都相同。这种情况比较少见（通常一阶差分算子并不可逆）。
• 一般情形($k \ne n$ 或 $D$ 不可逆)：二者维度不同，或者有秩亏，就会在零特征值出现差别，但非零特征值一致。

因此，回答最简洁的要点就是：$T$ 和 $M^{-1}D^T D$ 在非零特征值（正特征值）上是一样的；若它们维度不同或有零特征值，则零特征值的个数可能不同。