正交性

#Mathematics #FunctionalAnalysis #Orthogonality #InnerProduct

正交性，Orthogonality 正交性是内积空间和Hilbert空间理论的核心概念，它是有限维欧几里得空间中垂直概念在无穷维空间中的推广。正交性不仅在理论研究中具有基本重要性，在最小二乘法、信号处理、量子力学等领域也有广泛应用。

一、正交的定义

1.1 基本定义

在内积空间 $(X, ⟨ \cdot, \cdot ⟩)$ 中：

定义：若 $x, y \in X$ 满足 $⟨ x, y ⟩ = 0$ ，则称 $x$ 与 $y$ 正交（orthogonal），记作 $x ⊥ y$ 。

几何意义： $x$ 与 $y$ 之间的"角度"为 $90 °$ 。

零向量的性质：零向量 $0$ 与空间中任何向量正交：

⟨ 0, y ⟩ = 0, \forall y \in X

1.2 正交系的定义

定义：集合 $S \subset X$ 称为正交系（orthogonal system），如果对任意 $x, y \in S$ 且 $x \neq y$ ，有 $x ⊥ y$ 。

标准正交系（orthonormal system）：若 $S$ 是正交系且对所有 $x \in S$ 有 $∥ x ∥ = 1$ ，则称 $S$ 为标准正交系。

记号：若 ${e_{i}}_{i \in I}$ 是标准正交系，则：

⟨ e_{i}, e_{j} ⟩ = δ_{i j} = {\begin{cases} 1 & i = j \\ 0 & i \neq j \end{cases}

1.3 正交列的例子

三角函数系（在 $L^{2} [- π, π]$ 中）：

{\frac{1}{\sqrt{2 π}}, \frac{\cos x}{\sqrt{π}}, \frac{\sin x}{\sqrt{π}}, \frac{\cos 2 x}{\sqrt{π}}, \frac{\sin 2 x}{\sqrt{π}}, \dots}

Legendre多项式（在 $L^{2} [- 1, 1]$ 中）：

P_{n} (x) = \frac{1}{2^{n} n!} \frac{d^{n}}{d x^{n}} [(x^{2} - 1)^{n}], n = 0, 1, 2, \dots

满足：

\int_{- 1}^{1} P_{m} (x) P_{n} (x) d x = \frac{2}{2 n + 1} δ_{m n}

二、正交补

2.1 定义与基本性质

定义：设 $M$ 是内积空间 $X$ 的子集。 $M$ 的正交补（orthogonal complement）定义为：

M^{⊥} = {x \in X : ⟨ x, y ⟩ = 0, \forall y \in M}

基本性质：

定理 1：对任意子集 $M \subset X$ ：

$M^{⊥}$ 是 $X$ 的闭线性子空间
$M \subset M^{⊥⊥}$
$M \cap M^{⊥} \subset {0}$

证明：

若 $x, y \in M^{⊥}$ ，则对任意 $z \in M$ ：
$⟨ α x + β y, z ⟩ = α ⟨ x, z ⟩ + β ⟨ y, z ⟩ = 0$
故 $α x + β y \in M^{⊥}$ 。连续性保证 $M^{⊥}$ 是闭集。
若 $x \in M$ ，则对任意 $y \in M^{⊥}$ ， $⟨ x, y ⟩ = 0$ ，故 $x \in M^{⊥⊥}$ 。
若 $x \in M \cap M^{⊥}$ ，则 $⟨ x, x ⟩ = 0 ⟹ x = 0$ 。∎

2.2 子空间的正交补

定理 2：若 $M$ 是内积空间 $X$ 的闭线性子空间，则：

X = M \oplus M^{⊥}

证明：需要投影定理。对任意 $x \in X$ ，存在唯一分解：

x = P x + (x - P x)

其中 $P x \in M$ 是 $x$ 在 $M$ 上的正交投影， $x - P x \in M^{⊥}$ 。∎

推论： $(M^{⊥})^{⊥} = M$ （当 $M$ 是闭子空间时）

2.3 正交补的计算

有限维情况：
设 $M = span {v_{1}, \dots, v_{k}} \subset R^{n}$ ，则：

M^{⊥} = {x \in R^{n} : v_{i}^{T} x = 0, i = 1, \dots, k}

即 $M^{⊥}$ 是齐次线性方程组 $A x = 0$ 的解空间，其中 $A$ 的行向量是 $v_{1}^{T}, \dots, v_{k}^{T}$ 。

例子：在 $R^{3}$ 中，设 $M = span {(1, 0, 0)}$ （ $x$ -轴），则：

M^{⊥} = {(0, y, z) : y, z \in R}

即 $y z$ 平面。

三、勾股定理（Pythagorean Theorem）

3.1 基本形式

定理：若 $x ⊥ y$ ，则：

∥ x + y ∥^{2} = ∥ x ∥^{2} + ∥ y ∥^{2}

证明：

\begin{aligned} ∥ x + y ∥^{2} & = ⟨ x + y, x + y ⟩ \\ = ⟨ x, x ⟩ + ⟨ x, y ⟩ + ⟨ y, x ⟩ + ⟨ y, y ⟩ \\ = ∥ x ∥^{2} + 0 + 0 + ∥ y ∥^{2} \\ = ∥ x ∥^{2} + ∥ y ∥^{2} \end{aligned}

3.2 推广到多个向量

若 ${e_{1}, \dots, e_{n}}$ 是正交系，则：

{‖ \sum_{i = 1}^{n} α_{i} e_{i} ‖}^{2} = \sum_{i = 1}^{n} | α_{i} |^{2} ∥ e_{i} ∥^{2}

证明：利用归纳法和正交性。

标准正交系：若 $∥ e_{i} ∥ = 1$ ，则：

{‖ \sum_{i = 1}^{n} α_{i} e_{i} ‖}^{2} = \sum_{i = 1}^{n} | α_{i} |^{2}

四、正交分解定理

4.1 投影定理

定理（投影定理）：设 $M$ 是Hilbert空间 $H$ 的闭凸子集。对任意 $x \in H$ ，存在唯一的 $u \in M$ 使得：

∥ x - u ∥ = inf_{v \in M} ∥ x - v ∥

且 $u$ 满足变分不等式：

Re ⟨ x - u, v - u ⟩ \leq 0, \forall v \in M

几何意义： $u$ 是 $x$ 在 $M$ 上的最佳逼近。

特殊情况（线性子空间）：若 $M$ 是闭线性子空间，则：

x - u \in M^{⊥}

即 $x = u + (x - u)$ ，其中 $u \in M$ 且 $x - u \in M^{⊥}$ 。∎

4.2 正交分解

推论：若 $M$ 是Hilbert空间 $H$ 的闭线性子空间，则：

H = M \oplus M^{⊥}

且分解是唯一的：

\forall x \in H, \exists! u \in M, w \in M^{⊥} : x = u + w

证明：由投影定理，取 $u = P x$ （ $x$ 在 $M$ 上的正交投影）， $w = x - u$ 。唯一性由正交性保证。∎

4.3 正交投影算子

定义：设 $M$ 是Hilbert空间 $H$ 的闭线性子空间。正交投影算子 $P : H \to M$ 定义为：

P x = u, 其中 x = u + w, u \in M, w \in M^{⊥}

性质：

线性性： $P (α x + β y) = α P x + β P y$
幂等性： $P^{2} = P$ （ $P$ 是投影）
自伴性： $⟨ P x, y ⟩ = ⟨ x, P y ⟩$
范数： $∥ P ∥ = 1$ （若 $M \neq {0}$ ）

五、Bessel不等式

5.1 有限Bessel不等式

定理：设 ${e_{1}, \dots, e_{n}}$ 是内积空间 $X$ 中的标准正交系。对任意 $x \in X$ ：

\sum_{i = 1}^{n} | ⟨ x, e_{i} ⟩ |^{2} \leq ∥ x ∥^{2}

证明：设 $y = x - \sum_{i = 1}^{n} ⟨ x, e_{i} ⟩ e_{i}$ ，则 $y ⊥ e_{i}$ 对所有 $i$ 成立。由勾股定理：

\begin{aligned} ∥ x ∥^{2} & = {‖ \sum_{i = 1}^{n} ⟨ x, e_{i} ⟩ e_{i} + y ‖}^{2} \\ = {‖ \sum_{i = 1}^{n} ⟨ x, e_{i} ⟩ e_{i} ‖}^{2} + ∥ y ∥^{2} \\ = \sum_{i = 1}^{n} | ⟨ x, e_{i} ⟩ |^{2} + ∥ y ∥^{2} \\ \geq \sum_{i = 1}^{n} | ⟨ x, e_{i} ⟩ |^{2} \end{aligned}

等号成立当且仅当 $y = 0$ ，即 $x$ 可以由 ${e_{1}, \dots, e_{n}}$ 线性表示。∎

5.2 无限Bessel不等式

定理：设 ${e_{i}}_{i \in I}$ 是Hilbert空间 $H$ 中的标准正交系。对任意 $x \in H$ ：

\sum_{i \in I} | ⟨ x, e_{i} ⟩ |^{2} \leq ∥ x ∥^{2}

其中求和对至多可数个非零项进行。

推论： $⟨ x, e_{i} ⟩ \to 0$ （ $i \to \infty$ ），即Fourier系数趋于零。

5.3 Fourier系数

设 ${e_{n}}_{n = 1}^{\infty}$ 是标准正交系。对 $x \in H$ ，称：

c_{n} = ⟨ x, e_{n} ⟩, n = 1, 2, \dots

为 $x$ 关于 ${e_{n}}$ 的Fourier系数。

最佳逼近性质：对固定 $N$ ，部分和：

S_{N} = \sum_{n = 1}^{N} c_{n} e_{n}

是 $x$ 在 $span {e_{1}, \dots, e_{N}}$ 中的最佳逼近：

∥ x - S_{N} ∥ = min_{y \in span {e_{1}, \dots, e_{N}}} ∥ x - y ∥

六、Parseval等式

6.1 完备标准正交系

定义：标准正交系 ${e_{n}}_{n = 1}^{\infty}$ 称为完备的（或完全的），如果：

span {e_{n}}_{n = 1}^{\infty} 在 H 中稠密

等价地，不存在非零向量与所有 $e_{n}$ 正交：

(\forall n : ⟨ x, e_{n} ⟩ = 0) ⟹ x = 0

6.2 Parseval等式

定理：设 ${e_{n}}_{n = 1}^{\infty}$ 是Hilbert空间 $H$ 中的完备标准正交系。对任意 $x \in H$ ：

∥ x ∥^{2} = \sum_{n = 1}^{\infty} | ⟨ x, e_{n} ⟩ |^{2}

证明：由稠密性，存在 $S_{N} = \sum_{n = 1}^{N} c_{n} e_{n}$ 使得 $S_{N} \to x$ 。由Bessel不等式：

∥ S_{N} ∥^{2} = \sum_{n = 1}^{N} | c_{n} |^{2} \leq ∥ x ∥^{2}

令 $N \to \infty$ ，并由范数的连续性得证。∎

推论（Fourier级数收敛）：

x = \sum_{n = 1}^{\infty} ⟨ x, e_{n} ⟩ e_{n}

在 $H$ 中范数收敛。

七、应用

7.1 最小二乘法

问题：给定数据点 $(x_{i}, y_{i})_{i = 1}^{m}$ ，求拟合直线 $y = a x + b$ 。

正交投影方法：
在 $R^{m}$ 中，设：

y = (y_{1}, \dots, y_{m})^{T}, v_{1} = (x_{1}, \dots, x_{m})^{T}, v_{2} = (1, \dots, 1)^{T}

求 $y$ 在 $M = span {v_{1}, v_{2}}$ 上的正交投影：

y - (a v_{1} + b v_{2}) ⊥ M

即正规方程组：

{\begin{cases} ⟨ y - a v_{1} - b v_{2}, v_{1} ⟩ = 0 \\ ⟨ y - a v_{1} - b v_{2}, v_{2} ⟩ = 0 \end{cases}

解得最小二乘估计 $\hat{a}, \hat{b}$ 。

7.2 信号处理

正交分解：信号 $f (t)$ 分解为正交分量：

f (t) = \sum_{n} c_{n} ϕ_{n} (t)

其中 ${ϕ_{n}}$ 是标准正交基（如小波基、Fourier基）。

能量守恒（Parseval等式）：

\int | f (t) |^{2} d t = \sum_{n} | c_{n} |^{2}

7.3 量子力学

态的正交分解：量子态 $| ψ ⟩$ 在标准正交基 ${| n ⟩}$ 下：

| ψ ⟩ = \sum_{n} c_{n} | n ⟩, c_{n} = ⟨ n | ψ ⟩

概率解释： $| c_{n} |^{2}$ 是测量得到第 $n$ 个本征态的概率。

归一化条件：

\sum_{n} | c_{n} |^{2} = ⟨ ψ | ψ ⟩ = 1

参考链接

参考文献

Rudin, W. (1991). Functional Analysis (2nd ed.). McGraw-Hill.
Kreyszig, E. (1978). Introductory Functional Analysis with Applications. Wiley.
Reed, M., & Simon, B. (1980). Functional Analysis (Vol. 1). Academic Press.

AI 结构化补充（2026-05-02）

定义

Orthogonality) 正交性是“垂直”在向量空间中的代数表达。在有限维实空间 $R^{n}$ 中，入口公式最简单：

v ⊥ w ⟺ v^{T} w = v \cdot w = 0.

有限维定义

若

v = (v_{1}, \dots, v_{n}), w = (w_{1}, \dots, w_{n}),

则

v \cdot w = v_{1} w_{1} + \dots + v_{n} w_{n} .

当这个数为零时，称 $v$ 与 $w$ 正交。若两个向量都非零，这等价于二者夹角为 $90^{\circ}$ 。

零向量与任意向量正交，因为

0 \cdot v = 0.

但零向量没有确定方向，所以“零向量与任意向量正交”和“零向量有任意夹角”不是同一件事；夹角通常只对非零向量定义。

子空间层面的正交

向量正交只检查一对向量；子空间的正交性要求更强的全称条件。若 $V, W \leq R^{n}$ ，则

V ⊥ W ⟺ v^{T} w = 0 对任意 v \in V, w \in W .

因此，不能只找出某一对基向量正交就断言两个子空间正交；必须检查两组基之间所有交叉内积都为零。若 $v_{1}, \dots, v_{k}$ 是 $V$ 的基， $w_{1}, \dots, w_{ℓ}$ 是 $W$ 的基，则

v_{i}^{T} w_{j} = 0 (1 \leq i \leq k, 1 \leq j \leq ℓ)

才推出 $V ⊥ W$ 。

维数给出一个硬边界：若 $V ⊥ W$ ，则 $V \cap W = {0}$ ，所以

\dim V + \dim W \leq n .

一旦两个子空间的维数和超过环境空间维数，它们不可能正交。例如 $R^{3}$ 中两个二维平面必有非零交线，这条交线中的非零向量不可能与自身正交。
房间的地面平面与两面墙相交形成的竖直直线可以正交：直线上的任意竖直向量都与地面平面内的任意水平向量点积为零。相反，两面墙即使看起来互相垂直，也不是正交子空间，因为它们共享同一条交线；交线上的非零向量同时属于两个平面，不可能与自身正交。更一般地，两个子空间只在零向量相交并不推出正交，例如 $R^{2}$ 中两条不垂直的过原点直线也只有零向量交点。

勾股定理

若 $v ⊥ w$ ，则

∥ v + w ∥^{2} = ∥ v - w ∥^{2} = ∥ v ∥^{2} + ∥ w ∥^{2} .

证明只需展开点积：

\begin{aligned} ∥ v + w ∥^{2} & = (v + w) \cdot (v + w) \\ = v^{T} v + 2 v^{T} w + w^{T} w \\ = ∥ v ∥^{2} + ∥ w ∥^{2} . \end{aligned}

同理，

∥ v - w ∥^{2} = (v - w)^{T} (v - w) = ∥ v ∥^{2} - 2 v^{T} w + ∥ w ∥^{2} = ∥ v ∥^{2} + ∥ w ∥^{2} .

因为 $v \cdot w = 0$ ，两个展开式中的交叉项都消失。这就是直角三角形勾股定理的向量形式，也说明正交不是“没有相互作用”，而是交叉项精确抵消。

垂直向量集合

固定一个非零向量 $a \in R^{n}$ ，所有与它正交的向量组成集合

a^{⊥} = {x \in R^{n} : a \cdot x = 0} .

这是一个通过原点的线性子空间。

在 $R^{2}$ 中， $a^{⊥}$ 是一条过原点的直线。
在 $R^{3}$ 中， $a^{⊥}$ 是一个过原点的平面。
在 $R^{n}$ 中， $a^{⊥}$ 是一个维数为 $n - 1$ 的超平面。

例如 $a = (1, 2)$ 时，垂直向量满足

x + 2 y = 0,

所以它们落在一条直线上。

正交系与标准正交系

一组向量 $v_{1}, \dots, v_{k}$ 若两两正交，即

v_{i} \cdot v_{j} = 0 (i \neq j),

则称为正交系。若再满足

∥ v_{i} ∥ = 1,

则称为标准正交系。

标准基

e_{1} = (1, 0, \dots, 0), \dots, e_{n} = (0, \dots, 0, 1)

就是 $R^{n}$ 中最基本的标准正交系，因为

e_{i} \cdot e_{j} = δ_{i j} .

正交投影

正交性给出“最近点”的判别。若 $p$ 是 $b$ 在某个子空间 $S$ 上的投影，则残差

r = b - p

必须与 $S$ 中每个方向正交。对一条直线 $S = span (v)$ ，这就是

b - c v ⊥ v,

从而得到

c = \frac{b \cdot v}{v \cdot v} .

这也是向量投影和最小二乘正规方程的几何机制。

内积空间中的正交

在一般内积空间中，定义变为

x ⊥ y ⟺ ⟨ x, y ⟩ = 0.

所有有限维点积结论的结构仍然保留：正交会消去交叉项，产生勾股定理、正交补分解和投影公式。在线性代数中，四个基本子空间的核心正交关系就是

C (A^{T}) ⊥ N (A), C (A) ⊥ N (A^{T}),

并且由于对应维数分别加到 $n$ 与 $m$ ，它们进一步成为正交补。