正交系是Hilbert空间中的核心结构，它是欧几里得空间中正交坐标系的推广。Fourier展开将元素表示为正交系的线性组合，是泛函分析中最重要的展开理论之一。
本章将系统介绍正交系、规范正交系、Bessel不等式、Parseval等式以及完全正交系的理论。
定义 11.1（正交系）设$H$是内积空间，$\{e_n\}_{n \in I} \subseteq H$。
(1) 若$e_n \neq 0$且$e_n \perp e_m$（$n \neq m$），称$\{e_n\}$为正交系。
(2) 若还有$\|e_n\| = 1$对所有$n$，称$\{e_n\}$为规范正交系（orthonormal system）。
注记：规范正交系满足：
$$\langle e_n, e_m \rangle = \delta_{nm} = \begin{cases} 1, & n = m \\ 0, & n \neq m \end{cases}$$
例 11.1 $\mathbb{R}^n$中的标准基$e_i = (0, \ldots, 0, 1, 0, \ldots, 0)$是规范正交系。
例 11.2 $l^2$中的$e_n = (0, \ldots, 0, 1, 0, \ldots)$（第$n$位为1）是规范正交系。
例 11.3 在$L^2[0, 2\pi]$中，
$$\left\{\frac{1}{\sqrt{2\pi}}, \frac{\cos nx}{\sqrt{\pi}}, \frac{\sin nx}{\sqrt{\pi}} : n = 1, 2, \ldots\right\}$$
是经典Fourier分析的规范正交系。
例 11.4 在$L^2[-1, 1]$中，Legendre多项式（适当规范化）构成规范正交系。
定义 11.2（Fourier系数）设$\{e_n\}$是规范正交系，$x \in H$。称
$$c_n = \langle x, e_n \rangle$$
为$x$关于$\{e_n\}$的Fourier系数。
定义 11.3（Fourier级数）形式级数
$$\sum_{n} \langle x, e_n \rangle e_n$$
称为$x$的Fourier级数。
定理 11.1（有限维最佳逼近）设$\{e_1, \ldots, e_n\}$是规范正交系，$M = \text{span}\{e_1, \ldots, e_n\}$。则对任意$x \in H$，其在$M$中的最佳逼近为：
$$P_M x = \sum_{k=1}^n \langle x, e_k \rangle e_k$$
证明：设$y = \sum_{k=1}^n c_k e_k \in M$。则：
$$\|x - y\|^2 = \|x\|^2 - 2\text{Re}\sum_{k=1}^n \bar{c}_k\langle x, e_k \rangle + \sum_{k=1}^n |c_k|^2$$
$$= \|x\|^2 + \sum_{k=1}^n |c_k - \langle x, e_k \rangle|^2 - \sum_{k=1}^n |\langle x, e_k \rangle|^2$$
当$c_k = \langle x, e_k \rangle$时取最小值。$\square$
定理 11.2（Bessel不等式）设$\{e_n\}_{n=1}^\infty$是规范正交系。则对任意$x \in H$：
$$\sum_{n=1}^\infty |\langle x, e_n \rangle|^2 \leq \|x\|^2$$
证明：由定理11.1，对任意$N$：
$$0 \leq \left\|x - \sum_{n=1}^N \langle x, e_n \rangle e_n\right\|^2 = \|x\|^2 - \sum_{n=1}^N |\langle x, e_n \rangle|^2$$
令$N \to \infty$即得。$\square$
推论 11.1（Riemann-Lebesgue引理）若$\{e_n\}$是规范正交系，则对任意$x \in H$：
$$\lim_{n \to \infty} \langle x, e_n \rangle = 0$$
定义 11.4（完全正交系）规范正交系$\{e_n\}$称为完全的（或完全的规范正交基），如果其有限线性组合在$H$中稠密。
等价条件：$\{e_n\}^\perp = \{0\}$。
定理 11.3（Parseval等式）设$\{e_n\}$是规范正交系。以下条件等价：
(1) $\{e_n\}$是完全的；
(2) 对所有$x \in H$，$x = \sum_{n=1}^\infty \langle x, e_n \rangle e_n$；
(3)（Parseval等式）对所有$x, y \in H$：
$$\langle x, y \rangle = \sum_{n=1}^\infty \langle x, e_n \rangle \overline{\langle y, e_n \rangle}$$
特别地，$\|x\|^2 = \sum_{n=1}^\infty |\langle x, e_n \rangle|^2$；
(4）若$\langle x, e_n \rangle = 0$对所有$n$，则$x = 0$。
证明：
$(1) \Rightarrow (2)$：设$S_N = \sum_{n=1}^N \langle x, e_n \rangle e_n$。由Bessel不等式，$\{S_N\}$是Cauchy列。由完备性收敛于某$y$。易证$x - y \perp e_n$对所有$n$，由完全性$x = y$。
$(2) \Rightarrow (3)$：由内积的连续性。
$(3) \Rightarrow (4)$：显然。
$(4) \Rightarrow (1)$：若$\{e_n\}$不完全，则$\overline{\text{span}\{e_n\}} \neq H$，由投影定理存在非零$x \perp e_n$对所有$n$。$\square$
定理 11.4 可分Hilbert空间与$l^2$（或$\mathbb{C}^n$）等距同构。
证明：取$H$的完全规范正交系$\{e_n\}$（可分性保证可数）。定义$T: H \to l^2$：
$$Tx = (\langle x, e_n \rangle)_{n=1}^\infty$$
由Parseval等式，$T$是等距同构。$\square$
推论 11.2 所有无穷维可分Hilbert空间都等距同构。
习题 11.1 在$L^2[0, 1]$中，验证$\{e^{2\pi int}\}_{n \in \mathbb{Z}}$是规范正交系。
习题 11.2 证明：规范正交系是线性无关的。
习题 11.3 设$\{e_n\}$是规范正交系，$x \in H$。证明：$\sum_{n=1}^\infty \langle x, e_n \rangle e_n$收敛当且仅当$\sum_{n=1}^\infty |\langle x, e_n \rangle|^2 < \infty$。
习题 11.4 设$\{e_n\}$是规范正交系，$x, y \in H$。证明：
$$\sum_{n=1}^\infty |\langle x, e_n \rangle \langle y, e_n \rangle| \leq \|x\|\|y\|$$
习题 11.5 证明：Hilbert空间$H$可分当且仅当它有可数的完全规范正交系。
习题 11.6 设$\{f_n\}$是$L^2[0, 2\pi]$中的规范正交系，$f_n(x) = \frac{1}{\sqrt{2\pi}}e^{inx}$。求$f(x) = x$的Fourier系数。
习题 11.7 证明：若$\{e_n\}$是完全规范正交系，则对任意$x \in H$：
$$\lim_{N \to \infty} \left\|x - \sum_{n=1}^N \langle x, e_n \rangle e_n\right\| = 0$$
习题 11.8 设$\{e_n\}$是规范正交系，$\{c_n\}$$\in l^2$。证明存在$x \in H$使得$\langle x, e_n \rangle = c_n$。
习题 11.9 证明Gram-Schmidt正交化过程：从线性无关集构造规范正交系。
习题 11.10 设$\{e_n\}$是完全规范正交系，$T \in \mathcal{B}(H)$。证明：
$$\|T\|^2 \geq \sum_{n=1}^\infty \|Te_n\|^2$$
本章是Hilbert空间理论的高峰：