差别
这里会显示出您选择的修订版和当前版本之间的差别。
| 后一修订版 | 前一修订版 | ||
| 概率论:参数估计 [2026/02/19 16:27] – 创建 张叶安 | 概率论:参数估计 [2026/02/19 16:43] (当前版本) – 创建 张叶安 | ||
|---|---|---|---|
| 行 1: | 行 1: | ||
| - | ====== 第七章 | + | ====== 第七章 |
| - | ===== 7.1 二次型及其矩阵表示 | + | ===== 7.1 点估计 |
| - | ==== 7.1.1 二次型的定义 | + | ==== 7.1.1 点估计的概念 |
| - | **定义 7.1（二次型）** | + | **定义 7.1（点估计）** |
| - | 设 $P$ 是一个数域，$x_1, x_2, \ldots, x_n$ 是 $n$ 个变量，系数在 | + | 设总体 |
| - | $$f(x_1, x_2, \ldots, | + | |
| - | 称为数域 | + | |
| - | 展开形式为： | + | 对应于样本观测值 |
| - | $$f(x_1, x_2, \ldots, x_n) = a_{11}x_1^2 + 2a_{12}x_1x_2 + \cdots + 2a_{1n}x_1x_n + a_{22}x_2^2 + \cdots + a_{nn}x_n^2$$ | + | |
| - | 其中 $a_{ij} = a_{ji}$（$i, | + | **点估计的方法：** |
| + | - 矩估计法 | ||
| + | - 极大似然估计法 | ||
| - | **例 7.1** 下列哪些是二次型？ | + | ==== 7.1.2 矩估计法 ==== |
| - | (a) $f = x_1^2 + 2x_1x_2 + 3x_2^2$ | + | |
| - | (b) $f = x_1^2 + x_2^2 + x_1x_2x_3$ | + | |
| - | (c) $f = x_1^2 + x_2$ | + | |
| - | **解：** (a) 是二次型；(b) 含三次项 $x_1x_2x_3$，不是；(c) 含一次项 $x_2$，不是。 | + | **思想：** 用样本矩估计总体矩，用样本矩的函数估计总体矩的函数。 |
| - | ==== 7.1.2 二次型的矩阵表示 ==== | + | **基本步骤：** |
| + | 1. 求总体 $k$ 阶原点矩 $\mu_k = E(X^k)$（含未知参数 $\theta$） | ||
| + | 2. 令样本 $k$ 阶原点矩 $A_k = \frac{1}{n}\sum_{i=1}^n X_i^k$ 等于 $\mu_k$ | ||
| + | 3. 解方程（组）得到估计量 | ||
| - | 令 $a_{ji} = a_{ij}$（$i < j$），则二次型可写为： | + | **例 7.1** 设总体 |
| - | $$f = \sum_{i=1}^{n}\sum_{j=1}^{n}a_{ij}x_ix_j = X^TAX$$ | + | |
| - | 其中 | + | **解：** |
| - | $$X = \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}, \quad A = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{pmatrix}$$ | + | |
| - | 矩阵 | + | 令 $\bar{X} |
| - | **定义 | + | **例 7.2** 设总体 |
| - | 二次型 | + | |
| - | **注：** 二次型与对称矩阵一一对应。 | + | **解：** $E(X) = \frac{\theta}{2}$，令 $\bar{X} = \frac{\theta}{2}$ |
| - | **例 7.2** 写出二次型 | + | 得矩估计：$\hat{\theta} |
| - | **解：** 对角线元素为平方项系数：$a_{11}=1, a_{22}=2, a_{33}=3$ | + | **例 7.3** 设总体 |
| - | 交叉项系数平分：$a_{12}=a_{21}=1, | + | **解：** $E(X) = \mu$，$E(X^2) = \mu^2 + \sigma^2$ |
| - | $$A = \begin{pmatrix} 1 & 1 & 2 \\ 1 & 2 & 3 \\ 2 & 3 & 3 \end{pmatrix}$$ | + | 令：$\begin{cases} \bar{X} = \mu \\ \frac{1}{n}\sum_{i=1}^n X_i^2 = \mu^2 + \sigma^2 \end{cases}$ |
| - | **例 7.3** 写出对称矩阵 | + | 解得： |
| + | $$\hat{\mu} | ||
| - | **解：** $f = x_1^2 + 4x_2^2 + 6x_3^2 + 4x_1x_2 + 6x_1x_3 + 10x_2x_3$ | + | ==== 7.1.3 极大似然估计法 ==== |
| - | ===== 7.2 二次型的标准形 ===== | + | **思想：** 寻找使样本观测值出现概率（或概率密度）最大的参数值。 |
| - | ==== 7.2.1 线性替换与合同变换 ==== | + | **定义 |
| + | 设总体 $X$ 的概率密度（或分布律）为 $f(x; \theta)$，样本 $X_1, \ldots, X_n$ 的联合密度（或联合分布律）为 | ||
| + | $$L(\theta) | ||
| + | 称为**似然函数**。 | ||
| - | **定义 7.3（线性替换）** | + | **定义 7.3（极大似然估计）** |
| - | 设 $C$ 是 $n$ 阶可逆矩阵，称 | + | 若 $\hat{\theta}(x_1, |
| - | $$X = CY$$ | + | $$L(\hat{\theta}) |
| - | 为由变量 | + | 则称 $\hat{\theta}$ |
| - | 若 $C$ 是正交矩阵，则称为**正交替换**。 | + | **求解步骤：** |
| + | 1. 写出似然函数 $L(\theta)$ | ||
| + | 2. 取对数得对数似然函数 $\ln L(\theta)$ | ||
| + | 3. 对 $\theta$ 求导，令 $\frac{d\ln L(\theta)}{d\theta} = 0$（似然方程） | ||
| + | 4. 解方程得估计量 | ||
| - | 将 $X = CY$ 代入 | + | **例 7.4** 设 $X_1, \ldots, X_n$ 是来自总体 |
| - | $$f = (CY)^T A (CY) = Y^T (C^TAC) Y = Y^TBY$$ | + | |
| - | 其中 | + | **解：** 分布律：$P(X = x) = p^x(1-p)^{1-x}$，$x = 0, 1$ |
| - | **定义 7.4（合同矩阵）** | + | 似然函数：$L(p) = \prod_{i=1}^n p^{x_i}(1-p)^{1-x_i} |
| - | 设 $A, B$ 是 $n$ 阶方阵，若存在可逆矩阵 $C$ 使 $B = C^TAC$，则称 $A$ 与 $B$ **合同**，记作 $A \simeq B$。 | + | |
| - | **合同关系的性质：** | + | 对数似然：$\ln L(p) = (\sum x_i)\ln p + (n - \sum x_i)\ln(1-p)$ |
| - | - 自反性：$A \simeq A$ | + | |
| - | - 对称性：若 $A \simeq B$，则 $B \simeq A$ | + | |
| - | | + | |
| - | | + | |
| - | ==== 7.2.2 标准形 ==== | + | 求导：$\frac{d\ln L}{dp} |
| - | **定义 7.5（标准形）** | + | 解得：$\hat{p} |
| - | 只含平方项的二次型 | + | |
| - | $$f = d_1y_1^2 + d_2y_2^2 + \cdots + d_ny_n^2$$ | + | |
| - | 称为二次型的**标准形**。 | + | |
| - | **定理 | + | **例 7.5** 设 $X_1, \ldots, X_n$ 是来自总体 $X \sim N(\mu, \sigma^2)$ 的样本，求 $\mu$ 和 $\sigma^2$ 的极大似然估计。 |
| - | 任意二次型都可经可逆线性替换化为标准形。 | + | |
| - | 即：对任意对称矩阵 | + | **解：** 密度：$f(x) = \frac{1}{\sqrt{2\pi}\sigma}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)$ |
| - | **化标准形的方法：** | + | 似然函数：$L(\mu, \sigma^2) = (2\pi\sigma^2)^{-\frac{n}{2}}\exp\left(-\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\right)$ |
| - | **方法一：配方法（拉格朗日法）** | + | 对数似然：$\ln L = -\frac{n}{2}\ln(2\pi) - \frac{n}{2}\ln(\sigma^2) - \frac{1}{2\sigma^2}\sum(x_i-\mu)^2$ |
| - | **例 7.4** 用配方法将 | + | 对 $\mu$ 求偏导并令为 0： |
| + | $$\frac{\partial \ln L}{\partial \mu} = \frac{1}{\sigma^2}\sum(x_i-\mu) = 0 \Rightarrow \hat{\mu} = \bar{X}$$ | ||
| - | **解：** 按 $x_1$ 配方： | + | 对 $\sigma^2$ 求偏导并令为 0： |
| - | $$f = (x_1 + x_2 + x_3)^2 + x_2^2 + 4x_3^2 + 4x_2x_3$$ | + | $$\frac{\partial \ln L}{\partial \sigma^2} |
| - | $$= (x_1 + x_2 + x_3)^2 + (x_2 + 2x_3)^2$$ | + | |
| - | 令： | + | 解得：$\hat{\sigma}^2 = \frac{1}{n}\sum_{i=1}^n (X_i - \bar{X})^2$ |
| - | $$\begin{cases} y_1 = x_1 + x_2 + x_3 \\ y_2 = x_2 + 2x_3 \\ y_3 = x_3 \end{cases}$$ | + | |
| - | 即 | + | **例 7.6** 设 $X_1, \ldots, X_n$ 是来自总体 $X \sim U[0, \theta]$ 的样本，求 $\theta$ 的极大似然估计。 |
| - | $$\begin{pmatrix} y_1 \\ y_2 \\ y_3 \end{pmatrix} = \begin{pmatrix} 1 & 1 & 1 \\ 0 & 1 & 2 \\ 0 & 0 & 1 \end{pmatrix} \begin{pmatrix} x_1 \\ x_2 \\ x_3 \end{pmatrix}$$ | + | |
| - | 标准形为：$f = y_1^2 + y_2^2$ | + | **解：** 密度：$f(x; \theta) |
| - | **方法二：初等变换法** | + | 似然函数：$L(\theta) = \begin{cases} \frac{1}{\theta^n}, |
| - | 对矩阵 | + | $L(\theta)$ 关于 $\theta$ 单调递减，要使 |
| - | **方法三：正交变换法（针对实二次型）** | + | 约束条件：$\theta \geq \max\{x_1, \ldots, x_n\}$ |
| - | **定理 7.2（主轴定理）** | + | 故极大似然估计：$\hat{\theta} = X_{(n)} = \max\{X_1, \ldots, X_n\}$ |
| - | 任意实二次型都可经正交变换化为标准形，且标准形中平方项系数就是 | + | |
| - | 即：对实对称矩阵 $A$，存在正交矩阵 $Q$ 使 | + | ===== 7.2 估计量的评价标准 ===== |
| - | $$Q^TAQ | + | |
| - | **正交变换法步骤：** | + | ==== 7.2.1 无偏性 ==== |
| - | 1. 写出二次型矩阵 $A$ | + | |
| - | 2. 求 $A$ 的特征值 | + | |
| - | 3. 对每个特征值求特征向量并正交单位化 | + | |
| - | 4. 以单位特征向量为列构成正交矩阵 $Q$ | + | |
| - | 5. 令 $X = QY$，则 $f = \lambda_1y_1^2 + \lambda_2y_2^2 + \cdots + \lambda_ny_n^2$ | + | |
| - | **例 7.5** 用正交变换将 | + | **定义 |
| + | 设 $\hat{\theta}$ 是参数 $\theta$ 的估计量，若 | ||
| + | $$E(\hat{\theta}) | ||
| + | 则称 $\hat{\theta}$ 是 $\theta$ 的**无偏估计**（量）。 | ||
| - | **解：** 矩阵 | + | **例 7.7** 证明样本均值 |
| - | $|A - \lambda | + | **证明：** |
| - | 特征值：$\lambda_1 | + | **例 7.8** 判断样本方差 |
| - | $\lambda = 1$：特征向量 | + | **解：** 已知 |
| - | 正交化：$\eta_1 = (-2, 1, 0)^T$，$\eta_2 = (2, 4, 5)^T/5$ | + | 因此 |
| - | 单位化得：$q_1 = \frac{1}{\sqrt{5}}(-2, 1, 0)^T$，$q_2 | + | 而 $E(S_n^2) |
| - | $\lambda = 10$：$\xi_3 = (1, 2, -2)^T$，单位化 $q_3 = \frac{1}{3}(1, | + | $S_n^2$ 不是无偏估计（是渐近无偏的）。 |
| - | $$Q = \begin{pmatrix} -\frac{2}{\sqrt{5}} & \frac{2}{3\sqrt{5}} & \frac{1}{3} \\ \frac{1}{\sqrt{5}} & \frac{4}{3\sqrt{5}} & \frac{2}{3} \\ 0 & \frac{5}{3\sqrt{5}} & -\frac{2}{3} \end{pmatrix}$$ | + | ==== 7.2.2 有效性 ==== |
| - | 标准形：$f = y_1^2 + y_2^2 + 10y_3^2$ | + | **定义 7.5（有效性）** |
| + | 设 $\hat{\theta}_1$ 和 $\hat{\theta}_2$ 都是 $\theta$ 的无偏估计，若对任意样本容量 $n$，有 | ||
| + | $$D(\hat{\theta}_1) \leq D(\hat{\theta}_2)$$ | ||
| + | 且至少对一个 $n$ 严格不等，则称 $\hat{\theta}_1$ 比 $\hat{\theta}_2$ **有效**。 | ||
| - | ===== 7.3 惯性定理与规范形 ===== | + | **例 7.9** 设总体 $X$ 的均值为 $\mu$，方差为 $\sigma^2$，考虑两个无偏估计： |
| + | $$\hat{\mu}_1 | ||
| + | 比较它们的有效性。 | ||
| - | ==== 7.3.1 惯性定理 ==== | + | **解：** $D(\hat{\mu}_1) |
| - | **定理 7.3（惯性定理/ | + | $D(\hat{\mu}_2) |
| - | 设实二次型 | + | |
| - | $$f = d_1y_1^2 + \cdots + d_py_p^2 - d_{p+1}y_{p+1}^2 - \cdots - d_ry_r^2$$ | + | |
| - | $$f = k_1z_1^2 + \cdots + k_qz_q^2 - k_{q+1}z_{q+1}^2 - \cdots - k_rz_r^2$$ | + | |
| - | 其中 | + | 当 $n > 2$ 时，$\frac{\sigma^2}{n} < \frac{\sigma^2}{2}$，故 $\hat{\mu}_1$ 比 $\hat{\mu}_2$ 有效。 |
| - | **定义 7.6（惯性指数）** | + | **定理 7.1（Rao-Cramer 不等式）** |
| - | 实二次型的标准形中： | + | 在正则条件下，设 $\hat{\theta}$ 是 $\theta$ 的无偏估计，则 |
| - | - **正惯性指数**：正平方项的个数 | + | $$D(\hat{\theta}) \geq \frac{1}{nI(\theta)}$$ |
| - | - **负惯性指数**：负平方项的个数 | + | 其中 |
| - | - **符号差**：$p - (r-p) = 2p - r$ | + | |
| - | ==== 7.3.2 规范形 ==== | + | 若某无偏估计达到此下界，则称其为**有效估计**。 |
| - | **定义 | + | ==== 7.2.3 一致性 ==== |
| - | 形如 | + | |
| - | $$f = z_1^2 + \cdots + z_p^2 - z_{p+1}^2 - \cdots - z_r^2$$ | + | |
| - | 的二次型称为**规范形**。 | + | |
| - | **定理 7.4（规范形唯一性）** | + | **定义 7.6（一致性/ |
| - | 任意实二次型都可经可逆线性替换化为唯一的规范形。 | + | 设 $\hat{\theta}_n = \hat{\theta}(X_1, |
| + | $$\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| \u003c \varepsilon) = 1$$ | ||
| + | 则称 $\hat{\theta}_n$ 是 $\theta$ | ||
| - | **推论：** 两个实二次型合同的充要条件是它们有相同的秩和相同的正惯性指数。 | + | 等价地：$\hat{\theta}_n \xrightarrow{P} \theta$（依概率收敛） |
| - | ===== 7.4 正定二次型 ===== | + | **定理 |
| + | 设 $\hat{\theta}_n$ 是 $\theta$ 的估计量，若 $E(\hat{\theta}_n) \to \theta$ 且 $D(\hat{\theta}_n) \to 0$，则 $\hat{\theta}_n$ 是 $\theta$ 的一致估计。 | ||
| - | ==== 7.4.1 正定二次型的定义 ==== | + | **证明：** 由切比雪夫不等式，$P(|\hat{\theta}_n - \theta| \geq \varepsilon) \leq \frac{E[(\hat{\theta}_n - \theta)^2]}{\varepsilon^2} |
| - | **定义 | + | **例 7.10** 证明样本均值 |
| - | 设 $f = X^TAX$ 是实二次型，若对任意 | + | |
| - | 类似可定义： | + | **证明：** $E(\bar{X}) = \mu$，$D(\bar{X}) = \frac{\sigma^2}{n} \to 0$（$n \to \infty$） |
| - | - **负定**：$X \neq 0$ 时，$f < 0$ | + | |
| - | - **半正定**：$X \neq 0$ 时，$f \geq 0$ | + | |
| - | - **半负定**：$X \neq 0$ 时，$f \leq 0$ | + | |
| - | - **不定**：$f$ 既可正又可负 | + | |
| - | ==== 7.4.2 正定二次型的判别 ==== | + | 由定理 |
| - | **定理 | + | ===== 7.3 区间估计 ===== |
| - | 设 $A$ 是 $n$ 阶实对称矩阵，下列条件等价： | + | |
| - | 1. $A$ 是正定矩阵（$f = X^TAX$ 正定） | + | |
| - | 2. $A$ 的正惯性指数为 $n$（即规范形为 $y_1^2 + \cdots + y_n^2$） | + | |
| - | 3. $A$ 的特征值全为正数 | + | |
| - | 4. 存在可逆矩阵 $C$ 使 $A = C^TC$ | + | |
| - | 5. $A$ 的各阶顺序主子式全大于零： | + | |
| - | $$\Delta_1 | + | |
| - | **定理 | + | ==== 7.3.1 区间估计的概念 ==== |
| - | $A$ 负定 $\Leftrightarrow$ $(-A)$ 正定 | + | |
| - | 负定的顺序主子式判别：奇数阶主子式为负，偶数阶主子式为正。 | + | **定义 7.7（置信区间）** |
| + | 设 $\theta$ 是总体未知参数，$X_1, \ldots, X_n$ 是样本。若统计量 $\underline{\theta}(X_1, | ||
| + | $$P(\underline{\theta} < \theta < \overline{\theta}) = 1 - \alpha$$ | ||
| + | 其中 $0 < \alpha < 1$，则称随机区间 $(\underline{\theta}, | ||
| - | **例 7.6** 判别二次型 | + | - $\underline{\theta}$：**置信下限** |
| + | - $\overline{\theta}$：**置信上限** | ||
| + | | ||
| - | **解：** 矩阵 | + | **含义：** 若重复抽样多次，每个样本确定一个区间 |
| - | 顺序主子式： | + | ==== 7.3.2 单个正态总体的区间估计 |
| - | $$\Delta_1 | + | |
| - | $$\Delta_2 | + | |
| - | $$\Delta_3 | + | |
| - | 故 $f$ 正定。 | + | 设 $X_1, \ldots, X_n \sim N(\mu, \sigma^2)$，$\bar{X}$ 和 $S^2$ 分别是样本均值和样本方差。 |
| - | **例 7.7** 求 $t$ 的取值范围，使 $f = 2x_1^2 + x_2^2 + 3x_3^2 + 2tx_1x_2 + 2x_1x_3$ 正定。 | + | **1. $\sigma^2$ 已知，求 $\mu$ 的置信区间** |
| - | **解：** $A = \begin{pmatrix} 2 & t & 1 \\ t & 1 & 0 \\ 1 & 0 & 3 \end{pmatrix}$ | + | 枢轴量：$Z = \frac{\bar{X} - \mu}{\sigma/\sqrt{n}} \sim N(0, 1)$ |
| - | 需： | + | $$P\left(-z_{\alpha/ |
| - | $$\Delta_1 = 2 > 0$$ | + | |
| - | $$\Delta_2 = 2 - t^2 > 0 \Rightarrow |t| < \sqrt{2}$$ | + | |
| - | $$\Delta_3 = |A| = 2(3) - t(3t) + 1(-1) = 6 - 3t^2 - 1 = 5 - 3t^2 > 0 \Rightarrow |t| < \sqrt{\frac{5}{3}}$$ | + | |
| - | 综合得：$|t| < \sqrt{\frac{5}{3}}$ | + | 解得 $\mu$ 的置信区间： |
| + | $$\left(\bar{X} - z_{\alpha/ | ||
| - | ===== 7.5 正定矩阵的性质 ===== | + | **2. $\sigma^2$ 未知，求 $\mu$ 的置信区间** |
| - | **性质 1：** 正定矩阵的行列式大于零，且可逆。 | + | 枢轴量：$T = \frac{\bar{X} - \mu}{S/ |
| - | **性质 2：** 若 $A$ 正定，则 $A^{-1}$，$A^*$，$kA$（$k> | + | $$\left(\bar{X} - t_{\alpha/ |
| - | **性质 | + | **3. $\mu$ 未知，求 $\sigma^2$ 的置信区间** |
| - | **性质 4：** 若 $A$ 正定，则存在正定矩阵 $B$ 使 $A = B^2$（称为 $A$ 的平方根）。 | + | 枢轴量：$\chi^2 |
| - | ===== 7.6 典型例题 ===== | + | $$P\left(\chi_{1-\alpha/ |
| - | **例题 7.1** 设 $A$ 是 $n$ 阶实对称矩阵，证明：$A$ 正定的充要条件是存在正定矩阵 $B$ 使 $A = B^2$。 | + | 解得 |
| + | $$\left(\frac{(n-1)S^2}{\chi_{\alpha/ | ||
| - | **证明：** | + | ==== 7.3.3 两个正态总体的区间估计 ==== |
| - | 必要性：$A$ | + | |
| - | 令 $\Lambda^{1/2} = \text{diag}(\sqrt{\lambda_1}, \ldots, \sqrt{\lambda_n})$，则 $A = Q\Lambda Q^T = Q\Lambda^{1/2}\Lambda^{1/ | + | 设 $X_1, \ldots, X_{n_1} \sim N(\mu_1, \sigma_1^2)$，$Y_1, \ldots, Y_{n_2} \sim N(\mu_2, \sigma_2^2)$，两样本独立。 |
| - | 令 $B = Q\Lambda^{1/2}Q^T$，则 $B$ 正定且 $A = B^2$。 | + | **1. $\sigma_1^2 |
| - | 充分性：若 $A = B^2$，$B$ 正定，则 $B$ 的特征值 $\mu_i > 0$，$A$ 的特征值 $\mu_i^2 > 0$，故 | + | 枢轴量： |
| + | $$T = \frac{(\bar{X} - \bar{Y}) - (\mu_1 - \mu_2)}{S_w\sqrt{\frac{1}{n_1} + \frac{1}{n_2}}} \sim t(n_1 + n_2 - 2)$$ | ||
| - | **例题 7.2** 设 $A$ 是 $m \times n$ 实矩阵，$R(A) = n$，证明：$A^TA$ 正定。 | + | 其中 |
| - | **证明：** $(A^TA)^T = A^TA$，故 | + | 置信区间： |
| + | $$(\bar{X} - \bar{Y}) \pm t_{\alpha/ | ||
| - | 对任意 | + | **2. 求 $\frac{\sigma_1^2}{\sigma_2^2}$ 的置信区间** |
| - | 又 $R(A) = n$，故 $AX = 0$ 只有零解，所以 $X \neq 0$ 时 $AX \neq 0$，$||AX||^2 > 0$ | + | 枢轴量：$F = \frac{S_1^2/\sigma_1^2}{S_2^2/ |
| - | 因此 | + | 置信区间： |
| + | $$\left(\frac{S_1^2}{S_2^2} \cdot \frac{1}{F_{\alpha/ | ||
| - | **例题 | + | ===== 7.4 典型例题 ===== |
| - | **证明：** 设 $k_1\alpha_1 + \cdots + k_m\alpha_m = 0$ | + | **例题 7.1** 设总体 |
| - | 两边左乘 $\alpha_i^T A$：$k_1\alpha_i^T A \alpha_1 + \cdots + k_m\alpha_i^T A \alpha_m = 0$ | + | **解：** |
| - | 由条件，$\alpha_i^T A \alpha_j | + | （1）矩估计： |
| + | $$E(X) = \int_0^1 x \cdot \theta x^{\theta-1} dx = \theta \int_0^1 x^\theta dx = \frac{\theta}{\theta+1}$$ | ||
| - | $A$ 正定，$\alpha_i | + | 令 $\bar{X} = \frac{\theta}{\theta+1}$，解得： |
| + | $$\hat{\theta}_{\text{矩}} | ||
| - | 因此 $\alpha_1, \ldots, \alpha_m$ 线性无关。 | + | （2）极大似然估计： |
| - | ===== 7.7 习题 ===== | + | 似然函数：$L(\theta) |
| - | **基础题** | + | 对数似然：$\ln L = n\ln\theta + (\theta-1)\sum_{i=1}^n \ln x_i$ |
| - | 1. 写出下列二次型的矩阵： | + | 求导：$\frac{d\ln L}{d\theta} |
| - | | + | |
| - | (b) $f = x_1x_2 + x_2x_3 + x_3x_1$ | + | |
| - | 2. 用配方法将下列二次型化为标准形，并写出所用的可逆线性替换： | + | 解得： |
| - | (a) $f = x_1^2 + 2x_2^2 + 2x_1x_2 + 2x_1x_3$ | + | $$\hat{\theta}_{\text{MLE}} |
| - | (b) $f = 2x_1x_2 + 2x_1x_3 - 6x_2x_3$ | + | |
| - | 3. 用正交变换将下列实二次型化为标准形： | + | **例题 7.2** 设总体 $X \sim N(\mu, \sigma^2)$，$X_1, \ldots, X_n$ 是样本。证明 $\hat{\mu}_1 |
| - | (a) $f = 3x_1^2 + 3x_2^2 + 6x_3^2 + 8x_1x_2 - 4x_1x_3 + 4x_2x_3$ | + | |
| - | | + | |
| - | 4. 求下列二次型的秩、正惯性指数和符号差： | + | **证明：** 两者都是无偏估计。 |
| - | (a) $f = x_1^2 + 2x_2^2 + 3x_3^2 - 4x_1x_2 - 4x_2x_3$ | + | |
| - | (b) $f = x_1x_2 + x_2x_3 + x_3x_4 + x_4x_1$ | + | |
| - | 5. 判别下列二次型是否正定： | + | $D(\hat{\mu}_1) = D(\bar{X}) = \frac{\sigma^2}{n}$ |
| - | (a) $f = 5x_1^2 + 6x_2^2 + 4x_3^2 - 4x_1x_2 - 4x_2x_3$ | + | |
| - | (b) $f = 10x_1^2 + 8x_1x_2 + 24x_1x_3 + 2x_2^2 - 28x_2x_3 + x_3^2$ | + | |
| - | **提高题** | + | $D(\hat{\mu}_2) = \frac{1}{4}[D(X_1) + D(X_n)] = \frac{\sigma^2}{2}$ |
| - | 6. 求 $t$ 的取值范围，使下列二次型正定： | + | 当 $n \geq 3$ 时，$\frac{\sigma^2}{n} \leq \frac{\sigma^2}{2}$，故 $\hat{\mu}_1$ 更有效。∎ |
| - | | + | |
| - | | + | **例题 7.3** 从一批零件中随机抽取 16 件，测得长度（mm）的样本均值 $\bar{x} = 20.01$，样本标准差 $s = 0.02$。假设长度服从正态分布，求总体均值 $\mu$ 的 95% 置信区间。 |
| + | |||
| + | **解：** $\sigma^2$ 未知，用 $t$ 分布。 | ||
| + | |||
| + | $n = 16$，$\bar{x} = 20.01$，$s = 0.02$，$1-\alpha = 0.95$ | ||
| + | |||
| + | 查表：$t_{0.025}(15) = 2.131$ | ||
| + | |||
| + | 置信区间： | ||
| + | $$\bar{x} \pm t_{0.025}(15) \cdot \frac{s}{\sqrt{n}} | ||
| + | |||
| + | 即 $(19.999, 20.021)$ | ||
| + | |||
| + | ===== 7.5 习题 ===== | ||
| + | |||
| + | **基础题** | ||
| + | |||
| + | 1. 设总体 $X \sim B(N, p)$，$X_1, \ldots, X_n$ 是样本，求 $p$ 的矩估计和极大似然估计。 | ||
| + | |||
| + | 2. 设总体 $X$ 的密度为 $f(x; \theta) = \begin{cases} \frac{2x}{\theta^2}, & 0 < x < \theta \\ 0, & \text{其他} \end{cases}$，求 $\theta$ 的矩估计和极大似然估计。 | ||
| + | |||
| + | 3. 设 $X_1, \ldots, X_n$ 是来自总体 $X \sim E(\lambda)$ 的样本，证明 $\bar{X}$ 是 $\frac{1}{\lambda}$ 的无偏估计，并判断其是否一致。 | ||
| + | |||
| + | 4. 从正态总体中抽取容量为 25 的样本，测得 $\bar{x} = 10$，$s | ||
| + | |||
| + | **提高题** | ||
| - | 7. 设 $A$ 是 $n$ 阶实对称矩阵，证明：当 $t$ 充分大时，$tE | + | 5. 设总体 |
| + | $$\hat{\mu}_1 = \frac{2}{3}X_1 | ||
| + | （1）证明它们都是无偏估计；（2）比较它们的有效性。 | ||
| - | 8. 设 $A$ 是 $n$ 阶正定矩阵，$B$ 是 $n$ 阶实反对称矩阵（$B^T = -B$），证明：$A + B$ 可逆。 | + | 6. 设总体 |
| - | 9. 设 $A$ 是 $n$ 阶实对称矩阵，且 $A^3 - 3A^2 + 5A - 3E = O$，证明：$A$ 正定。 | + | 7. 设两正态总体 |
| **挑战题** | **挑战题** | ||
| - | 10. 设 $A$ 是 $m$ 阶正定矩阵，$B$ 是 $m \times n$ 实矩阵，证明：$B^TAB$ 正定的充要条件是 $R(B) = n$。 | + | 8. 设 $X_1, \ldots, X_n$ 是来自总体 |
| - | 11. 设 $A = (a_{ij})$ 是 $n$ 阶正定矩阵，证明：$|A| \leq a_{11}a_{22}\cdots a_{nn}$（哈达玛不等式）。 | + | 9. 设 $X_1, \ldots, X_n$ 是来自总体 |
| - | 12. 设 $A$ 是 $n$ 阶实对称矩阵，$\lambda_1$ 和 $\lambda_n$ 分别是 $A$ 的最大和最小特征值，证明：对任意 | + | 10. 设总体 |
| - | $$\lambda_n X^TX \leq X^TAX \leq \lambda_1 X^TX$$ | + | |
张叶安