数理统计基础

• 样本
  • 定义
    • 已知总体 $X$，$X_1,X_2,\dots,X_n$ 互相独立，与 $X$ 同分布，则 $X_1,X_2,\dots,X_n$ 是简单随机样本。
    • $n$ 为样本容量。
  • 样本分布
    • 已知总体 $X$ 和分布函数，样本 $X_1,X_2,\dots,X_n$。
    • $F(x_1,x_2,\dots,x_n)=\displaystyle\prod_{i=1}^n F(x_i)$。
• 统计量
  • 定义
    • 已知 $X_1,X_2,\dots,X_n$ 是来自 $X$ 的样本，$T(X_1,X_2,\dots,X_n)$ 不含任何未知参数，则 $T$ 为统计量。
  • 常用统计量
    • 样本均值：$\overline X = \dfrac{1}{n}\displaystyle\sum_{i=1}^n X_i$。
    • 样本方差：$S^2 = \dfrac{1}{n-1}\displaystyle\sum_{i=1}^n(X - \overline X)^2$。
    • 样本标准差：$S = \sqrt{S^2}$。
    • 样本 $k$ 阶矩：$A_k = \dfrac{1}{n}\displaystyle\sum_{i=1} X_i^k$。
    • 样本 $k$ 阶中心矩：$B_k = \dfrac{1}{n}\displaystyle\sum_{i=1} (X_i - \overline X)^k$。
    • 顺序统计量：将 $X_1,X_2,\dots,X_n$ 排序得到 $X_{(1)},X_{(2)},\dots,X_{(n)}$。
  • 性质
    • 已知 $X_1,X_2,\dots,X_n$ 是来自 $X$ 的样本，$E(X) = \mu$，$D(X) = \sigma^2$。
      • $E(\overline X) = \mu$，$D(\overline X) = \dfrac{\sigma^2}{n}$
      • $E(S^2) = \sigma^2$
    • 已知 $X_1,X_2,\dots,X_n$ 是来自 $N(\mu,\sigma^2)$ 的样本。
      • $\overline X \sim N\left(\mu, \dfrac{\sigma^2}{n}\right)$ 或 $\dfrac{\overline X - \mu}{\sigma / \sqrt{n}} \sim N(0, 1)$
      • $\overline X$ 与 $S^2$ 独立。
• 抽样分布
  • $\chi^2$ 分布
    • 已知 $X_1,X_2,\dots,X_n$ 是来自 $X\sim N(0,1)$ 的样本，定义 $\chi^2 = \displaystyle\sum_{i=1}^n X_i^2 \sim \chi^2(n)$。
    • $\chi^2(2)$ 是 $E(\frac{1}{2})$。
    • 已知 $X \sim \chi^2(n)$，则 $E(X) = n,D(X) = 2n$。
    • 已知 $X\sim \chi^2(m),Y \sim \chi^2(n)$，且 $X,Y$ 独立，则 $X+Y \sim \chi^2(m+n)$。
    • 已知 $X_1,X_2,\dots,X_n$ 是来自 $X\sim N(\mu,\sigma^2)$ 的样本，则 $\dfrac{1}{\sigma^2} \displaystyle\sum_{i=1}^n (X_i - \mu)^2 \sim \chi^2(n)$。
    • $\dfrac{(n - 1) S^2}{\sigma^2} = \dfrac{n B_2}{\sigma^2} \sim \chi^2(n - 1)$
  • $t$ 分布
    • 已知 $X \sim N(0,1), Y \sim \chi^2(n)$，且 $X,Y$ 独立，定义 $T = \dfrac{X}{\sqrt{Y/n}} \sim t(n)$。
    • 已知 $X_1,X_2,\dots,X_n$ 是来自 $X\sim N(\mu,\sigma^2)$ 的样本，则 $\dfrac{\overline X - \mu}{S / \sqrt{n}} \sim t(n-1)$。
      • 注意与 $\dfrac{\overline X - \mu}{\sigma / \sqrt{n}}$ 是用 $S$ 近似 $\sigma$ 的关系。
  • $F$ 分布
    • 设 $X \sim \chi^2(m),Y \sim \chi^2(n)$，$X,Y$ 相互独立，定义 $F=\dfrac{X / m}{Y / n} \sim F(m,n)$。
    • 已知 $X \sim F(m,n)$，则 $\dfrac{1}{X} \sim F(n,m)$。
    • 已知 $T \sim t(n)$，则 $T^2 \sim F(1,n)$。
    • 已知 $X_1,\dots,X_m$ 来自 $N(\mu_1,\sigma_1^2)$，$Y_1,\dots,Y_n$ 来自 $N(\mu_2,\sigma_2^2)$，两者独立，则 $\dfrac{S_1^2/S_2^2}{\sigma_1^2/\sigma_2^2} \sim F(m-1,n-1)$。
• 分位数
  • 定义
    • 已知随机变量 $X$ 与其分布函数 $F_X(x)$，给定 $p,\alpha \in (0,1)$
      • 定义满足 $F_X(x_p) = p$ 的 $x_p$ 为 $p$ 分位数。
      • 定义满足 $1-F_X(x_\alpha) = \alpha$ 的 $x_\alpha$ 为上 $\alpha$ 分位数。
  • 性质
    • 标准正态分布的上分位数满足 $z_{1-\alpha} = -z_{\alpha}$。