多维随机变量

• 联合分布函数
  • 定义
    • 设 $(X,Y)$ 是二维随机变量 / 二维随机向量，定义联合分布函数 $F(x,y) = P(X \le x,Y \le y)$。
  • 性质
    • $F(x,y) \in [0,1]$
    • $\lim\limits_{x \to -\infty} F(x,y_0) = 0$，$\lim\limits_{y \to -\infty} F(x_0,y) = 0$，$x_0,y_0$ 为任意实数或无穷大。
    • $\lim\limits_{x \to +\infty} \lim\limits_{y \to +\infty} F(x,y) = 1$。
    • 对任意一维，都满足右连续。
    • 对任意 $x_1<x_2,y_1,y_2$，$F(x_2,y_2) - F(x_1,y_2) - F(x_2,y_1) + F(x_1,y_1) \ge 0$。
  • 常用二维随机变量
    • 均匀分布
      • 设 $D$ 为平面上一有界区域，面积为 $S$。
      • $D$ 上的均匀分布 $(X,Y)$ 有 $f(x,y) = \left\{\begin{matrix} \dfrac{1}{S}, & (x,y) \in D \\ 0, & \text{otherwise} \end{matrix}\right.$。
      • 二维均匀分布即几何概型。
    • 正态分布
      • 设 $(X,Y)$ 服从正态分布，即 $(X,Y) \sim N(\mu_1,\sigma_1^2;\mu_2,\sigma_2^2;\rho)$。
      • $f(x,y) = \dfrac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}} \exp\left( -\dfrac{1}{2(1-\rho^2)} \left[ \dfrac{(x - \mu_1)^2}{\sigma_1^2} - \dfrac{2\rho(x - \mu_1)(y - \mu_2)}{\sigma_1\sigma_2} + \dfrac{(y - \mu_2)^2}{\sigma_2^2} \right] \right)$。
      • 对于更高维的随机变量，设随机向量 $\boldsymbol X \sim N(\boldsymbol \mu,\Sigma)$，则 $f(\boldsymbol x) = \dfrac{1}{2\pi\sqrt{|\Sigma|}} \exp \left( -\dfrac{(\boldsymbol x - \boldsymbol \mu)^{\mathrm T} \Sigma^{-1} (\boldsymbol x - \boldsymbol \mu)}{2} \right)$。
      • 二维情况的矩阵形式，$\boldsymbol \mu = \begin{bmatrix} \mu_1 \\ \mu_2 \end{bmatrix},\Sigma = \begin{bmatrix} \sigma_1^2 & \rho \sigma_1\sigma_2 \\ \rho \sigma_1\sigma_2 & \sigma_2^2 \end{bmatrix}$。
• 边缘分布函数
  • 定义
    • $X,Y$ 是随机变量，分布函数分布为 $F_X(x),F_Y(y)$，它们分别是 $(X,Y)$ 关于 $X,Y$ 的边缘分布函数。
    • $F_X(x) = F(x,+\infty),F_Y(y) = F(+\infty, y)$。
    • 由联合分布可以确定边缘分布，反过来不行。
  • 离散型随机变量
    • $P(X=x_i) = \sum\limits_{j = 1}^{+\infty} p_{ij}$，$P(Y=y_j) = \sum\limits_{i = 1}^{+\infty} p_{ij}$。
  • 连续型随机变量
    • $f_X(x) = \displaystyle\int_{-\infty}^{+\infty} f(x,y)\mathrm dy$，$f_Y(y) = \displaystyle\int_{-\infty}^{+\infty} f(x,y)\mathrm dx$。
    • 对于二维正态分布 $(X,Y) \sim N(\mu_1,\sigma_1^2;\mu_2,\sigma_2^2;\rho)$，则 $X \sim N(\mu_1,\sigma_1^2),Y \sim N(\mu_2,\sigma_2^2)$。
• 独立性
  • 定义
    • 设二维随机变量 $(X,Y)$，如果 $F(x,y) = F_X(x)F_Y(y)$，则 $X,Y$ 独立。
    • $X,Y$ 独立时，可以根据其边缘分布函数确定联合分布函数。
  • 离散型随机变量
    • 对于任意 $x,y$ 都有 $P(X=x,Y=y) = P(X=x)P(Y=y) \iff X,Y$ 相互独立。
  • 连续型随机变量
    • 对于任意 $x,y$ 都有 $f(x,y) = f_X(x)f_Y(y) \iff X,Y$ 相互独立。
    • 区域为边平行坐标轴的矩形的二维均匀分布 $(X,Y)$ 有 $X,Y$ 相互独立。
    • $\rho = 0 \iff$ 二维正态分布 $(X,Y)$ 有 $X,Y$ 相互独立。
• 随机变量函数
  • 离散型随机变量
    • 已知 $Z=g(X,Y)$，则 $P(Z=z_k) = \displaystyle\sum_{g(x_i,y_j)=z_k} P(X = x_i,Y = y_j)$。
  • 连续型随机变量
    • 已知 $Z=g(X,Y)$，则 $F_Z(z)=P(g(X,Y)\le z_k) =\displaystyle \iint_{g(x,y)\le z_k} f(x,y)\mathrm dx\mathrm dy$。
    • 若 $Z=X+Y$，则 $f_Z(z) = \displaystyle\int_{-\infty}^{+\infty} f(x,z-x)\mathrm dx = \int_{-\infty}^{+\infty} f(z-y,y)\mathrm dy$。
    • 若 $Z=\max\{X,Y\}$，且 $X,Y$ 独立，则 $F_Z(z)=F_X(x)F_Y(y)$。
    • 若 $Z=\min\{X,Y\}$，且 $X,Y$ 独立，则 $F_Z(z)=1-(1-F_X(x))(1-F_Y(y))$。