Chapter 4 Multidimensional Random Variable

$X_1(e),X_2(e),…,X_n(e)$定义在同一样本空间$S$上的$n$个随机变量，称$X_1(e),X_2(e),…,X_n(e)$为$n$维随机变量，简记为$(X_1,…,X_n)$.

$$F(x,y)=P(X\le x,Y\le y),-\infty \le x,y \le+\infty$$
其中，$P(X\le x,Y\le y)$代表$(X\le x)\cap(Y\le y)$同时发生

• 分布函数的性质
  1. 对任意实数$x,y$，$0\le F(x,y)\le 1$.
  2. $F(x_1,y)\le F(x_2,y),x_1<x_2,y任意$
     $F(x_1,y)\le F(x_2,y),x_1<x_2,y任意$
  3. $\forall x,y,$
     $F(-\infty,y)=\underset{x\rightarrow -\infty}\lim F(x,y)=0$
     $F(x,-\infty)=\underset{y\rightarrow -\infty}\lim F(x,y)=0$
     $F(-\infty,-\infty)=\underset{x,y\rightarrow -\infty}\lim F(x,y)=0$
     $F(+\infty,+\infty)=\underset{x,y\rightarrow +\infty}\lim F(x,y)=1$
  4. $F(x,y)$右连续
  5. $\forall x_1\le x_2,y_1\le y_2,$,
     $$P(x_1<X\le x_2, y_1Y\le y_2)=F(x_2,y_2)-F(x_2,y_1)-F(x_1,y_2)+F(x_1,y_1)\ge 0$$

$X$,$Y$各自的分布函数$F_X(x),F_Y(y)$为$F(x,y)$的边缘分布函数
$F_X(x)=P(X\le x)=P(X\le x,Y<+\infty )=F(x,+\infty)=\underset{y\rightarrow+\infty}\lim F(x,y)$
$F_Y(y)=P(Y\le y)=P(Y\le y,X<+\infty )=F(+\infty,y)=\underset{x\rightarrow+\infty}\lim F(x,y)$

$(X,Y)$的所有可能取值是有限对或可列无限多对，则称$(X,Y)$为二维离散型随机变量

分布列

边缘分布列
设离散型随机变量$(X,Y)$的分布列：$P(X=x_i,Y=y_j)=p_{ij},(i,j=1,2,…)$
$$P(X=x_i)=\sum^{+\infty}_{j=1} P(X=x_i,Y=y_j)=\sum_{j=1}^{+\infty} p_{ij}=p_{i\cdot}$$
$$P(Y=y_j)=\sum^{+\infty}_{i=1} P(X=x_i,Y=y_j)=\sum_{i=1}^{+\infty} p_{ij}=p_{\cdot j}$$

联合分布可以推出边缘分布，仅靠边缘分布不能推出联合分布

$(X,Y)$的分布函数$F(X,Y)$，若$\exists f(x,y)\ge 0$, s.t.$\forall x,y\in \mathbb{R}$, 有
$$F(x,y)=\int_{-\infty}^{x} \int_{-\infty}^{y} f(u,v)dudv$$
称$(X,Y)$为二维连续型随机变量，称$f(x,y)$为其概率密度

$f(x,y)\ge 0$

$$\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}f(x,y)dxdy=F(+\infty,-\infty)=1$$

设$G$为$xOy$的一个区域，则$(X,Y)$落在$G$中的概率
$$P((X,y)\in G)=\iint_G f(x,y)dxdy$$

在$f(x,y)$的连续点，有
$$f(x,y)=\frac{{\partial}^2F(x,y)}{\partial x \partial y}$$

$$f_X(x)=\int_{-\infty}^{+\infty} f(x,y)dy$$
$$f_Y(y)=\int_{-\infty}^{+\infty} f(x,y)dx$$
推论：
$$F_X(x)=F(x,+\infty)=\int_{-\infty}^x (\int_{-\infty}^{+\infty}f(u,v)dv)du=int_{-\infty}^xf_X(u)du$$

$$f(x,y)=\left\{\begin{aligned}\frac{1}{S(G)}, & &(x,y)\in G \newline 0,& & 其他 \newline \end{aligned}\right.$$

二维正态分布
$$f(x,y)=\frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}\exp\left(-\frac1{2(1-\rho^2)}\cdot(\frac{x-\mu_1)^2}{\sigma_1^2}-2\rho\frac{(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2}+\frac{(y-\mu_2)^2}{\sigma_2^2})\right)$$
$(X,Y)\sim N(\mu_1,\mu_2;\sigma_1^2,\sigma_2^2;\rho)$
其边缘分布为对应的两个一维正态分布

$F(x,y)=F_X(x)F_Y(y)$,则称$X,Y$相互独立.

• $X,Y$为连续型 $\Leftrightarrow f(x,y)=f_X(x)f_Y(y)$
• $X,Y$为离散型 $\Leftrightarrow P(X-x_i,Y=y_j)=P(X=x_i)P(Y=y_j)$，即$p_{ij}=p_{i\cdot}p_{\cdot j}$
• 推论：设$(X,Y)\sim N(\mu_1,\mu_2;\sigma_1^2,\sigma_2^2;\rho)$，则$X,Y$相互独立的充要条件是$\rho=0$.

$X,Y$的分布列：$P(X=x_i,Y=y_j)=p_{ij},(i,j=1,2,…)$
则$Z=g(X,Y)$是一维离散型随机变量，$z_k=g(x_i,y_j)(k=1,2,…)$
$$P(Z=z_k)=P(g(X,Y)=z_k)=\sum_{g(X,Y)=z_k}P(X=x_i,Y=y_j),k=1,2,…$$

• 一些推论
  1. $X_1,…,X_n$独立且$X_i\sim P(\lambda_i)(i=1,2,…,n)$，
     则$X_1,…,X_n\sim P(\lambda_1+…+\lambda_n)$
  2. $X_1,…,X_n$独立且均服从$B(1,p)$,
     则$X_1,…,X_n\sim B(n,p)$
  3. $X_1,…,X_k$独立且$X_i\sim B(n_i,p)(i=i,2,…,k)$，
     则$X_1,…,X_n\sim B(n_1+…+n_k,p)$

$(X,Y)$，概率密度$f(x,y)$，$Z=g(x,y)$，求$f_Z(z),F_Z(z)$.

分布函数法
$$F_Z(z)=P(Z\le{z})=P\lbrace{g(X,Y)\le{z}}\rbrace=\iint_{g(x,y)\le{z}}f(x,y)dxdy$$

卷积公式
当$X,Y$独立时，$Z=X+Y$的概率密度公式.
$$f_Z(z)=\int_{-\infty}^{+\infty}f_X(x) f_Y(z-x)dx$$
$$f_Z(Z)=\int_{-\infty}^{+\infty}f_X(z-y)f_Y(y)dy$$

正态变量线性组合的分布
一般结论：$n$个读了正态变量的线性组合仍为正态分布
$\sum a_iX_i \sim N(\mu,\sigma^2)$
$\mu=\sum a_iX_i$
$\sigma^2=\sum a_i^2\sigma_i^2$

$M=\max(X,Y)$及$N=\min(X,Y)$的分布函数$F_M(z),F_N(z)$.

• $F_M(z)=F_X(z)F_Y(z)$
• $F_N(z)=1-[1-F_X(z)][1-F_Y(z)]$

一般情况
$$\begin{aligned}F_{\max}(z)&=\prod_{i=1}^n F_{X_i}(z)\newline F_{\min}(z)&=1-\prod_{i=1}^n [1-F_{X_i}(z)]\end{aligned}$$

$$\begin{aligned} P(X=x_i|Y=y_j)=\frac{P(X=x_i,Y=y_j)}{P(Y=y_j)},\newline i=1,2,…,\newline P(Y=y_j)>0\end{aligned}$$

离散型随机变量的条件分布列
设$P(X=x_i,Y=y_j)=p_{ij}$,
则
$$P(X=x_i|Y=y_j)=\frac{P(X=x_i,Y=y_j)}{P(Y=y_j)}=\frac{p_{ij}{p_[\cdot{j}]}},i=1,2,…$$
$$P(Y=y_j|X=x_i)=\frac{P(X=x_i,Y=y_j)}{P(X=x_i)}=\frac{p_{ij}{p_[x\cdot]}},i=1,2,…$$

条件分布与独立性

• 对离散型随机变量，$X,Y$独立的充要条件：
  $$\left\{\begin{aligned}P(X=x_i|Y=y_j)=P(X=x_i),i=1,2,… \newline P(Y=y_j|X=x_i)=P(Y=y_j),j=1,2,… \newline \end{aligned}\right.$$

条件分布函数
设$y$取定值，对$\forall\Delta{y}>0$，均有$P(y-\Delta{y}<Y\le{y+\Delta{y}})>0$，若
$$\lim_{\Delta{y}\leftarrow{0^+}}P(X\le{x}|y-\Delta{y}<Y\le{y+\Delta{y}})$$
存在，则称此极限为$Y=y$条件下$X$的分布函数，记为$F_{X|Y}(x|y)=P(X\le{x}|Y=y)=…$

连续型随机变量的条件概率密度
对固定$y,f_Y(y)>0$，在$Y=y$条件下
$$f_{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)}$$
$$f_{Y|X}(y|x)=\frac{f(x,y)}{f_X(x)}$$

条件分布与独立性

• 对连续型随机变量：$X,Y$独立的充要条件：
  $$\left\{\begin{aligned}f_{X|Y}(x|y)=f_X(x) \newline f_{Y|X}(y|x)=f_Y(y) \newline \end{aligned}\right.$$