联合概率,条件概率和编辑概率的概念
离散分布
对于离散分布来说,联合概率、编辑概率的解释如下表所示:
$Y$↓ / $X$ → | $X_1$ | $X_2$ | $X_3$ | $X_4$ | $P_Y(Y)$ |
---|---|---|---|---|---|
$Y_1$ | $\frac{4}{32}$ | $\frac{2}{32}$ | $\frac{1}{32}$ | $\frac{1}{32}$ | $\frac{8}{32}$ |
$Y_1$ | $\frac{2}{32}$ | $\frac{4}{32}$ | $\frac{1}{32}$ | $\frac{1}{32}$ | $\frac{8}{32}$ |
$Y_1$ | $\frac{2}{32}$ | $\frac{2}{32}$ | $\frac{2}{32}$ | $\frac{2}{32}$ | $\frac{8}{32}$ |
$Y_1$ | $\frac{8}{32}$ | $0$ | $0$ | $0$ | $\frac{8}{32}$ |
$P_x(X)$ → | $\frac{16}{32}$ | $\frac{8}{32}$ | $\frac{4}{32}$ | $\frac{4}{32}$ | $\frac{32}{32}$ |
在这个表格中,单元格内$\left[ 2,2 \right]$到$\left[ 5,5 \right]$共16个概率值,为$X,Y$的联合概率分布,第6列,$P_Y(Y)
$为$Y$的边际概率,第6列,$P_X(X)$为$X$的边际概率。
联合概率的意义为:
在两个互不独立(相关)的随机事件,一个发生时,另一个发生的概率。
联合概率、边际概率、条件概率的关系:
$$
P(X=x) = \sum_y P(X=x, Y=y) = \sum_y P(X=x | Y=y)P(Y=y)
\tag{1}
$$
条件概率的公式如下:
$$
P(X=x|Y=y) = \frac{P(X=x,Y=y)}{P(Y=y)}
\tag{2}
$$
连续分布
将离散分布中的求和符号$\sum$换为积分符号$\int$即可:
$$
P(X=x) = \int_y P(x=x,Y=y) = \int_y P(X=x|Y=y)P(Y=y)
\tag{3}
$$
结论
不管是离散分布还是连续分布,都有:
$$
\sum_x \sum_y P(X=x, Y=y) = 1
\tag{4}
$$
$$
\int_x \int_y P(X=x, Y=y) = 1
$$
联合概率,条件概率和编辑概率的概念