公開日 :
更新日 :

離散確率分布

離散確率分布

確率変数 \(X\) が \(\mathcal{X} = {x_1, x_2, … }\) 上に値をとるとし、\(p(x_i) = P(X = x_i)\) とおく。
\(p(x_i)\) が

$$p(x_i) \geq 0, \, \sum_{i = 1}^{\infty} p(x_i) = 1$$

を満たすとき、\(p(x_i)\) を確率質量関数(単に確率関数)と呼ぶ。
また、実数 \(x\) に対して \(X \leq x\) となる確率を累積分布関数(単に分布関数)と呼び、\(F(x) = P(X \leq x)\) と書く。

\(X\) の確率関数が \(p(x_i)\) のとき、\(X\) は確率関数 \(p(x_i)\) の離散確率分布に従うといい、
\(X \sim p(x_i), X \sim F(x)\) などのように表す。

離散確率変数の期待値と離散確率分布の平均

\(\sum_{i=1}^{\infty} |x_i|p(x_i)\) が有限のとき、\(X\) の期待値を

$$E[X] = \sum_{i=1}^{\infty} x_i p(x_i)$$

で定義する。
また、\(\mu = E[X]\) を \(X\) の確率分布を平均という。

離散確率分布の分散

\(\sum_{i=1}^{\infty} |x^{2}_{i}|p(x_i)\) が有限のとき、

$$\rm{Var}(X) = \sum_{i=1}^{\infty} (x_i\,-\,\mu)^{2} p(x_i)$$

を \(X\) の確率分布を分散と呼び、\(\sigma^2\) で表す。
また、\(\mu = E[X]\) を \(X\) の確率分布を平均という。

また、\(\sqrt{\rm{Var(X)}}\) を標準偏差と呼び、\(\sigma\) もしくは \(\rm{SD} (X)\) で表す。

期待値の一般的な定義と性質

一般に、\(X\) の関数 \(g(X)\) の期待値は、\(\sum_{i=1}^{\infty}|g(x_i)| p(x_i)\) が有限のとき、

$$E[g(X)] = \sum_{i=1}^{\infty} g(x_i)p(x_i)$$

で定義される。
\(E[|h(X)|]\) が有限となる関数 \(h(X)\) と定数 \(a, b\) に対して、次の等式が成り立つ。

  1. \(E[ag(X)+bh(X)] = aE[g(X)]+bE[h(X)]\)
  2. \(E[a] = a\)

分散の計算方法

\(X\) の分散は次のように変形できる。

$$\rm{Var}(X) = E{X^2}-(E[X])^2$$

ベルヌーイ分布の平均・分散

ベルヌーイ分布 \(Ber(p)\) に従う確率変数 \(X\) の平均と分散は、次で与えられる。

$$E[X] = p, \, \rm{Var}(X) = p(1 \,-\, p)$$

2項分布の平均・分散

2項分布 \(Bin(n,p)\) に従う確率変数 \(X\) の平均と分散は、次で与えられる。

$$E[X] = np, \, \rm{Var}(X) = np(1 \,-\, p)$$

ポアソン分布の平均・分散

ポアソン分布 \(Po(\lambda)\) に従う確率変数 \(X\) の平均と分散は等しく、次で与えられる。

$$E[X] = np, \, \rm{Var}(X) = np(1 \,-\, p)$$

小数法則

\(np = \lambda\) が一定の下で \(p \rightarrow 0, n \rightarrow \infty \) とすると、2項分布 \(Bin(n,p)\) はポアソン分布 \(Po(\lambda)\) に収束する。

幾何分布の平均・分散

幾何分布 \(Geo(p)\) に従う確率変数 \(X\) の平均と分散は、\(q = 1\,-\,p\) に対して次で与えられる。

$$E[X] = \frac{q}{p}, \, \rm{Var} (X) = \frac{q}{p^2}$$

幾何分布の無記憶性

\(m\) と \(n\) を非負の整数とし、\(X\) が幾何分布 \(Geo(p)\) に従うとき。

$$P(X \geq m + n | X \geq m) = P(X \geq n)$$

が成り立つ。