確率の乗法定理
確率の乗法定理は、複数の事象の同時確率が条件付き確率により計算されることを示す定理です。
確率の乗法定理は、条件付き確率の定義から直ちに導かれる基本的な関係式です。しかしながら、その数学的意義は大きく、確率論や統計学において重要な役割を果たします。
確率の乗法定理
ここでは、確率の乗法定理とその一般形を示します。
定理 1.9(確率の乗法定理)
任意の $2$ つの事象 $A, B$ について、次が成り立つ。
解説
乗法定理とは
確率の乗法定理は、 条件付き確率の定義から直ちに導かれる基本的な関係式です。
乗法定理の意味
定理 1.9(確率の乗法定理)は、$2$ つの事象の 同時確率が 条件付き確率の積により表せることを示しています。
(1.2.9)式より、「事象 $A$ と $B$ の同時確率」(左辺)は、「事象 $A$ の起こる確率」と「事象 $A$ を条件として事象 $B$ が起こる確率」の積(右辺)に等しくなります。
ここで、「事象 $A$ を条件として事象 $B$ が起こる確率」とは、事象 $A$ が起こったとわかった上で 事象 $B$ が起こる確率に他なりません( 条件付き確率の定義)。したがって、 (1.2.9)式の右辺は、事象 $A$ が起こり、かつ(事象 $A$ が起こったとわかった上で)事象 $B$ が起る確率を意味しています。これが、事象 $A$ と $B$ の同時確率(事象 $A$ と事象 $B$ がともに起こる確率)に等しくなるのは、当然といえます。
(1.2.10)式についても同様です。すなわち、「事象 $A$ と $B$ の同時確率」(左辺)は、「事象 $B$ の起こる確率」と「事象 $B$ を条件として事象 $A$ が起こる確率」の積(右辺)に等しくなります。
なお、同時確率と条件付き確率の違いは、次の通りです( 前項を参照)。
乗法定理の直感的な理解
定理 1.9(確率の乗法定理)は、直感的には、$2$ つの事象の 同時確率を段階的に計算するものと理解できます。
つまり、事象 $A$ と $B$ の同時確率 $P(A \cap B)$ は、次の $2$ 段階に分けて計算できるということです。
- まず、事象 $A$ が起こる:$P(A)$
- 次に、(事象 $A$ が起こったとわかった上で)事象 $B$ が起こる:$P(B \mid A)$
このことから、 定理 1.9(確率の乗法定理)は、情報の更新に基づいて、段階的に確率を計算する枠組みを与えるものと捉えることもできます。
乗法定理の導き方
定理 1.9(確率の乗法定理)は、 条件付き確率の定義から直ちに導けます。
すなわち、事象 $A$ を条件とする事象 $B$ の条件付き確率の定義式を変形することで (1.2.9)式が得られます。
同様に、事象 $B$ を条件とする事象 $A$ の条件付き確率の定義式を変形することで (1.2.10)式が得られます。
乗法定理の前提:$P(A), P(B) \gt 0$
定理 1.9(確率の乗法定理)の前提として、$P(A), P(B) \gt 0$ である必要があります。
(1.2.9)式や (1.2.10)式の右辺に 条件付き確率が現れる以上、 条件付き確率が定義されるための条件を満たす必要があるためです( 前項を参照)。
確率の定義より、任意の確率の値は $0 \leqslant P(A) \leqslant 1$ に規格化されています。したがって、$0 \lt P(A)$ という条件は、$P(A) \neq 0$ と言い換えることができます。$P(A) = 0$ の場合を除くともいえます。
すなわち、 定理 1.9(確率の乗法定理)は($P(A) = 0$ となるような)起こり得ない事象に対しては適用できないということです。
乗法定理の重要性
定理 1.9(確率の乗法定理)は、 条件付き確率の定義から直ちに導かれる基本的な関係式です。しかしながら、その数学的意義は大きく、確率論や統計学において重要な役割を果たします。
定理 1.9(確率の乗法定理)は、(次項に示す)事象の独立性の定義を与えるとともに、ベイズの定理やマルコフ連鎖といったより高度な概念を導入する際の基礎となります。また、複数の事象が同時に起こりうる確率を体系的に扱うための出発点であり、多段階試行のような複雑な確率計算において役立つ計算規則でもあります。ベイズ統計学や、機械学習、統計的推論といった幅広い分野の基礎としても利用されます。
このような意味で、 定理 1.9(確率の乗法定理)は、確率論・統計学の理論的発展と実践的応用を支える重要な土台となっています。
定理 1.10(確率の乗法定理(一般形))
任意の事象 $A_{1}, \cdots, A_{n}$ について、次が成り立つ。
解説
乗法定理の一般形
定理 1.10(確率の乗法定理(一般形))は、$2$ つの事象について成り立つ 定理 1.9(確率の乗法定理)を一般化したものです。
すなわち、$n$ を自然数として、一般に $n$ 個の事象の 同時確率が 条件付き確率の積により表せることを示しています。
ここで、 (1.2.11)式の左辺は、$n$ 個の事象の同時確率を表しています。
$A_{1}, \cdots, A_{n}$ を部分集合(正確には 可算加法族の要素)と考えると、$\displaystyle\bigcap_{i}^{n} A_{i}$ は、$n$ 個の部分集合の共通部分を表しています。
直感的な理解
定理 1.10(確率の乗法定理(一般形))は、 定理 1.9(確率の乗法定理)と同様に、複数の事象の 同時確率を段階的に計算するものと理解できます。
このことは、$n$ が小さな場合を考えるとよくわかります。
($1$)$n = 1$ の場合
$n = 1$ のとき、 (1.2.11)式は、次のような式になります。
この式が成り立つのは自明です。しかしながら、定理としての意味はあまり無いです。
($2$)$n = 2$ の場合
$n = 2$ のとき、 (1.2.11)式は、次のような式になります。
当然ながら、 定理 1.9(確率の乗法定理)と同じ式になります。
また、この式は、事象 $A_{1}$ と $A_{2}$ の同時確率を、次のように $2$ 段階に分けて計算するものと考えられます( 乗法定理の直感的な理解を参照)。
- 事象 $A_{1}$ が起こる:$P(A_{1})$
- (事象 $A_{1}$ が起こったとわかった上で)事象 $A_{2}$ が起こる:$P(A_{2} \mid A_{1})$
($3$)$n = 3$ の場合
$n = 3$ のとき、 (1.2.11)式は、次のようになります。
($2$)$n = 2$ の場合と同様に、この式は、事象 $A_{1}, A_{2}, A_{3}$ の同時確率を、次のように段階的に計算するものと考えられます。
- 事象 $A_{1}$ が起こる:$P(A_{1})$
- (事象 $A_{1}$ が起こったとわかった上で)事象 $A_{2}$ が起こる:$P(A_{2} \mid A_{1})$
- (事象 $A_{1}$ と $A_{2}$ が起こったとわかった上で)事象 $A_{3}$ が起こる:$P(A_{3} \mid A_{1} \cap A_{2})$
($4$)$n = 4$ の場合
$n = 4$ のとき、 (1.2.11)式は、次のようになります。
($2$)$n = 2$ の場合や ($3$)$n = 3$ の場合と同様に、この式は、事象 $A_{1}, A_{2}, A_{3}, A_{4}$ の同時確率を、次のように段階的に計算するものと考えられます。
- 事象 $A_{1}$ が起こる:$P(A_{1})$
- (事象 $A_{1}$ が起こったとわかった上で)事象 $A_{2}$ が起こる:$P(A_{2} \mid A_{1})$
- (事象 $A_{1}$ と $A_{2}$ が起こったとわかった上で)事象 $A_{3}$ が起こる:$P(A_{3} \mid A_{1} \cap A_{2})$
- (事象 $A_{1}$ と $A_{2}$ と $A_{3}$ が起こったとわかった上で)事象 $A_{4}$ が起こる:$P(A_{4} \mid A_{1} \cap A_{2} \cap A_{3})$
$n = 5$ 以降も、同様の考え方が成り立ちます。
一般形の導き方
定理 1.10(確率の乗法定理(一般形))は、$2$ つの事象に関する 定理 1.9(確率の乗法定理)を繰り返し適用することで導けます。
具体的には、下記の 証明を参照ください。
証明(定理 1.10)
まず、$n = 1$ のとき (1.2.11)式が成り立つのは明らか。次に、$n \geqslant 2$ として、$n - 1$ のとき (1.2.11)式が成り立つとすると、
いま、$\displaystyle\bigcap_{i}^{n} A_{i} = \Big(\displaystyle\bigcap_{i}^{n-1} A_{i} \Big) \cap A_{n}$ であるから、 定理 1.9(確率の乗法定理)より、次が成り立つ。
以上から、すべての $n$ について (1.2.11)式が成り立つ。$\quad \square$
証明の考え方
数学的帰納法を用います。($1$)$n = 1$ の場合は自明です。($2$)$n \geqslant 2$ の場合、 定理 1.9(確率の乗法定理)を繰り返し適用することで証明できます。
(1)$n = 1$ の場合
$n = 1$ のとき、 (1.2.11)式は、次のような式になります。
$$ \begin{align*} \tag{$\ast 1$} P (A_{1}) = P(A_{1}) \end{align*} $$これが成り立つのは自明といえます。
(2)$n \geqslant 2$ の場合
(2-1)考え方: 定理 1.9(確率の乗法定理)の繰り返し
- $n$ が小さい場合($n = 2, 3$)について考え、証明の見通しを立てます。
$n = 2$ のとき
$2$ つの事象の同時確率 $P(A_{1} \cap A_{2})$ は、次のように求められます。
$$ \begin{align*} \tag{$\ast 2$} P (A_{1} \cap A_{2}) = P(A_{1}) \, P(A_{2} \mid A_{1}) \end{align*} $$これは、 定理 1.9(確率の乗法定理)から明らかといえます。
$n = 3$ のとき
$3$ つの事象の同時確率 $P(A_{1} \cap A_{2} \cap A_{3})$ は、次のように求められます。
$$ \begin{align*} P(A_{1} \cap A_{2} \cap A_{3}) &\overset{(\text{i})}{=} P \big( (A_{1} \cap A_{2}) \cap A_{3} \big) \\ &\overset{(\text{ii})}{=} P(A_{1} \cap A_{2}) \, P \big(A_{3} \mid (A_{1} \cap A_{2}) \big) \\ &\overset{(\text{iii})}{=} P(A_{1}) \, P(A_{2} \mid A_{1}) \, P (A_{3} \mid A_{1} \cap A_{2}) \tag{$\ast 3$} \end{align*} $$- ($\text{i}$)$A_{1} \cap A_{2} \cap A_{3}$ を $A_{1} \cap A_{2}$ と $A_{3}$ に分けて考えます。
- ($\text{ii}$)$A_{1} \cap A_{2}$ と $A_{3}$ の同時確率について、 定理 1.9(確率の乗法定理)を適用します。
- ($\text{iii}$)$A_{1}$ と $A_{2}$ の同時確率については、上記の ($\ast 2$)式が成り立ちます。これも、 定理 1.9(確率の乗法定理)を根拠とするものです。
$n \gt 3$ のときも、同様の考え方が成り立つと考えられます。
すなわち、複数の事象を $2$ つに分けて、 定理 1.9(確率の乗法定理)を繰り返し適用できる形にすると見通しが良いということです。
(2-2)帰納法の仮定:$n-1$ のとき
- $n - 1$ のとき、
(1.2.11)式が成り立つと仮定します。$$ \begin{align*} \tag{$\ast \ast$} P \Big(\bigcap_{i}^{n-1} A_{i} \Big) = P(A_{1}) \, P(A_{2} \mid A_{1}) \cdots P(A_{n-1} \mid A_{1} \cap \cdots \cap A_{n-2}) \end{align*} $$
(2-3)帰納法による導出:$n$ のとき
このとき、$P \Big(\displaystyle\bigcap_{i}^{n} A_{i} \Big)$ は、次のように求められます。
$$ \begin{align*} P \Big(\bigcap_{i}^{n} A_{i} \Big) &\overset{(\text{i})}{=} P \bigg( \Big( \bigcap_{i}^{n-1} A_{i} \Big) \cap A_{n} \bigg) \\ &\overset{(\text{ii})}{=} P \Big(\bigcap_{i}^{n-1} A_{i} \Big) \; P \Big( A_{n} \, \Big| \, \bigcap_{i}^{n-1} A_{i} \Big) \\ &\overset{(\text{iii})}{=} P(A_{1}) \, P(A_{2} \mid A_{1}) \cdots P(A_{n} \mid A_{1} \cap \cdots \cap A_{n-1}) \vphantom{\Bigg(\Bigg)} \\ \end{align*} $$($\text{i}$)$A_{1} \cap \cdots \cap A_{n}$ を、$A_{1} \cap \cdots \cap A_{n-1}$ と $A_{n}$ に分けて考えます。すなわち、次が成り立ちます。
$$ \begin{align*} \bigcap_{i}^{n} A_{i} = \Big(\bigcap_{i}^{n-1} A_{i} \Big) \cap A_{n} \end{align*} $$($\text{ii}$)$\displaystyle\bigcap_{i}^{n-1} A_{i}$ と $A_{n}$ の同時確率について、 定理 1.9(確率の乗法定理)を適用します。
($\text{iii}$)$(n-1)$ 個の事象の同時確率 $P \Big(\displaystyle\bigcap_{i}^{n-1} A_{i} \Big)$ については、帰納法の仮定による ($\ast \ast$)式が成り立ちます。
上記の ($\text{iii}$)式は、$n$ のときの (1.2.11)式に他なりません。つまり、$n$ のときも (1.2.11)式が成り立つということです。
証明のまとめ
- 以上から、数学的帰納法により、すべての自然数 $n$ について (1.2.11)式が成り立つことが示されました。
参考文献
[1] 舟木直久. 確率論. 朝倉書店. 2004.
[2] 縄田和満. 確率・統計 $\text{I}$. 丸善出版. 2013.
[3] 小針晛宏. 確率・統計入門. 岩波書店. 1973.
[4] 真貝寿明. 徹底攻略 確率統計. 共立出版. 2012.
[5] 東京大学教養学部統計学教室 編. 統計学入門. 東京大学出版会. 1991.
[6] W. Feller. An Introduction to Probability Theory and Its Applications. John Wiley & Sons, Inc.. 1968.
[7] Robert B. Ash. Basic Probability Theory. Dover Publications, Inc.. 2008.
[8] G. Andrews. Special Functions. Cambridge University Press. 1999.
[9] 杉浦光夫. 解析入門 $\text{I}$. 東京大学出版会. 1980.
[10] 吉田伸生. [新装版] ルベーグ積分入門. 日本評論社. 2021.