3.1節 基本概念
著者:梅谷 武
語句:試行,事象,根元事象,標本点,標本空間,確率,確率空間,確率変数,ほとんど確実,平均値,期待値,分散,分布関数,分布,分布関数,離散的,連続,密度関数,結合分布,周辺分布,条件付確率
コルモゴロフ流の現代確率論において、具体的な現象からその確率モデルを構築するための手順とそれに必要な基本概念について述べる。
作成:2012-01-14
更新:2021-04-03
3.1 基本概念
3.1.1 確率空間
 現代確率論に基づく確率モデルを構築する方法を具体的に示した数学書は少ない。数学書という制約のため、応用に紙数を割くのが難しいのであろう。したがって、具体的な応用について学ぶには他の文献を読まなければならない。しかし、その制約の中でもコルモゴロフの原典[1]の第1章§2「現実世界との関連付け」と、伊藤清が戦時中に執筆した[2]の第1章§2「確率空間の実際的意味」は、いずれもこの分野の先駆者が自分の言葉で書いたものであり、一見の価値がある。
 本書では第4章4.4節「幾何分布」と第6章6.1節「Poisson過程」において、具体的な無限試行に対応する確率空間を構成しているが、これらは小谷眞一『測度と確率』[3]第3章§3.4「直積測度」における可算無限個の直積測度による。離散的な現象では、ほとんどすべてこの無限直積測度で目的を達することができる。
 以下に確率空間を作るための大まかな手順を示す。

Step 1. 測る方法を与える。

 考察の対象に対して、まずその対象を測る方法を与える。対象を測る行為を試行しこう, trialという。事象じしょう, eventとは試行の結果として起こる現象のことである。事象は数や記号として表現される。その表現のそれ以上分離できない単位を根元事象こんげんじしょう, elementary eventあるいは標本点ひょうほんてん, sample pointという。

Step 2. 標本空間を定める。

 根元事象のすべての集合Ωを確定する。これを標本空間ひょうほんくうかん, sample spaceという。

Step 3. 事象族を定める。

 一般的な事象は標本空間の部分集合として表現される。標本空間が有限のときは、そのすべての部分集合からなる族を事象と考える。標本空間が無限のときは、その部分集合から成るσ-加法族Fを定め、それに属する部分集合を事象と考える。
 標本空間とその上の事象族を定めることにより可測空間(Ω,F)ができる。

Step 4. 確率測度を定める。

 各事象について、何らかの手段でそれが起こる確率を定める。事象の確率かくりつ, probabilityとは、その事象の起こりやすさを他の事象と比較した相対的数値として表現するものである。数学的には事象族上の実関数であり、確率の持つ性質から確率測度であることが要請される。
 事象の確率は可測空間(Ω,F)上の確率測度Pとして表現されなければならない。

定義3.1.1.14 確率空間

 標本空間Ω、Ω上の事象族であるσ-加法族F、事象の確率を定める可測空間(Ω,F)上の確率測度Pの組(Ω,F,P)のことを確率空間かくりつくうかん, probability spaceという。
 現象の確率論的考察は、その現象を適切に表現する確率空間を作ることから始まる。
 確率空間(Ω,F,P)における確率測度PはP(Ω) = 1なる測度と定義されているが、事象A ∈ Fの確率は
P(A)
P(Ω)
という比であるから、理論構成上はP(Ω) ＜ ∞となる有限な測度としても本質的な問題はない。
3.1.2 確率変数
 伊藤清は[2]において「確率変数とは標識である」と述べている。確率変数Xは試行結果から考察の対象となる性質を抽出する。試行の結果として根元事象ωが生じ、それがその確率変数固有の方法で計算された標識X(ω)に写される。すなわち、事象空間上で定義された関数である。標識として実数を利用すれば実関数と考えることができる。この場合、確率空間上の問題をBorel空間(ℝ,B1)上の話に帰着させることができる。例えば法則収束は確率空間上の収束ではなくLebesgue空間上の収束を考えている。
 これは優れた方法である反面、確率空間が理論上も必要が無いような錯覚に陥る危険性を秘めている。確率論の入門書においては、確率空間が放逐され、確率変数を通常の変数のように扱う傾向があるが、確率論を数学として学ぼうとするものにとっては、この初心者への配慮が逆に混乱をもたらすことになる。厳密な論理に基づいて具体的な確率モデルを考えたいときは、このような確率変数がもつ意味の二重性について十分に理解する必要がある。

定義3.1.2.3 確率変数

 確率空間(Ω,F,P)上の確率変数かくりつへんすう, random variableとは、(Ω,F)からある可測空間(S,M)へのF-M可測写像のことである。
 ほとんどの場合、値域の可測空間として(ℝ,B1)を考えるので、単に確率変数といえばℝ値であるものとする。
 確率変数は関数であって変数ではないが、習慣的にX,Yのように英大文字で変数のように記される。確率変数Xについて
X－1((a,∞]) = { ω ∈ Ω | X(ω) ＞ a } ∈ F
が成り立つが、この事象集合が
{ X ＞ a }
その確率が
P( X ＞ a )
と略記されることに注意が必要である。

定義3.1.2.6 ほとんど確実

 確率論的命題が確率1で成り立つとき、ほとんど確実ほとんどかくじつ, almost surelyに成り立つという。

定義3.1.2.7 平均値

 確率空間(Ω,F,P)上の確率変数Xが可積分のとき、平均値へいきんち, mean(または期待値きたいち, expectation)E[X]は次のように定義される。
E[X] ≡
∫ 
 
Ω
X(ω)P(dω)
, X ∈ L1

命題3.1.2.8

(ⅰ) E[X] ≦ E[X], X ∈ L1
(ⅱ) E[XY] ≦ E[Xp]1/pE[Yq]1/q, p,q＞1, 1/p + 1/q = 1, X∈Lp, Y∈Lq
(ⅲ) E[X + Yp]1/p ≦ E[Xp]1/p + E[Yp]1/p, p≧1, X,Y∈Lp

証明

E[Xp]1/p = Xpより。■

定義3.1.2.10 分散

 確率空間(Ω,F,P)上の確率変数Xが二乗可積分のとき、分散ぶんさん, varianceV[X]は次のように定義される。
V[X] ≡ E[(X － E[X])2], X ∈ L2

命題3.1.2.11

V[X] = E[X2] － E[X]2, X ∈ L2

証明

演習とする。■
 以後、確率変数や関数の可積分性については、必要に応じて暗黙裡に仮定することとし、文脈でわかるときには記さないことがある。

定理3.1.2.14 Chebyshevの不等式

 確率空間(Ω,F,P)上の確率変数Xと[0,∞)上の非負単調非減少可測関数fが与えられたとき、任意のε＞0について次が成り立つ。
P(|X|＞ε) ≦
E[f(|X|)]
f(ε)

証明

 A ≡ {ω∈Ω||X(ω)|＞ε }とおくと
P(|X|＞ε) =
∫ 
 
Ω
1A(ω) P(dω)
 ≦
∫ 
 
A
f(|X(ω)|)
f(ε)
 P(dω)
 ≦
∫ 
 
Ω
f(|X(ω)|)
f(ε)
 P(dω)
■

系3.1.2.16 Chebyshevの不等式

(ⅰ)
P(|X|＞ε) ≦
E[|X|]
ε
(ⅱ)
P(|X － E[X]|＞ε) ≦
V[X]
ε2

証明

演習とする。■
3.1.3 分布
 確率空間(Ω,F,P)上の実確率変数Xは確率空間(ℝ,B1,μX)を定め、一般の確率空間上の問題を、性質がよくわかっている一次元のBorel測度の問題に帰着させることができる。さらにこの場合、事象族上の関数である確率測度は、通常の関数である分布関数として表現することができて、通常の解析学の手法をそのまま使うことができる。

命題3.1.3.2 分布関数の性質

 (ℝd,Bd)上の確率測度μにより、
F(x) ≡ μ((－∞,x]), x ∈ ℝ
により定義された関数Fは次の性質を満たす。
(ⅰ) (単調性) x ≦ y ⇒ F(x) ≦ F(y), x,y ∈ ℝ
(ⅱ) (右連続性) F(x + 0) = F(x), x ∈ ℝ
(ⅲ) limx→－∞F(x) = 0, limx→∞F(x) = 1
逆にこの三条件を満たす関数Fは、(ℝ,B1)上のある一意的に定まる確率測度μにより上のように表現される。このような関数を分布関数ぶんぷかんすう, distribution functionという。

証明

演習とする。■

命題3.1.3.4 分布

 確率空間(Ω,F,P)上の確率変数Xが与えられたとき、
μX(A) ≡ P(X－1(A)), A ∈ B1
は可測空間(ℝ,B1)上の確率測度となる。これを確率変数Xの分布ぶんぷ, distributionという。

証明

演習とする。■

定義3.1.3.6 分布関数

 確率空間(Ω,F,P)上の確率変数Xの分布μXに対する分布関数
FX(x) ≡ μX((－∞,x]) = P( X ≦ x ), x ∈ ℝ
を確率変数Xの分布関数ぶんぷかんすう, distribution functionという。
 確率変数Xの分布μXによる測度は、分布関数FXによるLebesgue-Stieltjes積分
μX(A) =
∫ 
 
A
μX(dx)
 =
∫ 
 
A
dFX(x)
で表わすことができる。

補題3.1.3.8

 確率空間(ℝ,B1,μ)において、μの分布をFとすると次が成り立つ。
μ(a) = F(a) － F(a － 0), a ∈ ℝ

証明

演習とする。■

定義3.1.3.10 離散測度

 可測空間(Ω,F)上の実測度μが離散的りさんてき, discreteであるとはμは恒等的に0でなく、ある可算集合D ∈ Ωが存在して
μ(A) = μ(A ∩ D), A ∈ F
が成り立つことである。

定義3.1.3.11 連続測度

 可測空間(Ω,F)上の実測度μが連続れんぞく, continuousであるとは、一点の測度がすべて零であること、すなわち
μ(ω) = 0, ω ∈ Ω
が成り立つことである。

命題3.1.3.12

 (ℝ,B1)上の確率測度が連続であることとその分布関数が連続であることは同値である。

証明

演習とする。■

定義3.1.3.14 密度関数

 確率空間(Ω,F,P)上の確率変数Xの分布μXがLebesgue測度に関して絶対連続であれば、Radon-Nikodymの定理から
μX(E) =
∫ 
 
E
g(x)dx
,  E ∈ B1
となる関数g ∈ L1(ℝ)が存在する。これを分布μXの密度関数みつどかんすう, densityという。

命題3.1.3.15

 確率空間(Ω,F,P)上の実確率変数Xと(ℝ,B1)上の実可測関数fが与えられたとき、合成関数f(X)は実確率変数となり次が成り立つ。
E[f(X)] =
∫ 
 
ℝ
f(x)μX(dx)

証明

 fがA ∈ B1の特性関数1Aのとき、
∫ 
 
Ω
(1A∘X)(ω)P(dω)
 = P(X-1(A)) = μX(A) =
∫ 
 
ℝ
1A(x)μX(dx)
が成り立つことから、fが非負単関数のときに成り立つことがわかり、そのことから非負単関数列の収束先である非負可測関数でも成り立つ。一般の可測関数については非負可測関数の差に分解すればよい。■

系3.1.3.17

m ≡ E[X] =
∫ 
 
ℝ
xdFX(x)
, V[X] =
∫ 
 
ℝ
(x － m)2dFX(x)

証明

演習とする。■
 一般に確率変数が無い場合でも、(ℝ,B1)上の確率測度のことを分布と呼ぶ。

定義3.1.3.20 分布の平均と分散

 一般に可測空間(ℝ,B1)上の確率測度μを(一次元)分布と呼び、確率空間(ℝ,B1,μ)上の確率変数X(x) = xの平均と分散により、分布の平均と分散を定義する。
m ≡
∫ 
 
ℝ
xμ(dx)
, σ2 ≡
∫ 
 
ℝ
(x － m)2μ(dx)

定義3.1.3.21 結合分布

 確率空間(Ω,F,P)上のd個のℝ値確率変数X1,⋯,Xdから構成されるℝd値確率変数X = (X1, ⋯, Xd)を結合分布けつごうぶんぷ, joint distributionという。このとき各Xiの分布を周辺分布しゅうへんぶんぷ, marginal distributionという。
 結合分布X = (X1, ⋯, Xd)についても
μX(A) ≡ P(X－1(A)), A ∈ Bd
は可測空間(ℝd,Bd)上の確率測度となる。これをXの分布という。

命題3.1.3.23

 確率空間(Ω,F,P)上のℝd値確率変数X = (X1, ⋯, Xd)と (ℝd,Bd)上の実可測関数fが与えられたとき、合成関数f(X)は実確率変数となり次が成り立つ。
E[f(X)] =
∫ 
 
ℝd
f(x)μX(dx)

証明

一次元の場合と同様。■
3.1.4 条件付確率

定義3.1.4.1 条件付確率

 確率空間(Ω,F,P)において、Ωの任意の事象A,Bについて、
P(B|A) ≡ lc72
P(A∩B)
P(A)
,
P(A)
≠
0
1B,
P(A)
=
0
をAのもとにおけるBの条件付確率じょうけんつきかくりつ, conditional probabilityという。

命題3.1.4.2

 上の仮定のもとで次が成り立つ。
(ⅰ) P(A∩B) = P(A)P(B|A)
(ⅱ) P( ∙|A)は(Ω,F)上の確率測度である。

証明

演習とする。■

命題3.1.4.4

 確率空間(Ω,F,P)において、Ωの分割
Ω = A1 + ⋯ + An
すなわち
Ω =
n
∪
i = 1
Ai
, Ai ≠ Aj = ∅ (i ≠ j)
が与えられたとき、次が成り立つ。
P(B) =
n
∑
i = 1
P(Ai)P(B|Ai)
, ∀ B ∈ F

証明

演習とする。■

定理3.1.4.6 Bayes

 確率空間(Ω,F,P)において、Ωの分割
Ω = A1 + ⋯ + An
が与えられたとき、次が成り立つ。
P(Ak|B) =
P(Ak)P(B|Ak)
n
∑
i = 1
P(Ai)P(B|Ai)
, ∀ B ∈ F

証明

演習とする。■
3.1.5 参考文献
[1] A.N.コルモゴロフ, 確率論の基礎概念 (ちくま学芸文庫), 筑摩書房, 2010
img
 
 
[2] 伊藤 清, 確率論の基礎 新版, 岩波書店, 2004
img
 
 
[3] 小谷眞一, 測度と確率, 岩波書店, 2005
img
 
 
数　　学
試行 しこう, trial
事象 じしょう, event
根元事象 こんげんじしょう, elementary event
標本点 ひょうほんてん, sample point
標本空間 ひょうほんくうかん, sample space
確率 かくりつ, probability
確率空間 かくりつくうかん, probability space
確率変数 かくりつへんすう, random variable
ほとんど確実 ほとんどかくじつ, almost surely
平均値 へいきんち, mean
期待値 きたいち, expectation
分散 ぶんさん, variance
分布関数 ぶんぷかんすう, distribution function
分布 ぶんぷ, distribution
分布関数 ぶんぷかんすう, distribution function
離散的 りさんてき, discrete
連続 れんぞく, continuous
密度関数 みつどかんすう, density
結合分布 けつごうぶんぷ, joint distribution
周辺分布 しゅうへんぶんぷ, marginal distribution
条件付確率 じょうけんつきかくりつ, conditional probability