6 母関数

Author

Ryo Nakagami

Published

2024-09-22

Modified

2024-10-19

確率分布を特徴づける関数として母関数という関数があります．母関数には確率母関数，積率母関数，特性関数，キュムラント母関数という種類があります．詳しくは後ほど説明しますが，母関数は全てのモーメントの情報を含んでいるので

モーメントの計算が簡単になる
母関数が一致する２つの分布は同じものと考えることができる

という数理統計学上便利な性質を母関数は持っています．

確率母関数

Def: 確率母関数(probability generating function)

確率変数 \(X\) の標本空間を非負の整数全体 \(\mathcal{X} = \{0, 1, 2, \cdots\}\) とし， \(p(k = \Pr(X=k))\) とする． \(\vert s\vert\leq 1\) となる \(s\) に対して，

\[ G_X(s) = \mathbb E[s^x] = \sum_{k=0}^\infty s^kp(k) \]

を確率母関数という．

\(p(x)\geq 0, \sum p(k)=1\) より \(\vert s\vert \leq 1\) の範囲で \(\sum_{k=0}^\infty s^kp(k)\) の収束が保証されるので，「\(\vert s\vert\leq 1\) となる \(s\) に対して」という条件が付きます．

▶ PGFと離散確率関数

PGFの定義より \(p(0) = G_X(0), p(1) = G_X^\prime(0), p(2) = \frac{1}{2!}G_X^{\prime\prime}(0)\) となります．一般に，

\[ p(k) = \frac{1}{k!}\frac{\mathrm{d}^k}{\mathrm{s}^k}G_X(s)\bigg|_{s=0} \]

また，\(G_X(s) = \sum_{k=0}^\infty s^kp(k)\) より，

\[ G_X(1) = 1 \]

になることも分かる．このように確率母関数が与えられれば，\(G_X(s)\) を \(k\) 回微分し，\(s=0\) と置くことで，\(p(k)\) を再現することができることから，非負整数上の確率分布とその確率母関数は１対１に対応していることがわかります．

Example 6.1 : PGFから確率関数を計算する

確率変数 \(X\) について，PGFが \(G_X(s) = \frac{s}{5}(2 + 3s^2)\) と与えられてるとします．このとき，

\[ \begin{align*} G_X(0) &= \Pr(X=0) = 0\\ G_X^\prime(0) &= \Pr(X=1) = \frac{2}{5}\\ \frac{1}{2!}G_X^{\prime\prime}(0) &= \Pr(X=2) = 0\\ \frac{1}{3!}G_X^{\prime\prime\prime}(0) &= \Pr(X=3) = \frac{3}{5}\\ G_X^{(r)}(0) &= 0 \quad\forall r\geq 4 \end{align*} \]

従って，

\[ X = \bigg\{\begin{array}{c} 1 &\text{with probability} \frac{2}{5}\\ 3 &\text{with probability} \frac{3}{5} \end{array} \]

となることがわかります

Theorem 6.1 : PGFと階乗モーメント

確率変数 \(X\) について，PGFが \(G_X(s)\) と与えられているとき，

\[ \begin{align*} &\mathbb E[X] = G_X^\prime(1)\tag{a}\\ &\mathbb E[X(X-1)\cdots(X-k)] = G_X^{(k)}(1)\tag{b} \end{align*} \]

Proof

▶ (a)の証明

\[ \begin{align*} G^\prime_X(s) = \sum_{x=0}^\infty x s^{x-1}p(x) \end{align*} \]

従って，

\[ \begin{align*} G^\prime_X(1) &= \sum_{x=0}^\infty x p(x)\\ &= \mathbb E[X] \end{align*} \]

▶ (b)の証明

\[ G^{(k)}_X(s) = \sum_{x=0}^\infty x(x-1)\cdots(x-k) s^{x-k}p(x) \]

従って，

\[ G^{(k)}_X(1) = \mathbb E[X(X-1)\cdots(X-k)] \]

Theorem 6.2 : 独立な確率変数の和についてのPGF

互いに独立な確率変数 \(X_1, \cdots, X_n\) について，\(Y = \sum_{i=1}^nX_i\) と定義する．このとき，

\[ G_Y(s) = \prod_{i=1}^nG_{X_i}(s) \]

Proof

\[ \begin{align*} G_Y(s) &= \mathbb E[s^{(X_1+\cdots+X_n)}]\\ &= \mathbb E[s^{X_1}\cdots s^{X_n}]\\ &= \mathbb E[s^{X_1}]\cdots \mathbb E[s^{X_n}] \because\text{ 互いに独立}\\ &=\prod_{i=1}^nG_{X_i}(s) \end{align*} \]

Theorem 6.3

確率変数列 \(X_1, X_2, \cdots \overset{\mathrm{iid}}{\sim} F\) とし，各確率変数 \(X_i\) の確率母関数を \(G_X(s)\) で表すとする． \(\{X_i\}_{i=1}\) と互いに独立な確率変数 \(N\) を考え，新たに以下の形で確率変数 \(T_N\) を定義する:

\[ T_N = X_1 + \cdots + X_N \]

このとき，\(T_N\) についての確率母関数は

\[ G_{T_N}(s) = G_N(G_X(s)) \]

Proof

\[ \begin{align*} G_{T_N}(s) &= \mathbb{E}(s^{T_N})\\ &= \mathbb{E}\left( s^{X_1 + \cdots + X_N} \right)\\ &= \mathbb{E}_N \left\{ \mathbb{E} \left( s^{X_1 + \cdots + X_N} \mid N \right) \right\} \quad \text{(conditional expectation)}\\ &= \mathbb{E}_N \left\{ \mathbb{E} \left( s^{X_1} \cdots s^{X_N} \mid N \right) \right\}\\ &= \mathbb{E}_N \left\{ \mathbb{E} \left( s^{X_1} \cdots s^{X_N} \right) \right\} \quad (X_i \text{と} N \text{は互いに独立})\\ &= \mathbb{E}_N \left\{ \mathbb{E} \left( s^{X_1} \right) \cdots \mathbb{E} \left( s^{X_N} \right) \right\} \quad (X_i \text{は互いに独立})\\ &= \mathbb{E}_N \left\{ \left( G_X(s) \right)^N \right\}\\ &= G_N\left( G_X(s) \right) \quad (G_N\text{の定義より}) \end{align*} \]

Example 6.2 : ATMの引き出し金額

とあるATMでお金を引き出す人の一日あたりの合計人数 \(N\) という確率変数を考える． ATMで各個人が引き出す金額 \(X_i\) は互いに独立に平均 \(\mu\), 分散 \(\sigma^2\), PGF \(G_X(s)\) の同一分布に従うとします．

このとき，一日あたりのATM引き出し金額 \(T_N = X_1 + \cdots + X_N\) について，

\[ \begin{align*} \mathbb E[T_n] &= G_N^\prime(G_X(1))\cdot G_X^\prime(1)\\ &= G_N^\prime(1) \cdot \mathbb E[X_i] \quad\because G_X(1) = 1\\ &= \mathbb E[N] \cdot \mathbb E[X_i] \end{align*} \]

と期待値を表すことができる．

📘 REMARKS

積率母関数と確率母関数について以下の関係が知られています:

\[ \begin{align*} G_X(t) &= M_X(\log(t))\\ M_X(t) &= G_X(\exp(t)) \end{align*} \]

以上より，一方が求まっていれば，それをもとにもう一方を求めることができることがわかります．