15  連続一様分布

一様分布の性質

Def: 一様分布

確率変数 \(X\) がパラメータ \(a, b\) の一様分布に従うとき，\(X\sim\operatorname{U}[a,b]\) と表す．\(X\) の値域は

\[ X(\Omega)= [a, b] \]

であり，確率密度関数 \(f_X(x)\) は

\[ f_X(x) = \bigg\{\begin{array}{c}\frac{1}{b-a} & x\in [a, b] \\ 0 & \text{otherwise}\end{array} \]

▶  期待値の計算

\[ \begin{align*} \mathbb E[X] &= \int^\infty_{-\infty}xf_X(x)\,\mathrm{d} x\\ &= \int^b_a \frac{1}{b-a}x\mathrm{d} x\\ &= \frac{a+b}{2} \end{align*} \]

▶  分散の計算

\[ \begin{align*} \mathbb E[X^2] &= \int^\infty_{-\infty}x^2f_X(x)\,\mathrm{d} x\\ &= \int^b_a \frac{1}{b-a}x^2\mathrm{d} x\\ &= \frac{1}{b-a}\left[\frac{x^3}{3}\right]^b_a\\ &= \frac{a^2+ab+b^2}{3} \end{align*} \]

従って，

\[ \operatorname{Var}(X) = \frac{(b-a)^2}{12} \]

▶  積率母関数の導出

積率母関数については，\(t\neq 0\) であれば

\[ \begin{align*} M_X(t) &= \int^b_a \frac{1}{b-a}\exp(tx)\,\mathrm{d} x\\ &= \frac{1}{b-a}\left[\frac{1}{t}\exp(tx)\right]^b_a\\ &=\frac{e^{tb} - e^{ta}}{(b-a)t} \end{align*} \]

Theorem 15.1 : 一様分布の累積分布関数

確率変数 \(X \operatorname{U}[a, b]\) の累積分布関数 \(F_X(x)\) は

\[ F_X(x) = \left\{\begin{array}{c} 0 & \text{if} x < a\\ \frac{x-a}{b-a} & \text{if} x \in [a, b]\\ 1& \text{if} x > b \end{array}\right. \]

Proof

\(x<a\) のとき，\(X\) の値域は \([a, b]\) であるので

\[ F_X(a) = \Pr(X \leq a) = 0 \]

\(x\in [a,b]\) において，

\[ \begin{align*} F_X(x) &= \int^x_a f_X(t)\,\mathrm{d}t\\ &= \frac{x-a}{b-a} \end{align*} \]

\(x>b\) のとき，上記より \(F_X(b) = 1\).

Theorem 15.2 : 一様分布の微分エントロピー

確率変数 \(X \operatorname{U}[a, b]\) の微分エントロピーは

\[ \operatorname{H}(x) = \ln (b-a) \]

Proof

\[ \begin{align*} \operatorname{H}(x) &= -\int f_X(x)\ln(f_X(x))\,\mathrm{d} x\\ &= \frac{\ln(b-a)}{b-a} \int^b_a\,\mathrm{d} x\\ &= \ln (b-a) \end{align*} \]

他の確率分布との関係性

Theorem 15.3 : ベータ分布の特殊ケースとしての一様分布

パラメータ \((\alpha, \beta)=(1,1)\) のベータ分布は標準一様分布と等しい．

\[ \operatorname{Be}(1, 1) = \operatorname{U}[0, 1] \]

Proof

確率変数 \(X\sim\operatorname{Be}(\alpha, \beta)\) の確率密度関数は,

\[ f_X(x) = \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}x^{\alpha-1}(1-x)^{\beta-1}\quad (0 < x < 1) \]

\(\alpha=\beta=1\) を代入すると，

\[ \begin{align*} f_X(x) &= \frac{\Gamma(2)}{\Gamma(1)\Gamma(1)}x^{1-1}(1-x)^{1-1}\\ &= 1 \end{align*} \]

従って，\(\operatorname{U}[0, 1]\) の確率密度関数と一致することがわかります．

Proof: MGFを用いた証明

確率変数 \(X\sim\operatorname{Be}(\alpha, \beta)\) のMGFは

\[ \label{eq:beta-mgf-s1} \begin{split} M_X(t) &= \int_{0}^{1} \exp[tx] \cdot \frac{1}{\mathrm{B}(\alpha, \beta)} \, x^{\alpha-1} \, (1-x)^{\beta-1} \, \mathrm{d}x \\ &= \frac{1}{\mathrm{B}(\alpha, \beta)} \int_{0}^{1} e^{tx} \, x^{\alpha-1} \, (1-x)^{\beta-1} \, \mathrm{d}x \end{split} \]

\(\alpha=\beta=1\) を代入すると，

\[ \begin{align*} M_X(t) &= \frac{1}{\mathrm{B}(1, 1)} \int_{0}^{1} e^{tx} \, x^{1-1} \, (1-x)^{1-1} \, \mathrm{d}x \\ &= \frac{1}{t}[e-1] \end{align*} \]

これは　\(\operatorname{U}[0, 1]\) のMGFと一致するので，パラメータ \((\alpha, \beta)=(1,1)\) のベータ分布は標準一様分布と等しいことがわかります．

Theorem 15.4 : 一様分布の対数変換と指数分布

確率変数 \(X \sim \operatorname{U}(0, 1)\) について，

\[ Y = -\log(X) \]

という変数変換を考える．このとき，\(Y\sim\operatorname{Exp}(1)\) が成り立つ．

Proof

\(Y = -\log(X)\) とするとその定義域は \([0, \infty)\) となります．対数変換は単調増加関数なので，\(y\in[0, \infty)\) の範囲で

\[ f_Y(y) = f_X(\exp(-y))\times \left\vert\frac{\,\mathrm{d}\exp(-y)}{\,\mathrm{d}y}\right\vert = \exp(-y) \]

これは \(\operatorname{Exp}(1)\) の確率密度関数と一致するので，\(Y\sim\operatorname{Exp}(1)\) が成り立つ．