学習メモ(主に統計学)

学習したことのメモを記載しています。

【統計学】正規分布の期待値と分散

統計学を学習していて色々な確率分布の期待値、分散を導出したので備忘録として記載していきます。

誤りがあればお知らせいただけると助かります。

 

正規分布

確率変数 Xが平均 \mu、分散 \sigma^2正規分布に従うとします。

このとき確率確率密度関数 f(x)

\begin{align}
f(x) = \dfrac{1}{\sqrt{2\pi}\sigma} \exp\{-\dfrac{(x-\mu)^2}{2\sigma^2}\} \qquad ({-\infty} < x < {\infty})
\end{align}
となる。


 f(x)確率密度関数であることを確かめる

\begin{align}
\int^{\infty}_{-\infty} f(x)dx &= \int^{\infty}_{-\infty} \dfrac{1}{\sqrt{2\pi}\sigma} \exp\{-\dfrac{(x-\mu)^2}{2\sigma^2}\}dx \tag{1} \\
\end{align}

ここで、 t=\dfrac{x-\mu}{\sigma}とおくと、 x=\sigma t + \muより dx=\sigma dtとなる。積分範囲は変わらないので (1)式に代入して、

\begin{align}
\int^{\infty}_{-\infty} f(x)dx &= \int^{\infty}_{-\infty} \dfrac{1}{\sqrt{2\pi}\sigma} \exp\{-\dfrac{t^2}{2}\}\cdot \sigma dt \\ &= \dfrac{1}{\sqrt{2\pi}} \int^{\infty}_{-\infty}  \exp\{-\dfrac{t^2}{2}\}dt \\ &= \dfrac{1}{\sqrt{2\pi}} \cdot \sqrt{2\pi} \\ &= 1
\end{align}

となるので、 f(x)確率密度関数である。

※3行目は以下のガウス積分の公式を使用しました。

(証明は省略しますが極座標変換を使えば証明できます。)

\begin{align}
\int^{\infty}_{-\infty} \exp\{-\dfrac{x^2}{2}\}dx &= \sqrt{2\pi} \\
\end{align}

 

期待値  E[X]

冒頭の定義より結果は \muになることがわかっていますが、期待値の定義通り計算します。

\begin{align}
E[X] &= \int^{\infty}_{-\infty} x\cdot f(x)dx \\ &= \int^{\infty}_{-\infty} x \cdot \dfrac{1}{\sqrt{2\pi}\sigma} \exp\{-\dfrac{(x-\mu)^2}{2\sigma^2}\}dx \tag{2} \\
\end{align}

ここで、先ほどと同様 t=\dfrac{x-\mu}{\sigma}とおくと、 x=\sigma t + \muより dx=\sigma dtとなる。積分範囲は変わらないので (2)式に代入して、

\begin{align}
E[X] &= \dfrac{1}{\sqrt{2\pi}\sigma} \int^{\infty}_{-\infty} (\sigma t + \mu) \cdot \exp\{-\dfrac{t^2}{2}\}\sigma \cdot dt \\ &= \dfrac{1}{\sqrt{2\pi}} \left( \sigma \int^{\infty}_{-\infty} t \exp\{-\dfrac{t^2}{2}\} dt + \mu \int^{\infty}_{-\infty} \exp\{-\dfrac{t^2}{2}\} dt\right) \\ &= \dfrac{1}{\sqrt{2\pi}} \left( \sigma \left[\exp\{-\dfrac{t^2}{2}\}\right]^{\infty}_{-\infty} + \mu \cdot \sqrt{2\pi}\right) \\ &= \dfrac{1}{\sqrt{2\pi}} \cdot \mu \cdot \sqrt{2\pi} \\ &= \mu \\
\end{align}

となる。

 

分散  V[X]

まず、 E[X^2]を求めます。

\begin{align}
E[X^2] &= \int^{\infty}_{-\infty} x^2 \cdot f(x)dx \\ &= \int^{\infty}_{-\infty} x^2 \cdot \dfrac{1}{\sqrt{2\pi}\sigma} \exp\{-\dfrac{(x-\mu)^2}{2\sigma^2}\}dx \tag{3} \\
\end{align}

ここで、先ほどと同様 t=\dfrac{x-\mu}{\sigma}とおくと、 x=\sigma t + \muより dx=\sigma dtとなる。積分範囲は変わらないので (3)式に代入して、

\begin{align}
E[X^2] &= \dfrac{1}{\sqrt{2\pi}\sigma} \int^{\infty}_{-\infty} (\sigma t + \mu)^2 \cdot \exp\{-\dfrac{t^2}{2}\}\sigma \cdot dt \\ &= \dfrac{1}{\sqrt{2\pi}} \int^{\infty}_{-\infty} (\sigma^2 t^2 + 2\sigma\mu t + \mu^2) \exp\{-\dfrac{t^2}{2}\} dt \\ &= \dfrac{1}{\sqrt{2\pi}} \left( \sigma^2  \int^{\infty}_{-\infty} t^2 \exp\{-\dfrac{t^2}{2}\} dt + 2\sigma \mu \int^{\infty}_{-\infty} t\exp\{-\dfrac{t^2}{2}\} dt + \mu^2  \int^{\infty}_{-\infty} \exp\{-\dfrac{t^2}{2}\}dt\right) \\ &= \dfrac{1}{\sqrt{2\pi}} \left( \sigma^2  \int^{\infty}_{-\infty} t \cdot \left(-\exp\{-\dfrac{t^2}{2}\}\right)^{\prime} dt + 2 \sigma \mu \left[-\exp\{-\dfrac{t^2}{2}\}\right]^{\infty}_{-\infty}+ \mu^2 \cdot {\sqrt{2\pi}} \right) \\ &= \dfrac{\sigma^2}{\sqrt{2\pi}} \left(\left[-t\exp\{-\dfrac{t^2}{2}\}\right]^{\infty}_{-\infty} + \int^{\infty}_{-\infty} \exp\{-\dfrac{t^2}{2}\} dt \right) + \mu^2  \\ &= \dfrac{\sigma^2}{\sqrt{2\pi}} (0 + {\sqrt{2\pi}}) + \mu^2 \\ &= \sigma^2 +\mu^2 \\
\end{align}

となる。

 

よって、分散 V[X]

\begin{align}
V[X] &= E[X^2] - {(E[X])}^2 \\
          &= \sigma^2 + \mu^2 - \mu^2 \\
          &= \sigma^2 \end{align}

となる。

 

参考文献: