とーけい部

現在、このブログは工事中です。

統計学 統計検定 数学

コーシー分布の再生性を示す(特性関数って凄いのよ!)

コーシー分布の再生性を示そう with 特性関数

前回の記事では畳み込みを利用して気合でコーシー分布の再生性を示しました。

hasegawascond.hatenablog.com

確かにこのやり方は初等的で非常にわかりやすく、理解しやすいです。しかし一方で、(言うまでもなく)計算が死ぬほどめんどくさく、しかもただ時間がかかるだけでなく計算ミスも起きかねないという、正直あんまり勧められる方法ではないわけですね。今回は、コーシー分布の再生性を特性関数を利用して証明してみましょう。
特性関数を求めるときに留数定理など複素関数論の理論が出てきますが、これらについて全部説明するとさすがに面倒なのでそこら辺の説明は適宜端折ることにします。

特性関数とはなんぞや

特性関数の定義は以下。

\displaystyle{
確率変数Xの特性関数\ \phi(t)は、\\
\phi (t) = E\left[ exp(\,itX\,)  \right]\ と定義する 
}

特性関数は確率分布と1対1に対応しており、しかもモーメント母関数と違って全ての確率分布に存在することが証明できます。証明は多分調べたらすぐ出てきます。

コーシー分布

位置パラメータが x_0、尺度パラメータが \sigmaのコーシー分布の密度関数は以下のように定義されます。

\displaystyle{
f(x)=\frac{\sigma}{\pi}\frac{1}{\sigma^2 + (x-x_0)^2} 
}

標準コーシー分布の特性関数を求める

まず、簡単のために位置パラメータが0、尺度パラメータが1のコーシー分布について特性関数を求めてみましょう。

\displaystyle{
\begin{eqnarray}
\phi(t) &=& E(exp(itX))\\
&=& \int_{-\infty}^{\infty}exp(itx) \frac{1}{\pi} \frac{1}{1+x^2} dx\\
&=&\frac{1}{\pi}\int_{-\infty}^{\infty} \frac{exp(itx)}{1+x^2} dx
\end{eqnarray}
}

最後の積分がやや曲者なので、これを複素関数論の理論を使って計算していきましょう。
最後の積分の中身について、

\displaystyle{
f(z)=\frac{exp(itz)}{1+z^2} = \frac{exp(itz)}{(z-i)(z+i)} \quad(z \in \mathbb{C})
}

としてf(z)を定義します。

以下の経路を定義します。

\displaystyle{
C_R : -R \rightarrow R \rightarrow (半径Rの円の上半周上を走る)\rightarrow-R\\
\Gamma_R:R \rightarrow (半径Rの円の上半周上を走る)\rightarrow-R
}

図にすると以下(手書きですいません)。

f:id:hasegawa-yuta289:20200824030246j:plain

このように定義した経路について、-RからRまでの積分を以下のように計算します。

\displaystyle{
\large{
\begin{eqnarray}
\int_{-R}^{R} f(x)dx &=& \int_{C_R} f(z)dz - \int_{\Gamma_R}f(z)dz
\end{eqnarray}
}
}

こうやって求めた積分について R\rightarrow \inftyとしてやれば、特性関数が求まります。

まずt>0として求めましょう。
CRについて計算していきます。
十分大きい任意のRについて、CR内の特異点は、f(z)の1位の極z=iのみであり、ここで留数Res(f,i)は

\displaystyle{
\large
Res(f,i)=\lim_{z\rightarrow i}(z-i)f(z)=\frac{1}{2i}exp(-t)
}

であるから、留数定理より

\displaystyle{
\large{
\begin{eqnarray}
\int_{C_R} f(z)dz &=&2\pi i\  Res(f,i)\\
&=&\pi\  exp(-t) \\
&\rightarrow& \pi\ exp(-t)\quad(R\rightarrow \infty) 
\end{eqnarray}
}
}

と求まりました。

次にΓRについて求めましょう。
以下の定理を認めてしまいます。複素関数論の本なら大体載っているのかなと思いますが、例えば証明は『複素関数論』(森・杉原)の148pに載ってます。

\displaystyle{
g(z)は複素平面の上半分で原点から十分遠い領域にて正則であり、\\
|z|\rightarrow \inftyのとき0に一様収束するとする。\\
このとき、\lim_{R\rightarrow \infty}\int_{\Gamma_R}exp(ipz)g(z)dz=0\quad (p > 0)
}

この定理は、まあ直感的には以下のような解釈ができそう。

\displaystyle{
z=x+iy とする。\quad(x,y\in \mathbb{R})\\
exp(ipz)=exp(ipx+ip(iy))=exp(ipx)\times exp(-py)\\
ここで、exp(ipx)は単位円上の点であるからノルムの観点から無視してしまおう。\\
p > 0であることと、\Gamma_R上ではy > 0 であることから、\\
\Gamma _R 上にてexp(-py)は定数で抑えられ、\\
原点から十分離れたzについてほとんど0になるg(z)に潰されてしまい、\\
結局積分値は0へと収束することになる。
}

さて、この定理について、

\displaystyle{
g(z)=\frac{1}{1+z^2}
}

とすれば、t>0より、

\displaystyle{
\lim_{R \rightarrow \infty}\int_{\Gamma_R}f(z)dz=0
}

とわかる。

次にt<0の場合を考えます。
ΓRの部分で上手くいくようにするため(p>0でないと上の定理が使えないのでね)、

\displaystyle{
\begin{eqnarray}
\int_{-\infty}^{\infty} \frac{exp(itx)}{1+x^2} dx&=&\int_{-\infty}^{\infty} \frac{exp(\,i\,(-t)(-x)\,)}{1+(-x)^2} dx\\
(y=-xとする)  &=& \int_{-\infty}^{\infty} \frac{exp(\,i\,(-t)y\,)}{1+y^2} dy
\end{eqnarray}
}

として、

\displaystyle{
f(z)=\frac{exp(i(-t)z)}{1+z^2} = \frac{exp(i(-t)z)}{(z-i)(z+i)} \quad(z \in \mathbb{C})
}

と定義し直す。
CRについて、先の場合と同様にして、

\displaystyle{
\large{
\begin{eqnarray}
\int_{C_R} f(z)dz &=&2\pi i\  Res(f,i)\\
&=&\pi\  exp(t) \\
&\rightarrow& \pi\ exp(t)\quad(R\rightarrow \infty) 
\end{eqnarray}
}
}

ΓRについても同様に、

\displaystyle{
\lim_{R \rightarrow \infty}\int_{\Gamma_R}f(z)dz=0
}

以上より、

\displaystyle{
t > 0 のとき、\\
\phi(t) = exp(-t)\\
t < 0 のとき、\\
\phi(t) = exp(t)
}

これらをまとめて、

\displaystyle{
標準コーシー分布の特性関数\\
\phi(t) = exp( - |t| )
}

とわかる。
なお、t=0の場合についてこれが成立していることはすぐにわかる。

コーシー分布の特性関数を求める

\displaystyle{
\begin{eqnarray}
\phi(t) &=&\int_{- \infty }^{\infty} exp(itx)\frac{\sigma}{\pi}\frac{1}{\sigma^2 + (x- x_0)^2} dx\\
&=&\frac{\sigma}{\pi}\int_{- \infty }^{\infty}\frac{exp(itx)}{\sigma^2 + (x- x_0)^2} dx\\
\end{eqnarray}
}

最後の積分の中身について、

\displaystyle{
\begin{eqnarray}
f(z)=\frac{exp(itz)}{ ( (z-x_0)- i \sigma) ( (z-x_0)+ i \sigma) }
\end{eqnarray}
}

と定義する。
先の例と同様にして経路を以下のように設定する。

f:id:hasegawa-yuta289:20200824030312j:plain

t>0の場合について、

\displaystyle{
Res(f,x_0+i\sigma)=\frac{exp(it(x_0 + i \sigma))}{2i\sigma}
}

よって

\displaystyle{
\large{
\begin{eqnarray}
\int_{C_R} f(z)dz &=&2\pi i\  Res(f,i)\\
&=&\frac{\pi}{\sigma}\  exp(itx_0 - \sigma t) \\
&\rightarrow& \frac{\pi}{\sigma}\  exp(itx_0 - \sigma t) \quad(R\rightarrow \infty) 
\end{eqnarray}
}
}

ΓRについても標準コーシー分布の場合と同様にして、( R \rightarrow \inftyで)0と計算できる。
t<0についても、やはり標準コーシー分布の場合と同様に計算ができて、結局、

\displaystyle{
\Large{
コーシー分布の特性関数\\
\phi(t) = exp(ix_0 t - \sigma |t| )
}
}

コーシー分布の再生性

特性関数が手に入ったので、簡単に再生性を示すことができる。

\displaystyle{
\large{
\begin{eqnarray}
\phi_{\bar X}(t)&=&\left\{ \phi \left( \frac{t}{n} \right)  \right\}^n\\
&=& \left\{exp \left(ix_0 \frac{t}{n} - \sigma \left| \frac{t}{n} \right| \right) \right\}^n\\
&=& exp(ix_0 t - \sigma |t| )\\
&=& \phi(t)
\end{eqnarray}
}
}

特性関数は確率分布と対応しているので、コーシー分布からのランダムサンプルの標本平均が従う確率分布は、元のコーシー分布と全く一致していることが示せた。

このように特性関数を利用することで、畳み込みを利用するよりもずっと簡単に再生性を示すことができるのだ~!(凄い!)