伊藤『確率論』定理2.16, 2.17, 2.18に示された分布と特性函数の収束の関係についてまとめます.
定理2.16
Statement
$\varphi_n = \mathcal{F}\mu_n \; (n = 1, 2, \ldots)$, $\varphi = \mathcal{F}\mu$ としたとき ( 特性函数 ) , $z$ に関して広義一様に
\begin{align}
\large \mu_n \rightarrow \mu \Longrightarrow \varphi_n(z) \rightarrow \varphi(z).
\end{align}
となる.
注:広義一様収束とは, 任意のコンパクト部分集合上で, 即ちこの場合有界閉区間上で一様収束するということ.
証明
$\mu_n$, $\mu$ の分布函数をそれぞれ $F_n$, $F$ とする.
$\mu_n \rightarrow \mu$ なので, 定理2.10 より $F$ の連続点 $x$ に対して,
\begin{align}
F_n(x) \longrightarrow F(x). \label{Fn_cont}
\end{align}
$F$ は分布函数なので, ${}^\forall \ve \gt 0$ に対して, $a$ を十分大きくとることで,
\begin{align}
F(a) - F(-a) \gt 1 - \ve
\end{align}
とできる.
特に, $a$, $-a$ がともに $F$ の連続点となるように $a$ をとると, 式\eqref{Fn_cont}より, ある $N_1 = N_1(\ve)$ があって, $n \gt N_1$ ならば,
\begin{align}
F_n(a) - F_n(-a) \gt 1 - \ve
\end{align}
とできる. したがって $n \gt N_1$ に対して
\begin{align}
&\quad \left| \varphi_n(z) - \int_{(-a, a]} e^{izx} \mu_n(dx) \right| \\[5pt]
=&\quad \left| \int_{(-\infty, \infty)} e^{izx} \mu_n(dx) - \int_{(-a, a]} e^{izx} \mu_n(dx) \right| \notag \\[5pt]
=&\quad \left| \int_{(-a, a]^c} e^{izx} \mu_n(dx) \right| \notag \\[5pt]
\leq&\quad \mu_n((-a, a]^c) \notag \\[5pt]
=&\quad 1 - \mu_n(-a, a] \notag \\[5pt]
=&\quad 1 - (F_n(a) - F_n(-a)) \lt \ve. \notag
\end{align}
同様に,
\begin{align}
\left| \varphi(z) - \int_{(-a, a]} e^{izx} \mu(dx) \right| \lt \ve.
\end{align}
今, 上の補題を使うと,
\begin{align}
I_n(z) &= \int_{(-a, a]} e^{izx} \mu_n(dx) \\[5pt]
&= e^{iza}F_n(a) - e^{-iza}F_n(-a) - \int_{(-a, a]} ize^{izx} F_n(x)dx, \notag
\end{align}
\begin{align}
I(z) &= \int_{(-a, a]} e^{izx} \mu(dx) \\[5pt]
&= e^{iza}F(a) - e^{-iza}F(-a) - \int_{(-a, a]} ize^{izx} F(x)dx. \notag
\end{align}
よって,
\begin{align}
&\quad |I_n(z) - I(z)| \\[5pt]
\leq&\quad \left| e^{iza}(F_n(a) - F(a)) + e^{-iza}(F(-a) - F_n(-a)) + \int_{(-a, a]} ize^{izx} (F(x) - F_n(x)) dx \right| \notag \\[5pt]
\leq&\quad \left| e^{iza}(F_n(a) - F(a))\right| + \left|e^{-iza}(F_n(-a) - F(-a))\right| + \left| \int_{(-a, a]} ize^{izx} (F_n(x) - F(x)) dx \right| \notag \\[5pt]
\leq&\quad \left| F_n(a) - F(a)\right| + \left|F_n(-a) - F(-a)\right| + \int_{(-a, a]} |z| |F_n(x) - F(x)| dx. \notag \\[5pt]
\end{align}
右辺第１項, 第２項は, 式\eqref{Fn_cont}と「$-a$, $a$ が $F$ の連続点であること」とより, $n \rightarrow \infty$ で $0$ に収束する.
第３項を議論する前に, 今回示したいことは, $\varphi_n(z)$ の $z$ に関する広義一様収束性なので, $z \leq |b|$ ( 有界閉 ) と仮定してよい.
すると, 第３項の被積分函数は有界なので, 有界収束定理より,
\begin{align}
\lim_{n \rightarrow \infty} \int_{(-a, a]} |z| |F_n(x) - F(x)| dx = \int_{(-a, a]} |z| \lim_{n \rightarrow \infty} |F_n(x) - F(x)| dx.
\end{align}
第１, ２項と同じ議論により, $x$ が連続点では $n \rightarrow \infty$ で $F_n(x) \rightarrow F(x)$ となる.
$x$ が不連続点の場合は, 必ずしも前文のようにならないが, そもそも不連続点は可算個しかなく, つまりLebesgue測度が $0$ なので積分値に影響しない.
よって, 結局右辺は $z \leq |b|$ のとき $n \rightarrow \infty$ で $0$ に収束する.
ここまでで求めた不等式により,
\begin{align}
&\quad \limsup_{n \rightarrow \infty} \sup_{|z| \leq b} | \varphi_n(z) - \varphi(z) | \\[5pt]
=&\quad \limsup_{n \rightarrow \infty} \sup_{|z| \leq b} \left| \varphi_n(z) - \left( I_n(z) - I(z) \right) - \varphi(z) \right| \notag \\[5pt]
=&\quad \limsup_{n \rightarrow \infty} \sup_{|z| \leq b} \left| \varphi_n(z) - \left( \int_{(-a, a]} e^{ixz} \mu_n(dx) - \int_{(-a, a]} e^{ixz} \mu(dx) \right) - \varphi(z) \right| \notag \\[5pt]
\leq&\quad \limsup_{n \rightarrow \infty} \sup_{|z| \leq b} \left| \varphi_n(z) - \int_{(-a, a]} e^{ixz} \mu_n(dx) \right| + \left| \int_{(-a, a]} e^{ixz} \mu(dx) - \varphi(z) \right| \notag \\[5pt]
\leq&\quad 2 \ve. \notag
\end{align}
$\blacksquare$
定理2.17 ( Glivenkoの定理 )
Statement
$\varphi_n$, $\varphi$ をそれぞれ分布 $\mu_n$, $\mu$ の分布函数とする.
このとき, $\varphi_n \rightarrow \varphi$ ( 各点収束 ) するなら, $\mu_n \rightarrow \mu$ ( 分布収束 ) する.
注意：これは, 定理2.16の逆が成り立つことを述べているのに近い.
また, $\varphi_n \rightarrow \varphi$ なら必ず $\mu_n \rightarrow \mu$ というわけではなく, 極限函数 $\varphi$ がある分布 $\mu$ の特性函数であれば$\mu_n \rightarrow \mu$ であるということである.
証明
以下, 特に指定しない限り積分範囲は $\mathbb{R}^1$ とする.
step 1
$g$ : $\mathbb{R}^1$ 上で可積分とするとき,
\begin{align}
h(x) = \int e^{izx}g(z)dz
\end{align}
なる函数に対して ( $g(z)$ は可積分 ) ,
\begin{align}
\int h(x)\mu_n(dx) \longrightarrow \int h(x) \mu(dx)
\end{align}
となることを示す.
証明 ( click )
\begin{align}
\int h(x)\mu_n(dx) &= \int \int e^{izx}g(z)dz \mu_n(dx) \\[5pt]
&= \int \int e^{izx} \mu_n(dx) g(z)dz \quad (\because \mathrm{\; Fubini}) \notag \\[5pt]
&= \int \varphi_n(z) g(z) dz \notag \\[5pt]
\end{align}
右辺の被積分函数は有界なので, 両辺の $\lim$ をとると, 有界収束定理が使えて ( ２個目の等号 ) ,
\begin{align}
\lim_{n \rightarrow \infty} \int h(x)\mu_n(dx) &= \lim_{n \rightarrow \infty} \int \varphi_n(z) g(z) dz \\[5pt]
&= \int \lim_{n \rightarrow \infty} \varphi_n(z) g(z) dz \notag \\[5pt]
&= \int \varphi(z) g(z) dz \notag \\[5pt]
&= \int \int e^{izx} \mu(dx) g(z) dz \notag \\[5pt]
&= \int \color{#cf201f}{\int e^{izx} g(z) dz} \mu(dx) \quad (\because \mathrm{\; Fubini}) \notag \\[5pt]
\end{align}
したがって, 赤字部分が $h(x)$ の定義そのものであることを踏まえると,
\begin{align}
\int h(x) \mu_n(dx) \longrightarrow \int h(x) \mu(dx).
\end{align}
$\square$
step 2
もし, コンパクトな台をもつ連続函数 $f$ が $h$ で近似されれば, step 1 で解ったことより, $f$ に対しても,
\begin{align}
\int f(x) \mu_n(dx) \longrightarrow \int f(x)\mu(dx)
\end{align}
となるため 定理2.10 $\mathrm{(ii)} \Rightarrow \mathrm{(i)}$ より, $\mu_n \rightarrow \mu$ がわかり, 証明は終了.
ここでは, まず $f$ に対して
\begin{align}
g_n(z) = \frac{1}{2\pi} e^{-z^2/{2n}} \int e^{-izy} f(y) dy
\end{align}
とおくと,
\begin{align}
|g_n(z)| = \frac{1}{2\pi} e^{-z^2/{2n}} \int |f(x)| dx
\end{align}
となり, コンパクトな台をもつ連続函数 $f$ は最大値を持つので ( 例えば参考文献[2]定理2.5 ) 右辺は有界で $g_n$ は $\mathbb{R}^1$ 上で可積分. すると,
\begin{align}
h_n(x) = \int e^{izx} g_n(z) dz \rightrightarrows f(x) \quad (n \rightarrow \infty).
\end{align}
となる ( $\rightrightarrows$ は一様収束 ) .
これを示すために, まず各点収束 $h_n \rightarrow f(x)$ を示そう.
証明 ( click )
\begin{align}
h_n(x) &= \int e^{izx} g_n(z) dz \\[5pt]
&= \int e^{izx} \frac{1}{2\pi} e^{-z^2/{2n}} \int e^{-izy} f(y) dy dz \notag \\[5pt]
&= \frac{1}{2\pi} \iint e^{iz(x-y)} e^{-z^2/{2n}} dz f(y) dy \quad (\because \mathrm{\; Fubini}) \notag \\[5pt]
&= \sqrt{\frac{n}{2\pi}} \int \color{#cf201f}{\int e^{iz(x-y)} \frac{1}{\sqrt{2 \pi n}} e^{-z^2/{2n}} dz} f(y) dy \notag \\[5pt]
&= \sqrt{\frac{n}{2\pi}} \int \color{#cf201f}{\mathcal{F}\mathcal{N}(0, n)(t)|_{t = x-y}} f(y) dy \notag \\[5pt]
&= \sqrt{\frac{n}{2\pi}} \int \color{#cf201f}{e^{-nt^2/2}|_{t = x-y}} f(y) dy \notag \\[5pt]
&= \sqrt{\frac{n}{2\pi}} \int e^{-n(x-y)^2/2} f(y) dy \notag \\[5pt]
&= \sqrt{\frac{1}{2\pi}} \int e^{-t^2/2} f\left( x + \frac{t}{\sqrt{n}} \right) dt \notag \\[5pt]
\end{align}
となる. ここで, 赤字部分は, $\color{#cf201f}{\mathcal{F}\mathcal{N}(0, n)(t)|_{t = x-y}}$ は, 正規分布 $\mathcal{N}(0, n)$ の特性函数 ( $t$ を変数とする ) に $t = x-y$ を代入したものである.
すると, $f$ は連続かつ有界であるので両辺の極限をとると, 有界収束定理が使えて,
\begin{align}
\lim_{n \rightarrow \infty} h_n(x) &= \lim_{n \rightarrow \infty} \sqrt{\frac{1}{2\pi}} \int e^{-t^2/2} f\left( x + \frac{t}{\sqrt{n}} \right) dt \\[5pt]
&= \sqrt{\frac{1}{2\pi}} \int e^{-t^2/2} \lim_{n \rightarrow \infty} f\left( x + \frac{t}{\sqrt{n}} \right) dt \notag \\[5pt]
&= \sqrt{\frac{1}{2\pi}} \int e^{-t^2/2} f( x ) dt \notag \\[5pt]
&= f(x) \sqrt{\frac{1}{2\pi}} \int e^{-t^2/2} dt \notag \\[5pt]
&= f(x).
\end{align}
これで, $h_n \rightarrow f(x)$ ( 各点収束 ) がいえた.
$\square$
最後に一様収束することを示そう.
証明 ( click )
まず, $f(x)$ を以下のように書き換える.
\begin{align}
f(x) = \frac{1}{\sqrt{2 \pi}} \int e^{-t^2/2} f(x) dt.
\end{align}
すると,
\begin{align}
&\quad |h_n(x) - f(x)| \\[5pt]
&= \left| \frac{1}{\sqrt{2 \pi}} \int e^{-t^2/2} f\left( x + \frac{t}{\sqrt{n}} \right) dt - \frac{1}{\sqrt{2 \pi}} \int e^{-t^2/2} f(x) dt \right| \notag \\[5pt]
&\leq \frac{1}{\sqrt{2 \pi}} \int e^{-t^2/2} \left| f\left( x + \frac{t}{\sqrt{n}} \right) -f(x) \right| dt \notag \\[5pt]
&= \frac{1}{\sqrt{2 \pi}} \left[ \int_{\color{#cf201f}{|t| \leq a}} e^{-t^2/2} \left| f\left( x + \frac{t}{\sqrt{n}} \right) -f(x) \right| dt + \int_{\color{#cf201f}{|t| \gt a}} e^{-t^2/2} \left| f\left( x + \frac{t}{\sqrt{n}} \right) -f(x) \right| dt \right] \notag \\[5pt]
&\leq \frac{1}{\sqrt{2 \pi}} \left[ \color{#cf201f}{\sup_{|t|\leq a} \left| f\left( x + \frac{t}{\sqrt{n}} \right) -f(x) \right| \int_{|t| \leq a} e^{-t^2/2} dt} + \color{#0033cc}{2 \sup_{x} |f(x)| \int_{|t| \gt a} e^{-t^2/2} dt} \right] \notag \\[5pt]
\end{align}
よって,
\begin{align}
\sup_{x \in \mathbb{R}^1} |h_n(x) - f(x)| \leq \frac{1}{\sqrt{2 \pi}} \left[ \color{#cf201f}{\sup_{|t|\leq a, x \in \mathbb{R}^1} \left| f\left( x + \frac{t}{\sqrt{n}} \right) -f(x) \right| \int_{|t| \leq a} e^{-t^2/2} dt} + \color{#0033cc}{2 \sup_{x} |f(x)| \int_{|t| \gt a} e^{-t^2/2} dt} \right]
\end{align}
いま, 赤字の項について, $f$ が一様収束するので,
\begin{align}
\color{#cf201f}{\sup_{|t|\leq a, x \in \mathbb{R}^1} \left| f\left( x + \frac{t}{\sqrt{n}} \right) -f(x) \right| \int_{|t| \leq a} e^{-t^2/2} dt} \longrightarrow 0 \quad (n \rightarrow \infty).
\end{align}
よってこれをふまえると,
\begin{align}
\limsup_{n \rightarrow \infty} \left[ \sup_{x \in \mathbb{R}^1} |h_n(x) - f(x)| \right] \leq \frac{1}{\sqrt{2 \pi}} \color{#0033cc}{2 \sup_{x} |f(x)| \int_{|t| \gt a} e^{-t^2/2} dt}.
\end{align}
ここで, 右辺の $\sup_x f(x)$ は有界なので, $\int_{|t| \gt a} e^{-t^2/2} dt$ だけを考える.
左辺は, $a$ に依存しないため, どんな $a$ でもこの不等式が成り立つことを踏まえて, $a \rightarrow \infty$ とすると,
\begin{align}
\int_{|t| \gt a} e^{-t^2/2} dt \longrightarrow 0 \quad (a \rightarrow \infty)
\end{align}
であるので, 結局 $h_n \rightrightarrows f$ がいえた.
$\square$
$\blacksquare$
定理2.18 ( Lévyの収束定理 )
Statement
特性函数 $\varphi_n = \mathcal{F}\mu_n$ が各点で $\varphi$ に収束し, しかもこの収束が $0$ のある近傍 $|z| \lt 0$ で一様であれば, 極限函数 $\varphi$ はある分布 $\mu$ の特性函数である.
よって, Glivenkoの定理より, $\mu_n \to \mu$.
証明
いま, $\varphi_n$ は連続である.
証明 ( click )
そもそも, 特性函数は連続であるから.
なぜなら, $\varphi$ を $\mu$ の特性函数としたとき,
\begin{align}
\varphi(z) = \int_{-\infty}^{\infty} e^{izx} \mu)dx
\end{align}
であり, $|e^{izx}| \lt 1$ であるので, 有界収束定理より,
\begin{align}
z_n \to z \; \Rightarrow \varphi(z_n) \to \varphi(z).
\end{align}
$\square$
しかも, $\varphi_n$ は, $|z| \lt a$ においては, $\varphi_n \rightrightarrows \varphi$ ( 一様収束 ) なので, $\varphi(z)$ は, $z = 0$ で連続.
よって以下が成立する.
\begin{align}
\varphi(0) = \lim_{n \to \infty} \varphi_n(0) = 1.
\end{align}
上の事実を書き換えると,
\begin{align}
{}^\forall \ve \lt 0,\; {}^\exists \delta = \delta(\ve) \lt a,\quad |z| \lt \delta \Rightarrow |\varphi(z) - 1| \lt \ve.
\end{align}
さらに, $\varphi_n \rightrightarrows \varphi$ を考慮する.
これを書き換えると,
\begin{align}
{}^\forall \ve \lt 0,\; {}^\exists N = N(\ve) \in \mathbb{N},\quad n \gt N,\; |z| \lt \delta \Rightarrow |\varphi(z) - \varphi_n(z)| \lt \ve.
\end{align}
三角不等式
\begin{align}
|\varphi_n(z) - 1| &= |\varphi_n(z) - \varphi(z) + \varphi(z) - 1| \\[5pt]
&\leq |\varphi_n(z) - \varphi(z)| + |\varphi(z) - 1| \notag
\end{align}
を踏まえて総合すると,
\begin{align}
{}^\forall \ve \lt 0,\; \color{#cf201f}{n \gt N},\; \color{#cf201f}{|z| \lt \delta} \Rightarrow |\varphi_n(z) - 1| \lt \ve.
\end{align}
赤字にした箇所は, この先の議論でずっと仮定していることに注意.
上の事実から,
\begin{align}
1 - \ve &\lt \frac{1}{2 \delta} \int_{-\delta}^{\delta} \Re(\varphi_n(z)) dz \\[5pt]
&= \frac{1}{2 \delta} \int_{-\delta}^{\delta} \Re \left( \int_{-\infty}^{\infty} e^{izx} \mu_n(dx) \right) dz \\[5pt]
&= \frac{1}{2 \delta} \int_{-\delta}^{\delta} \int_{-\infty}^{\infty} (\cos zx) \mu_n(dx) dz \notag \\[5pt]
&= \int_{-\infty}^{\infty} \frac{1}{2 \delta} \int_{-\delta}^{\delta} (\cos zx) \mu_n(dx) dz \quad ( \because \text{Fubini}) \notag \\[5pt]
&= \int_{-\infty}^{\infty} \frac{\sin \delta x}{\delta x} \mu_n(dx) \notag \\[5pt]
&= \int_{[-b, b]} \frac{\sin \delta x}{\delta x} \mu_n(dx) + \int_{[-b, b]^c} \frac{\sin \delta x}{\delta x} \mu_n(dx) \notag \\[5pt]
&\leq \int_{[-b, b]} 1 \mu_n(dx) + \int_{[-b, b]^c} \frac{1}{\delta b} \mu_n(dx) \notag \\[5pt]
&= \mu_n[-b, b] + \frac{1}{\delta b} (1 - \mu_n[-b, b]) \notag \\[5pt]
&\leq \mu_n[-b, b] + \frac{1}{\delta b}.
\end{align}
よって,
\begin{align}
\mu_n[-b, b] &\geq 1 - \ve - \frac{1}{\delta b}, \\[5pt]
\inf_{\color{#cf201f}{n \gt N}} \mu_n[-b, b] &\geq 1 - \ve - \frac{1}{\delta b}, \notag \\[5pt]
\lim_{b \to \infty} \inf_{\color{#cf201f}{n \gt N}} \mu_n[-b, b] &\geq 1 - \ve. \notag \\[5pt]
\end{align}
一方, 今, 各 $n$ に対しては,
\begin{align}
\lim_{b to \infty} \mu_n[-b, b] = 1
\end{align}
なので ( $n \leq N$ となる有限個の $\mu_n$ について考えると当然 ) ,
\begin{align}
\lim_{b \to \infty} \inf_{n \leq N} \mu_n[-b, b] = 1 \geq 1 - \ve.
\end{align}
よって,
\begin{align}
\lim_{b \to \infty} \inf_{n} \mu_n[-b, b] \geq 1 - \ve \to 1 \quad (\ve \to 0).
\end{align}
ここで, 定理2.11より, $\{\mu_n\}$ は収束部分列 $\{\nu_n\}$ をもつ.
\begin{align}
\nu_n \to \mu \quad (n \to \infty)
\end{align}
とすると, 定理2.16より,
\begin{align}
\mathcal{F}\nu_n \to \mathcal{F}\mu \quad (n \to \infty)
\end{align}
が各点で成立.
特性函数の列 $\mathcal{F}\nu_n$ は, $\mathcal{F}\mu_n = \varphi_n$ の部分列なので,
\begin{align}
\varphi_n \to \varphi \quad (n \to \infty).
\end{align}
よって,
\begin{align}
\varphi = \mathcal{F}\mu.
\end{align}
$\blacksquare$
感想・参考文献
感想
$\varphi_n \to \varphi$ なら, $\mu_n \to \mu$ と簡単にはいえないことがわかった.
$\varphi_n \to \varphi$ でも, $\varphi$ が特性函数でない可能性があって, そのような事態が起きないための条件を述べるのが, Lévyの定理なんだな.
いずれにせよ, これで中心極限定理の証明で有耶無耶にされていた「特性函数の収束が分布の収束になる」という部分がはっきりと示されて, すっきりした.
参考文献
[1] 伊藤清
確率論 (岩波基礎数学選書)
[2] 山田功
工学のための函数解析 (工学のための数学)