%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \def\TITLE{\bf ガンマ分布の中心極限定理とStirlingの公式} \def\AUTHOR{黒木玄} \def\DATE{2016年5月1日作成% \thanks{% 最新版は下記URLからダウンロードできる. 飽きるまで継続的に更新と訂正を続ける予定である. 2016年5月1日Ver.0.1. 2016年5月2日Ver.0.2: 対数版の易しいStirlingの公式の節を追加した. 2016年5月3日Ver.0.3: 色々追加. 特にFourierの反転公式に関する付録を追加した. 2016年5月4日Ver.0.4: ガウス分布のFourier変換の付録とGauss積分の計算の付録 を追加した. 2016年5月5日Ver.0.5: 誤りの訂正と様々な追加(全17頁). 2016年5月5日Ver.0.6: ファイル名を変更し, 対数版の易しいStirlingの公式の微小な改良の節を追加した(全18頁). 2016年5月6日Ver.0.7: ガンマ函数の正値性と対数凸性と函数等式による特徴付けと 無限乗積展開の証明の節や対数版の易しいStirlingの公式を改良して 通常のStirlingの公式を導くことなどを色々追加した(全24頁). 2016年5月7日Ver.0.8: 正弦函数の無限乗積展開を $\cos(tx)$ の Fourier級数展開を使って導く方法の解説を追加した(全25頁). 2016年5月8日Ver.0.9: Riemann-Lebesgueの定理の節と Fourier変換の部分和とFourier級数の部分和の収束に関する解説を追加(全30頁). 2016年5月9日Ver.0.10: 二項分布の中心極限定理の解説を追加(全33頁). 2016年5月12日Ver.0.11: Laplaceの方法による補正項の計算の仕方の解説と \tableref{table:Stirling}を追加(全37頁). 2016年5月13日Ver.0.12(43頁): 自由度の大きなカイ2乗分布が正規分布で近似できることと Stirlingの公式が同値であるというコメントを追加した. 様々な確率分布についての付録(\secref{sec:dists})を追加した. Maxwell-Boltzmann則の導出も追加した(\secref{sec:MB1}). 2016年5月14日Ver.0.13(46頁): 細かい計算ミスを訂正し, MB則の解説を補充した. 2016年5月15~18日Ver.0.14(50頁): ギャンブルに関する逆正弦法則(\fnref{fn:arcsin}), Wignerの半円則(\fnref{fn:Wigner}), $\sin^2$ 型分布が佐藤・Tate予想に登場すること(\fnref{fn:Sato-Tate}) のコメントを追加した. 二項分布と第一種ベータ分布の関係(\secref{sec:Bin-Beta})と Poisson分布とガンマ分布の関係(\secref{sec:Poisson-Gamma})の 簡単で大雑把な解説を追加した. Stirlingの公式のよりシンプルな証明の筋道の解説(\secref{sec:pconv-2})を追加した. 細かな誤りを訂正した. 2016年5月23日Ver.0.15(57頁): 簡単なTauber型定理とその応用に関する\secref{sec:Tauber} を追加した. 応用例はWallisの公式と $x-x^2+x^4-x^8+x^{16}-\cdots$ の $x\nearrow 1$ での漸近挙動の2つ. Wallisの公式型の漸近挙動からどのようにして逆正弦分布が 出て来るかも解説してある. 2016年5月24日Ver.0.16(61頁): \theoremref{theorem:Tauber-Laplace}の証明が あまりにも雑だったので, Stone-Weierstrassの多項式近似定理から得られる \lemmaref{lemma:SW}を追加して, 詳しく書き直した. 大きく書き直した直後なので誤りが残っているものと思われる. 他にも細かな訂正と追加をした. } \\[\bigskipamount] {\small \href{http://www.math.tohoku.ac.jp/~kuroki/LaTeX/20160501StirlingFormula.pdf} {\tt http://www.math.tohoku.ac.jp/{\textasciitilde}kuroki/LaTeX/20160501StirlingFormula.pdf} }} \def\PDFTITLE{Stirlingの公式} \def\PDFAUTHOR{黒木玄} \def\PDFSUBJECT{確率論} %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \documentclass[12pt,twoside]{jarticle} \usepackage{amsmath,amssymb,amsthm} %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% %\usepackage{hyperref} \usepackage[dvipdfmx]{hyperref} \usepackage{pxjahyper} \hypersetup{% bookmarksnumbered=true,% colorlinks=true,% setpagesize=false,% pdftitle={\PDFTITLE},% pdfauthor={\PDFAUTHOR},% pdfsubject={\PDFSUBJECT},% pdfkeywords={TeX; dvipdfmx; hyperref; color;}} \newcommand\arxivref[1]{\href{http://arxiv.org/abs/#1}{\tt arXiv:#1}} \newcommand\TILDE{\textasciitilde} \newcommand\US{\textunderscore} %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \usepackage[dvipdfmx]{graphicx} \usepackage[all]{xy} %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \usepackage[dvipdfmx]{color} \newcommand\red{\color{red}} \newcommand\blue{\color{blue}} \newcommand\green{\color{green}} \newcommand\magenta{\color{magenta}} \newcommand\cyan{\color{cyan}} \newcommand\yellow{\color{yellow}} \newcommand\white{\color{white}} \newcommand\black{\color{black}} \renewcommand\r{\red} \renewcommand\b{\blue} %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \pagestyle{headings} \setlength{\oddsidemargin}{0cm} \setlength{\evensidemargin}{0cm} \setlength{\topmargin}{-1.3cm} \setlength{\textheight}{25cm} \setlength{\textwidth}{16cm} %\allowdisplaybreaks %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% %\newcommand\N{{\mathbb N}} % natural numbers \newcommand\Z{{\mathbb Z}} % rational integers \newcommand\F{{\mathbb F}} % finite field \newcommand\Q{{\mathbb Q}} % rational numbers \newcommand\R{{\mathbb R}} % real numbers \newcommand\C{{\mathbb C}} % complex numbers %\renewcommand\P{{\mathbb P}} % projective spaces \newcommand\eps{\varepsilon} \renewcommand\d{\partial} \newcommand\tf{{\tilde f}} \newcommand\tg{{\tilde g}} %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % % 定理環境 % %\theoremstyle{plain} % 見出しをボールド、本文で斜体を使う \theoremstyle{definition} % 見出しをボールド、本文で斜体を使わない \newtheorem{theorem}{定理} \newtheorem*{theorem*}{定理} % 番号を付けない \newtheorem{prop}[theorem]{命題} \newtheorem*{prop*}{命題} \newtheorem{lemma}[theorem]{補題} \newtheorem*{lemma*}{補題} \newtheorem{cor}[theorem]{系} \newtheorem*{cor*}{系} \newtheorem{example}[theorem]{例} \newtheorem*{example*}{例} \newtheorem{axiom}[theorem]{公理} \newtheorem*{axiom*}{公理} \newtheorem{problem}[theorem]{問題} \newtheorem*{problem*}{問題} \newtheorem{summary}[theorem]{要約} \newtheorem*{summary*}{要約} \newtheorem{guide}[theorem]{参考} \newtheorem*{guide*}{参考} % \theoremstyle{definition} % 見出しをボールド、本文で斜体を使わない \newtheorem{definition}[theorem]{定義} \newtheorem*{definition*}{定義} % 番号を付けない % %\theoremstyle{remark} % 見出しをイタリック、本文で斜体を使わない \theoremstyle{definition} % 見出しをボールド、本文で斜体を使わない \newtheorem{remark}[theorem]{注意} \newtheorem*{remark*}{注意} % \numberwithin{theorem}{section} \numberwithin{equation}{section} \numberwithin{figure}{section} \numberwithin{table}{section} % % 引用コマンド % \newcommand\secref[1]{第\ref{#1}節} \newcommand\theoremref[1]{定理\ref{#1}} \newcommand\propref[1]{命題\ref{#1}} \newcommand\lemmaref[1]{補題\ref{#1}} \newcommand\corref[1]{系\ref{#1}} \newcommand\exampleref[1]{例\ref{#1}} \newcommand\axiomref[1]{公理\ref{#1}} \newcommand\problemref[1]{問題\ref{#1}} \newcommand\summaryref[1]{要約\ref{#1}} \newcommand\guideref[1]{参考\ref{#1}} \newcommand\definitionref[1]{定義\ref{#1}} \newcommand\remarkref[1]{注意\ref{#1}} % \newcommand\figureref[1]{図\ref{#1}} \newcommand\tableref[1]{表\ref{#1}} \newcommand\fnref[1]{脚注\ref{#1}} % % \qed を自動で入れない proof 環境を再定義 % \makeatletter \renewenvironment{proof}[1][\proofname]{\par %\newenvironment{Proof}[1][\Proofname]{\par \normalfont \topsep6\p@\@plus6\p@ \trivlist \item[\hskip\labelsep{\bfseries #1}\@addpunct{\bfseries.}]\ignorespaces }{% \endtrivlist } \renewcommand{\proofname}{証明} %\newcommand{\Proofname}{証明} \makeatother % % 正方形の \qed を長方形に再定義 % \makeatletter \def\BOXSYMBOL{\RIfM@\bgroup\else$\bgroup\aftergroup$\fi \vcenter{\hrule\hbox{\vrule height.85em\kern.6em\vrule}\hrule}\egroup} \makeatother \newcommand{\BOX}{% \ifmmode\else\leavevmode\unskip\penalty9999\hbox{}\nobreak\hfill\fi \quad\hbox{\BOXSYMBOL}} \renewcommand\qed{\BOX} %\newcommand\QED{\BOX} %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \begin{document} %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \title{\TITLE} \author{\AUTHOR} \date{\DATE} \maketitle \tableofcontents %\pagebreak %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \setcounter{section}{-1} % 最初の節番号を0にする \section{はじめに} {\bf Stirlingの公式}とは \[ n! \sim n^n e^{-n} \sqrt{2\pi n} \qquad (n\to \infty) \] という階乗の近似公式のことである. ここで $a_n\sim b_n$ ($n\to\infty$)は $\lim_{n\to\infty}(a_n/b_n)=1$ を 意味する. より精密には \[ n! = n^n e^{-n} \sqrt{2\pi n}\left(1+\frac{1}{12n}+O\left(\frac{1}{n^2}\right)\right) \qquad (n\to \infty) \] が成立している% \footnote{\secref{sec:Laplace}を見よ.}. このノートではまず最初にガンマ分布に関する中心極限定理からStirlingの公式が ``導出''されることを説明する. その後は様々な方法でStirlingの公式を導出する. 精密かつ厳密な議論はしない. このノートの後半の付録群では関連の基礎知識の解説を行なう. このノートの全体は学生向けのGauss積分入門, ガンマ函数入門, ベータ函数入門, Fourier解析入門になることを意図して書かれた雑多な解説の寄せ集めである. 前の方の節で後の方の節で説明した結果を使うことが多いので 読者は注意して欲しい. 基本的な方針として易しい話しか扱わないことにする. \begin{table}[htbp] \caption{Stirlingの公式による階乗の近似} \label{table:Stirling} \centering \begin{tabular}{|c||c|cc|cc|} \hline $n$ & $n!$ & $A_n=n^ne^{-n}\sqrt{2\pi n}$ & ($\text{誤差}/n!$) & $A_n(1+1/(12n))$ & ($\text{誤差}/n!$) \\ \hline\hline $1$ & 1 & $0.92\cdots$ & (7.78\%) & $0.9989\cdots$ & ($0.10\%$) \\ \hline $3$ & 6 & $5.836\cdots$ & (2.73\%) & $5.998\cdots$ & ($0.028\%$) \\ \hline $10$ & 3628800 & $3598695.6\cdots$ & (0.83\%) & $3628684.7\cdots$ & ($0.0032\%$) \\ \hline $30$ & $2.6525\cdots\times10^{32}$ & $2.6451\cdots\times10^{32}$ & (0.28\%) & $2.6525\cdots\times10^{32}$ & ($3.7\times10^{-6}$) \\ \hline $100$ & $9.3326\cdots\times10^{157}$ & $9.3248\cdots\times10^{157}$ & (0.08\%) & $9.3326\cdots\times10^{157}$ & ($3.4\times10^{-7}$) \\ \hline \end{tabular} \end{table} \tableref{table:Stirling}を見ればわかるように, $n^n e^{-n}\sqrt{2\pi n}$ による $n!$ の近似の誤差は, $n=3$ の段階ですでに $3\%$ を切っており, $n=10$ の段階では $1\%$ を切っている. さらに $1/(12n)$ で補正すると誤差は劇的に小さくなり, $n=1$ の段階ですでに近似の誤差が $0.1\%$ 程度と相当に小さい: \[ \frac{\sqrt{2\pi}}{e}\left(1+\frac{1}{12}\right) = 0.9989\cdots \approx 1. \] このようにStirlingの公式は階乗の近似公式として非常に優秀である% \footnote{\href {http://www.ebyte.it/library/downloads/2007_MTH_Nemes_GammaFunction.pdf} {Gerg\"o Nemes, New aymptotic expansion for the $\Gamma(z)$ function, 2007} に階乗の様々な近似公式の比較がある. たとえば Nemes の公式 \[ n! =\left[\left(n + \frac{1}{12n-\frac{1}{10n+\cdots}}\right)\frac{1}{e}\right]^n\sqrt{2\pi n} =n^n e^{-n} \sqrt{2\pi n} \left(1+\frac{1}{12n^2}+\frac{1}{1440n^4}+\cdots \right)^n \] は極めて優秀な近似公式である. }. %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \section{ガンマ分布に関する中心極限定理からの``導出''} ガンマ分布とは次の確率密度函数で定義される確率分布のことである% \footnote{ガンマ函数は $s>0$ に対して $\Gamma(s)=\int_0^\infty e^{-x}x^{s-1}\,dx$ と定義される. 直接の計算によって $\Gamma(1)=1$ を, 部分積分によって $\Gamma(s+1)=s\Gamma(s)$ を示せるので, $0$ 以上の整数 $n$ について $\Gamma(n+1)=n!$ となる.}: \[ f_{\alpha,\tau}(x) = \begin{cases} \dfrac{e^{-x/\tau}x^{\alpha-1}}{\Gamma(\alpha)\tau^\alpha} & \qquad (x>0), \\ 0 & \qquad (x\leqq 0). \end{cases} \] ここで $\alpha,\tau>0$ はガンマ分布を決めるパラメーターである% \footnote{$\alpha$ は shape parameter と, $\tau$ は scale parameter と呼ばれているらしい. ガンマ分布の平均と分散はそれぞれ $\alpha\tau$ と $\alpha\tau^2$ になる.}. 以下簡単のため $\alpha=n>0$, $\tau=1$ の場合のガンマ分布のみを扱うため に $f_n(x)=f_{n,1}(x)$ とおく: \[ f_n(x) = \frac{e^{-x} x^{n-1}}{\Gamma(n)} \qquad (x>0). \] 確率密度函数 $f_n(x)$ で定義される確率変数を $X_n$ と書くことにする. 確率変数 $X_n$ の平均 $\mu_n$ と分散 $\sigma_n^2$ は両方 $n$ になる% \footnote{確率密度函数 $f(x)$ を持つ確率変数 $X$ に対して, 期待値汎函数が $E[g(X)]=\int_\R g(x)f(x)\,dx$ と定義され, 平均が $\mu=E[X]$ と定義され, 分散が $\sigma^2=E[(X-\mu)^2]=E[X^2]-\mu^2$ と定義される.}: \begin{align*} & \mu_n = E[X_n] = \int_0^\infty x f_n(x)\,dx = \frac{\Gamma(n+1)}{\Gamma(n)}=n, \\ & E[X_n^2] = \int_0^\infty x^2 f_n(x)\,dx = \frac{\Gamma(n+2)}{\Gamma(n)}=(n+1)n, \\ & \sigma_n^2 = E[X_n^2]-\mu_n^2 = n. \end{align*} ゆえに確率変数 $Y_n=(X_n-\mu_n)/\sigma_n=(X_n-n)/\sqrt{n}$ の 平均と分散はそれぞれ $0$ と $1$ になり, その確率密度函数は \[ \sqrt{n}f_n(\sqrt{n}y+n) = \sqrt{n}\frac{e^{-(\sqrt{n}y+n)}(\sqrt{n}y+n)^{n-1}}{\Gamma(n)} \] になる% \footnote{確率変数 $X$ の確率分布函数が $f(x)$ のとき, 確率変数 $Y$ を $Y=(X-a)/b$ と 定めると, $E[g(Y)]=\int_\R g((x-a)/b)f(x)\,dx = \int_\R g(y) b f(by+a)\,dy$ なので, $Y$ の確率分布函数は $b f(by+a)$ になる.}. この確率密度函数で $y=0$ とおくと \[ \sqrt{n}f_n(n) = \sqrt{n}\frac{e^{-n}n^{n-1}}{\Gamma(n)} = \frac{n^n e^{-n}\sqrt{n}}{\Gamma(n+1)} \] となる. $n>0$ が整数のとき $\Gamma(n+1)=n!$ なので, これが $n\to\infty$ で $1/\sqrt{2\pi}$ に収束することとStirlingの公式の成立は同値になる. ガンマ分布が再生性を満たしていることより, 中心極限定理を適用できるので, $\R$ 上の有界連続函数 $\varphi(x)$ に対して, $n\to\infty$ のとき \[ \int_0^\infty \varphi\left(\frac{x-n}{\sqrt{n}}\right)f_n(x)\,dx = \int_0^\infty \varphi(y)\sqrt{n}f_n(\sqrt{n}y+n)\,dy \longrightarrow \int_{-\infty}^\infty \varphi(y)\frac{e^{-y^2/2}}{\sqrt{2\pi}}\,dy. \] $\varphi(y)$ をデルタ函数 $\delta(y)$ に近付けることによって (すなわち確率密度函数の $y$ に $0$ を代入することによって), \[ \sqrt{n}f_n(n) = \sqrt{n}\frac{e^{-n}n^{n-1}}{\Gamma(n)} = \frac{n^n e^{-n} \sqrt{n}}{\Gamma(n+1)} \longrightarrow \frac{1}{\sqrt{2\pi}} \qquad(n\to\infty) \] を得る. この結果はStirlingの公式の成立を意味する. 以上の``導出''の最後で確率密度函数の $y$ に $0$ を代入するステップ には論理的にギャップがある. このギャップを埋めるためには 中心極限定理をブラックボックスとして利用するのではなく, 中心極限定理の特性函数を用いた証明に戻る必要がある. そのような証明の方針については次の節を見て欲しい. %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \section{ガンマ分布の特性函数を用いた表示からの導出} 前節では中心極限定理を便利なブラックボックスとして用いて Stirlingの公式を``導出''した. しかし, その``導出''には論理的なギャップがあった. そのギャップを埋めるためには, 中心極限定理が確率密度函数を特性函数(確率密度函数の逆Fourier変換)の Fourier変換で表示することによって証明されることを思い出す必要がある. この節ではガンマ分布の確率密度函数を特性函数のFourier変換で表わす公式を 用いて, 直接的にStirlingの公式を証明する% \footnote{筆者はこの証明法を \href {https://www.math.kyoto-u.ac.jp/~nobuo/pdf/prob/stir.pdf} {https://www.math.kyoto-u.ac.jp/{\textasciitilde}nobuo/pdf/prob/stir.pdf} を見て知った.}. %%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \subsection{Stirlingの公式の証明} ガンマ分布の確率密度函数 $f_n(x)=e^{-x}x^{n-1}/\Gamma(n)$ ($x>0$) の特性函数(逆Fourier変換) $F_n(t)$ は次のように計算される% \footnote{確率分布がパラメーター $n$ について再生性を持つことと 特性函数がある函数の $n$ 乗の形になることは同値である.}: \[ F_n(t) =\int_0^\infty e^{itx} f_n(x)\,dx =\frac{1}{\Gamma(n)}\int_0^\infty e^{-(1-it)x} x^{n-1}\,dx %=\frac{1}{\Gamma(n)}\frac{\Gamma(n)}{(1-it)^n} =\frac{1}{(1-it)^n}. \] ここで, 実部が正の複素数 $\alpha$ に対して \[ \frac{1}{\Gamma(n)}\int_0^\infty e^{-\alpha t} t^{n-1}\,dt = \frac{1}{\alpha^n} \] となること使った. この公式はCauchyの積分定理を使って示せる% \footnote{ Cauchyの積分定理を使わなくても示せる. 左辺を $f(\alpha)$ と書くと, $f(1)=1$ でかつ部分積分によって $f'(\alpha)=-(n/\alpha)f(\alpha)$ となることがわかるので, その公式が得られる. 正の実数 $\alpha$ に対するこの公式は $t=x/\alpha$ という 置換積分によって容易に証明される. }. Fourierの反転公式より% \footnote{Fourierの反転公式の証明の概略については\secref{sec:Fourier}を参照せよ.}, \[ f_n(x) = \frac{e^{-x} x^{n-1}}{\Gamma(n)} = \frac{1}{2\pi}\int_{-\infty}^\infty e^{-itx}F_n(t)\,dt = \frac{1}{2\pi}\int_{-\infty}^\infty \frac{e^{-itx}}{(1-it)^n}\,dt \qquad (x>0). \] この公式さえ認めてしまえばStirlingの公式の証明は易しい. この公式より, $t=\sqrt{n}u$ と置換することによって, \begin{align*} \sqrt{n}f_n(n) = \frac{n^n e^{-n}\sqrt{n}}{\Gamma(n+1)} = \frac{\sqrt{n}}{2\pi} \int_{-\infty}^\infty \frac{e^{-itn}}{(1-it)^n} \,dt = \frac{1}{2\pi} \int_{-\infty}^\infty \frac{e^{-iu\sqrt{n}}}{(1-iu/\sqrt{n})^n}\,du. \end{align*} Stirlingの公式を証明するためには, これが $n\to\infty$ で $1/\sqrt{2\pi}$ に収束することを示せばよい. そのために被積分函数の対数の様子を調べよう: \begin{align*} \log\frac{e^{-iu\sqrt{n}}}{(1-iu/\sqrt{n})^n} & =-n\log\left(1-\frac{iu}{\sqrt{n}}\right)-iu\sqrt{n} \\& =n\left(\frac{iu}{\sqrt{n}}-\frac{u^2}{2n}+o\left(\frac{1}{n}\right)\right)-iu\sqrt{n} =-\frac{u^2}{2} + o(1). \end{align*} したがって, $n\to\infty$ のとき \[ \frac{e^{-iu\sqrt{n}}}{(1-iu/\sqrt{n})^n} \longrightarrow e^{-u^2/2}. \] これより, $n\to\infty$ のとき \[ \sqrt{n}f_n(n) = \frac{n^n e^{-n}\sqrt{n}}{\Gamma(n+1)} = \frac{1}{2\pi} \int_{-\infty}^\infty \frac{e^{-iu\sqrt{n}}}{(1-iu/\sqrt{n})^n}\,du \longrightarrow \frac{1}{2\pi} \int_{-\infty}^\infty e^{-u^2/2}\,du = \frac{1}{\sqrt{2\pi}} \] となることがわかる% \footnote{厳密に証明したければ, たとえばLebesgueの収束定理を使えばよい.}. 最後の等号で一般に正の実数 $\alpha$ に対して \[ \int_{-\infty}^\infty e^{-u^2/\alpha}\,du = \sqrt{\alpha\pi} \] となることを用いた% \footnote{この公式はGauss積分の公式 $\int_{-\infty}^\infty e^{-x^2}\,dx=\sqrt{\pi}$ で $x=u/\sqrt{\alpha}$ と積分変数を変換すれば得られる. Gauss積分の公式は以下のようにして証明される. 左辺を $I$ とおくと $I^2=\int_{-\infty}^\infty\int_{-\infty}^\infty e^{-(x^2+y^2)}\,dx\,dy$ であり, $I^2$ は $z=e^{-(x^2+y^2)}$ のグラフと平面 $z=0$ で挟まれた 「小山状の領域」の体積だと解釈される. その小山の高さ $0< z\leqq 1$ における断面積は $-\pi \log z$ に なるので, その体積は $\int_0^1(-\pi\log z)\,dz=-\pi[z\log z-z]_0^1=\pi$ になる. ゆえに $I=\sqrt{\pi}$. Gauss積分の公式の不思議なところは円周率が出て来るところであり, しかもその平方根が出て来るところである. しかしその二乗が小山の体積であることがわかれば, その高さ $z$ での断面が 円盤の形になることから円周率 $\pi$ が出て来る理由がわかる. 平方根になるのは $I$ そのものを直接計算したのではなく, $I^2$ の方を計算したからである. }. % これでStirlingの公式が証明された. %%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \subsection{正規化されたガンマ分布の確率密度函数の各点収束} 確率密度函数 $f_n(x)=e^{-x}x^{n-1}$ を持つ確率変数を $X_n$ と書くとき, $Y_n=(X_n-n)/\sqrt{n}$ の平均と分散はそれぞれ $0$ と $1$ になるので あった(前節を見よ). $Y_n$ の確率密度函数は \[ \sqrt{n}f_n(\sqrt{n}y+n) =\sqrt{n}\frac{e^{-\sqrt{n}y-n}(\sqrt{n}y+n)^{n-1}}{\Gamma(n)} =\frac{e^{-n}n^{n-1/2}}{\Gamma(n)} \frac{e^{-\sqrt{n}y}(1+y/\sqrt{n})^n}{1+y/\sqrt{n}} \] になる. そして, $n\to\infty$ のとき \begin{align*} \log\left(e^{-\sqrt{n}y}\left(1+\frac{y}{\sqrt{n}}\right)^n\right) &= n\log\left(1+\frac{y}{\sqrt{n}}\right)-\sqrt{n}y \\ & =n\left(\frac{y}{\sqrt{n}}-\frac{y^2}{2n}+o\left(\frac{1}{n}\right)\right) -\sqrt{n}y =-\frac{y^2}{2}+o(1) \end{align*} なので, $n\to\infty$ で $e^{\sqrt{n}y}(1+y/\sqrt{n})^n\to e^{-y^2/2}$ と なり, さらに $1+y/\sqrt{n}\to 1$ となる. ゆえに, 次が成立することと Stirling の公式は同値になる: \[ \sqrt{n}f_n(\sqrt{n}y+n) =\sqrt{n}\frac{e^{-\sqrt{n}y-n}(\sqrt{n}y+n)^{n-1}}{\Gamma(n)} \longrightarrow \frac{e^{-y^2/2}}{\sqrt{2\pi}} \qquad (n\to\infty). \] すなわち $Y_n$ の確率密度函数が標準正規分布の確率密度函数に各点収束すること とStirlingの公式は同値である. ガンマ分布について確率密度函数の各点収束のレベルで中心極限定理が 成立していることと Stirling の公式は同じ深さにある. $Y_n$ の確率分布函数が標準正規分布の確率密度函数に各点収束することの 直接的証明は $\sqrt{n}f(n)$ の収束の証明と同様に以下のようにして得られる: \begin{align*} \sqrt{n}f_n(\sqrt{n}y+n) &= \frac{\sqrt{n}}{2\pi} \int_{-\infty}^\infty \frac{e^{-it(\sqrt{n}y+n)}}{(1-it)^n}\,dt =\frac{1}{2\pi} \int_{-\infty}^\infty e^{-iuy}\frac{e^{-it\sqrt{n}}}{(1-iu/\sqrt{n})^n}\,dt \\ & \longrightarrow \frac{1}{2\pi} \int_{-\infty}^\infty e^{-iuy}e^{-u^2/2}\,du = \frac{1}{\sqrt{2\pi}}e^{-y^2/2} \qquad(n\to\infty). \end{align*} 最後の等号で, Cauchyの積分定理より% \footnote{複素解析を使わなくても容易に証明される. たとえば, $e^{-ity}$ のTaylor展開を代入して項別積分を実行しても証明できる. もしくは, 両辺が $f'(y)=-y f(y)$, $f(0)=\sqrt{2\pi}$ を満たしていることからも 導かれる(左辺が満たしていることは部分積分すればわかる). Cauchyの積分定理を使えば 形式的に $u+iy$ ($u>0$) を $v>0$ で置き換える 置換積分を実行したのと同じように見える証明が得られる.} \[ \int_{-\infty}^\infty e^{-iuy}e^{-u^2/2}\,du =\int_{-\infty}^\infty e^{-(u+iy)^2/2-y^2/2}\,du =e^{-y^2/2}\int_{-\infty}^\infty e^{-v^2/2}\,dv =e^{-y^2/2}\sqrt{2\pi} \] となることを用いた. このように, ガンマ分布の確率密度函数の特性函数のFourier変換による表示を使えば 確率密度函数の各点収束のレベルでの中心極限定理を容易に示すことができ, その結果は Stirling の公式と同値になっている. %%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \subsection{Fourier反転公式を用いない方法} \label{sec:pconv-2} ガンマ函数の定義より, \[ n! = \Gamma(n+1)=\int_0^\infty e^{-x} x^n\,dx. \] 積分変数を $x=n+\sqrt{n}\,y=n(1+y/\sqrt{n})$ によって $y$ に変換すると, \[ n! = n^n e^{-n}\sqrt{n} \int_{-\sqrt{n}}^\infty e^{-\sqrt{n}\,y}\left(1+\frac{y}{\sqrt{n}}\right)^n\,dy. \] ゆえに \[ c_n = \frac{n!}{n^n e^{-n}\sqrt{n}}, \qquad h_n(y) = \begin{cases} e^{-\sqrt{n}\,y}(1+y/\sqrt{n})^n & (y>\sqrt{n}), \\ 0 & (y\leqq -\sqrt{n}). \end{cases} \] とおくと, $c_n=\int_{-\infty}^\infty h_n(y)\,dy$ となる. $\log h_n(y)$ の $y=0$ における Taylor 展開によって $\log h_n(y) = -y^2/2 + o(1)$ ($n\to\infty$) となることがわかるので, $\lim_{n\to\infty} h_n(y)=e^{-y^2/2}$ となることがわかる. さらに \[ \lim_{n\to\infty}\int_{-\infty}^\infty h_n(y)\,dy =\int_{-\infty}^\infty e^{-y^2/2}\,dy %\tag{$\$$} \] という積分と極限の順序の交換を示すことができれば% \footnote{$y\geqq 0$ で $h_n(y)\leqq h_1(y)=e^{-y}(1+y)$ が, $y\leqq 0$ で $h_n(y)\leqq e^{-y^2/2}$ が成立しているので, Lebesgueの収束定理を使えば容易に示すことができる. Lebesgueの収束定理を使わなくても, $|y|\leqq M$ で $h_n$ が 一様収束することを用いて示すこともできる.}, $\lim_{n\to\infty}c_n=\sqrt{2\pi}$ が得られる. すなわちStirlingの公式 \[ \lim_{n\to\infty} \frac{n!}{n^n e^{-n} \sqrt{2\pi n}}=1 \] が得られる. この筋道であればFourier解析の知識は必要ではなくなる. %積分と極限の順序交換をLebesgueの収束定理で示すためには %\[ %0\leqq h_n(y)\leqq %\begin{cases} %e^{-y}(1+y) & (y\geqq 0), \\ %e^{-y^2/2} & (y\leqq 0). %\end{cases} %\] %を示せば十分である($\phi(y)$ は可積分函数). %$y>-\sqrt{n}$ とし, $l_n(y)=\log h_n(y)$ を微分すると, %\begin{align*} %& %l'_n(y) %=\frac{\sqrt{n}}{1+y/\sqrt{n}}-\sqrt{n} %=\frac{-y}{1+y/\sqrt{n}}, %\\ & %l''_n(y)=\frac{-1}{(1+y/\sqrt{n})^2}<0, %\\ & %%\qquad %l'''_n(y)=\frac{2/\sqrt{n}}{(1+y/\sqrt{n})^3}>0, %\\ & %l_n(0)=0, \qquad\; %l'_n(0)=0, \qquad\; %l''_n(1)=-1. %\end{align*} %Taylorの定理より, 各 $y>-\sqrt{n}$ ごとにある $0<\theta<1$ が存在して, %\[ %l_n(y) = -\frac{y^2}{2} + Ay^3, \qquad %A = \frac{1}{3!}l'''_n(\theta y) = %\frac{1}{3\sqrt{n}(1+\theta y/\sqrt{n})^3} > 0. %\] %これより $\lim_{n\to\infty}l_n(y)=-y^2/2$. %ゆえに $\lim_{n\to\infty}h_n(y)=e^{-y^2/2}$ となることがわかる. % %$y\leqq 0$ のとき, %$Ay^3\leqq 0$ なので $l_n(y)\leqq e^{-y^2/2}$ となるので, %$h_n(y)\leqq e^{-y^2/2}$. % %$y\geqq 0$ と仮定し, $l_1(y)=\log(e^{-y}(1+y))$ と $l_n(y)$ ($n\geqq 1$)を比較しよう. %まず $l_1(0)=l_n(0)$ である. %そして $l'_1(y)=-y/(1+y)$, $l'_n(y)=-y/(1+y/\sqrt{n})$ %の分母を比較すると, %$\sqrt{n}\geqq 1$ より $1+y\geqq 1+y/\sqrt{n}$ なので, %$l_1'(y)\geqq l'_n(y)$ ($y\geqq 0$) となる. %ゆえに, $y\geqq 0$ のとき $l_1(y)\geqq l_n(y)$ となる. %すなわち $h_n(y)\leqq h_1(y)=e^{-y}(1+y)$ となる. % %これで示すべきことが示された. %%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \subsection{自由度が大きなカイ2乗分布が正規分布で近似できることとの関係} 独立な標準正規分布する確率変数 $n$ 個の確率変数 $X_1,\ldots,X_n$ によって $Y_n=X_1^2+\cdots+X_n^2$ と定義された確率変数 $Y_n$ の確率分布を 自由度 $n$ の{\bf カイ2乗分布}と呼ぶ. 自由度 $n$ のカイ2乗分布は shape が $\alpha=n/2$ で scale が $\tau=2$ のガンマ分布に等しい. 特に自由度 $n$ のカイ2乗分布の確率密度函数は \[ f_{n/2,2}(y) = \begin{cases} \dfrac{e^{-y/2}y^{n/2-1}}{\Gamma(n/2)2^{n/2}} & \qquad (x>0), \\ 0 & \qquad (y\leqq 0). \end{cases} \] になり, その平均と分散はそれぞれ $n$ と $2n$ になる. すなわち, \[ \int_0^\infty g(y) \frac{e^{-y/2}y^{n/2-1}}{\Gamma(n/2)2^{n/2}}\,dy =\int_{\R^n} g(x_1^2+\cdots+x_n^2) \frac{e^{-(x_1^2+\cdots+x_n^2)/2}}{(2\pi)^{n/2}}\,dx_1\cdots dx_n. \] この事実を示すためには, ガンマ分布の再生性より, $n=1$ の場合を示せば十分である. $n=1$ の場合の計算は本質的にガウス積分と $\Gamma(1/2)$ の関係そのものである. 実際, $x>0$ で $x=\sqrt{y}$ と積分変数を置換することによって \[ \int_{-\infty}^\infty g(x^2)\frac{e^{-x^2/2}}{\sqrt{2\pi}}\,dx =2\int_0^\infty g(y) \frac{e^{-y/2}}{\sqrt{2\pi}}\frac{y^{-1/2}}{2}\,dy =\int_0^\infty g(y)\frac{e^{-y/2}y^{1/2-1}}{\Gamma(1/2)2^{1/2}}\,dy. \] 最後の等号で $\Gamma(1/2)=\sqrt{\pi}$ を使った. 統計学の世界では, 自由度 $n$ を大きくすると, カイ2乗分布は平均が $n$ で分散が $2n$ の正規分布にゆっくり近付くことが よく知られている. その事実はガンマ分布の中心極限定理そのものである. そして, 前節で示したように正規化されたガンマ分布の確率密度函数が 標準正規分布に各点収束するという結果とStirlingの公式は同値 (同じ深さの結果)なのであった. 以上をまとめると次のようにも言えることがわかる: \begin{quote} 自由度 $n$ のカイ2乗分布を変数変換で平均 $0$, 分散 $1$ に正規化するとき, $n\to\infty$ でその確率密度函数が標準正規分布の確率密度函数に収束する という統計学においてよく知られている結果はStirlingの公式と同値である. \end{quote} 要するに統計学をよく知っている人は, Stirlingの公式は $n\to\infty$ でカイ2乗分布が正規分布に近づくことと同じことを意味していると思ってよい. %%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \subsection{一般の場合の中心極限定理に関する大雑把な解説} 一般の場合の中心極限定理について大雑把にかつ簡単に解説する. $X_1,X_2,X_3,\ldots$ は独立で等しい確率分布を持つ確率変数の列であるとする. さらにそれらは平均 $\mu=E[X_k]$ と分散 $\sigma^2=E[(X_k-\mu)^2]=E[X_k]^2-\mu^2$ を持つと仮定する. $Y_n=(X_1+\cdots+X_n-n\mu)/\sqrt{n\sigma^2}$ とおくと $Y_n$ の平均と分散は それぞれ $0$ と $1$ になる. このとき $n\to\infty$ の極限で $Y_n$ の確率分布が平均 $0$, 分散 $1$ の 標準正規分布に(適切な意味で)収束するというのが中心極限定理である. 記述の簡単のため $X_k$ を $(X_k-\mu)/\sigma$ で置き換えることにする. このように置き換えても $Y_n$ は変わらない. このとき $X_k$ の平均と分散はそれぞれ $0$ と $1$ になるので, $X_k$ の特性函数を $\varphi(t)=E[e^{itX_k}]$ と書くと, \[ \varphi(t) = 1 - \frac{t^2}{2} + o(t^2). \] $Y_n=(X_1+\cdots+X_n)/\sqrt{n}$ とおくと $Y_n$ の平均と分散もそれぞれ $0$ と $1$ になり, $Y_n$ の特性函数の極限は次のように計算される: \begin{align*} E[e^{itY_n}] &=\prod_{k=1}^n E[e^{itX_k/\sqrt{n}}] =\varphi\left(\frac{t}{\sqrt{n}}\right)^n \\ & =\left( 1 - \frac{t^2}{2n} + o\left(\frac{1}{n}\right) \right)^n \longrightarrow e^{-t^2/2} \qquad (n\to\infty). \end{align*} ゆえに, Fourierの反転公式より% \footnote{$\varphi(t/\sqrt{n})^n$ が可積分ならば $Y_n$ に関するFourier 反転公式の結果は函数になるが, 可積分でない場合には測度になり, 測度の収束を考えることになる.}, $Y_n$ の確率密度函数% \footnote{一般には $\R$ 上の確率測度になる.} $f_n(y)$ は \[ f_n(y) = \frac{1}{2\pi}\int_{-\infty}^\infty e^{-ity}\varphi\left(\frac{t}{\sqrt{n}}\right)^n\,dt \] になり, これは $n\to\infty$ で標準正規分布の確率密度函数 \[ \frac{1}{2\pi}\int_{-\infty}^\infty e^{-ity}e^{-t^2/2}\,dt =\frac{e^{-y^2/2}}{\sqrt{2\pi}} \] に収束する\footnote{厳密には適切な意味での収束を考える必要がある.}. %%%%%%%%%%%%%%%%%%%%%%%%%%%%%% \subsection{二項分布の中心極限定理} 以上では確率分布の「適切な意味での収束」についてほとんど何も説明 しなかった. この節ではその点について二項分布を例に用いて大雑把に説明する% \footnote{アイデアの説明はするが, 厳密な議論はしない.}. $X_n$ が二項分布する確率変数のとき, $g(X_n)$ の期待値は \[ E[g(X_n)] = \sum_{k=0}^n g(k) \binom{n}{k}p^k q^{n-k} \] と定義される. ここで $0
0$ ($a=\infty$ を含む)に対して,
\[
\int_0^a e^{-nt} t^{s-1}\,dt
= \frac{1}{n^s}\int_0^{an} e^{-x} x^{s-1}\,dx
\sim
\frac{\Gamma(s)}{n^s}
\qquad (n\to\infty).
\]
$t=x/n$ と積分変数を置換した. この公式を使えば,
\[
\int_0^a e^{-nt} (\alpha_1 t^{s_1-1} + \alpha_2 t^{s_2-1} + \cdots)\,dt
=
\frac{\alpha_1\Gamma(s_1)}{n^{s_1}} + \frac{\alpha_2\Gamma(s_2)}{n^{s_2}} + \cdots
\qquad (n\to\infty)
\]
のような計算が可能になる.
これを用いてStirlingの公式の最初の補正項 $1/(12n)$を得てみよう.
函数 $f(x)$ を
\[
f(x) = x-\log(1+x) \qquad (x>-1)
\]
と定め, 積分変数を $y=n(1+x)$ と置換することによって,
\begin{align*}
n!
&= \Gamma(n+1)
= \int_0^\infty e^{-y} y^n\,dy
\\ &
= \int_{-1}^\infty e^{-n-nx}n^n(1+x)^n n\,dx
= n^{n+1}e^{-n}\int_{-1}^\infty e^{-nf(x)}\,dx.
\end{align*}
さらに積分を $x>0$ と $x<0$ に分けることによって
\[
\frac{n!}{n^{n+1}e^{-n}}
= \int_0^\infty e^{-nf(x)}\,dx + \int_0^1 e^{-nf(-x)}\,dx.
\]
もしも $f(x)=t$ もしくは $f(-x)=t$ と
積分変数を置換できれば, 積分の形が上で説明した形に
なりそうである.
実際にそれが可能なことを確認しよう.
$f(x)=x-\log(1+x)$ の導函数は
\[
f'(x) = 1 - \frac{1}{1+x} = \frac{x}{1+x}
\]
なので $x>0$ で $f'(x)>0$ となり, $-1 0$ を持つ第一種ベータ分布の確率密度函数は
\[
f_{\alpha,\beta}(p)\,dp
=(\alpha+\beta-1)\binom{\alpha+\beta-2}{\alpha-1} p^{\alpha-1}(1-p)^{\beta-1}\,dp
\qquad (0 1$ のとき最頻値は $p=(\alpha-1)/(\alpha+\beta-2)$ になるのであった.
ゆえに $\alpha+\beta-2=n$, $\alpha-1=k$ のとき,
第一種ベータ分布の確率密度函数は
\[
f_{k+1,n-k+1}(p)\,dp
=(n+1)\binom{n}{k} p^k(1-p)^{n-k}\,dp
\qquad (0 0$ のPoisson分布にしたがうとは
\[
P(N_{\lambda T}=k) = \frac{e^{-\lambda T}(\lambda T)^k}{k!}
\qquad (k=0,1,2,3,\ldots)
\]
が成立することであると定める.
平均と分散はどちらも $\lambda T$ になる.
$T$ は測定する時間の長さを,
$\lambda$ は単位時間あたりにまれな事象が起こる回数の期待値を意味している.
特性函数は $E[e^{itN_{\lambda T}}]=e^{\lambda T(e^{it}-1)}$ となる.
Poisson分布は $\lambda T$ について再生性を持つ.
ゆえに中心極限定理より, $\lambda T$ を大きくすると,
$(N_{\lambda T}-\lambda T)/\sqrt{\lambda T}$ は標準正規分布にしたがう確率変数で近似される.
Poisson分布とガンマ分布の関係は以下の通り.
次の確率密度函数で定義される確率分布を
shape $\alpha=k+1>0$, scale $\tau=1/T$ のガンマ分布と呼ぶのであった:
\[
f_{k+1,1/T}(\lambda)\,d\lambda
=\frac{e^{-\lambda T}(\lambda T)^k}{k!}\,d\lambda
\qquad (\lambda>0).
\]
平均は $\lambda=(k+1)/T$, 分散は $(k+1)/T^2$ になり,
最頻値は $\lambda=k/T$ になる%
\footnote{$k\sim\lambda T$ ($T\to\infty$, $\lambda$ は一定)
ならば $T\to\infty$ で平均と最頻値は $\lambda$
に収束し, 分散は $0$ に収束する.}.
このことから, $T$ 単位時間の観測でまれな事象が $k$ 回起こったならば,
単位時間あたりにまれな事象が起こる回数の平均値 $\lambda$ の推定値が
shape $\alpha=k+1$, scale $\tau=1/T$ のガンマ分布にしたがっていると
みなすことが十分に合理的なことがわかる.
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{基本的な数学用語の大雑把な説明}
確率変数にその期待値(平均)を
対応させる汎函数 $E[\ \ ]$ は以下を満たしている%
\footnote{確率空間 $(\Omega,\mathcal{F},\mu)$ 上の可測函数 $X$ を確率変数と呼ぶ.
可積分函数 $X$ に $\int_\Omega X(x)\,\mu(dx)$ を対応させる汎函数
を期待値汎函数と呼び $E[\ \ ]$ と表わす.}:
\begin{itemize}
\item $E[\alpha X+\beta Y]=\alpha E[X]+\beta E[Y]$ (線形性).
\item $f\geqq 0$ ならば $E[f(X)]\geqq 0$ (単調性).
\item $E[1]=1$ (規格化条件).
\end{itemize}
たったこれだけの性質だけからかなりのことが言える.
確率変数 $X$ の平均値(期待値)が存在するとは $E\bigl[|X|\bigr]<\infty$ となることである.
そのとき $\mu_X=E[X]$ を $X$ の平均値もしくは期待値と呼ぶ.
$X$ の平均値 $\mu_X$ が存在するとき,
$(X-\mu_X)^2$ の平均値を $X$ の分散と呼び,
$\sigma_X^2$ と表わし, 分散の平方根 $\sigma_X$ を標準偏差と呼ぶ.
分散と標準偏差は無限大になることがありえる.
もしも $E\bigl[|X|^r\bigr]<\infty$ ならば $X$ の $r$ 次のモーメントが存在する
と言い, $E[X^r]$ を $X$ の $r$ 次のモーメントと言う.
$X$ の $1$ 次のモーメントは $X$ の平均 $\mu_X=E[X]$ であり,
$2$ 次のモーメントについて $E[X^2]=\sigma_X^2+\mu_X^2$
なので $\sigma_X^2=E[X^2]-E[X]^2$ となる.
確率変数 $X$ に対して $\varphi_X(t)=E[e^{itX}]$ を $X$ の特性函数と呼ぶ.
特性函数は $t$ について一様連続函数になる.
特性函数が等しい確率変数は確率分布を持つ%
\footnote{確率変数とは確率空間 $(\Omega,\mathcal{F},\mu)$ 上
の実数値可測函数 $X:\Omega\to\R$ のことである.
$\R$ のBorel部分集合 $A$ に対して $\mu_X(A)=\mu(X^{-1}(A))$ と定めることによって,
$\R$ 上の確率測度 $\mu_X$ が定まる. $\mu_X$ を確率変数 $X$ の確率分布と呼ぶ.
もしも $\mu_X$ がLebesgue測度の函数 $f(x)$ 倍と表示されるとき,
$f(x)$ を確率変数 $X$ の確率密度函数と呼ぶ.
$\R$ 上の可測函数 $g(x)$ に対して $X$ と $g$ の合成を $g(X)$ と書く.
$g(X)$ も確率変数になる.
$g(x)$ が有界連続関数のとき,
$g(X)$ の期待値は $E[g(X)]=\int_\R g(x)\,\mu_X(dx)$ と表わされる.
$X$ の確率密度函数 $f(x)$ が存在するならば $E[g(X)]=\int_\R g(x)f(x)\,dx$.
}.
確率変数 $X$, $Y$ が同じ確率分布を持つとき, $X\sim Y$ と書くことにする.
$X$ の $r$ 次以下のモーメントがすべて存在するとき,
特性函数 $\varphi_X(t)$ は $t=0$ で $r$ 回微分可能になり,
$\varphi_X^{(k)}(0)=E[X^k]$ ($k=0,1,\ldots,r$) となる.
$X$ と $Y$ は平均値と有限の分散を持つ確率変数であるとする.
このとき Cauchy-Schwarz の不等式より,
$E[|(X-\mu_X)(Y-\mu_Y)]\leqq\sigma_X\sigma_Y$ となるので,
$\sigma_{XY}=E[(X-\mu_X)(Y-\mu_Y)]$ がwell-definedになり,
$\bigl|E[(X-\mu_X)(Y-\mu_Y)]\bigr|\leqq\sigma_X\sigma_Y$ となる.
$\sigma_{XY}$ を $X$ と $Y$ の共分散と呼ぶ.
$\rho_{XY}=\sigma_{XY}/(\sigma_X\sigma_Y)$ を$X$ と $Y$ の相関係数と呼ぶ.
相関係数の絶対値は $1$ 以下になる.
共分散は線形代数での「ベクトルの内積」に対応し,
相関係数は「ベクトルのあいだの角度を $\theta$ と書くときの $\cos\theta$」
に対応している.
確率変数 $X$ を平均が $0$ になるように値を平行移動した $X-\mu_X$
はベクトルの類似物であり, $E(X-\mu_X)(Y-\mu_Y)]$ が内積の類似物であることを
理解できれば, 線形代数学で学んだことがすべて役に立つ.
確率変数たち $X_i$ が独立であるとは,
$i_1,\ldots,i_r$ が互いに異なるとき,
\[
E[f_1(X_{i_1})\cdots f_r(X_{i_r})]
=
E[f_1(X_{i_1})]\cdots E[f_r(X_{i_r})]
\]
が成立することである($f_k$ たちは有界な連続函数).
$X$ と $Y$ が独立ならば $X$ と $Y$ の共分散と相関係数は $0$ になるが,
逆は成立しない.
$D_\alpha$ はパラメーター $\alpha>0$ を持つ確率変数であるとし,
$X\sim D_\alpha$, $Y\sim D_\beta$ であり, $X,Y$ は独立であるとする.
このとき, もしも $X+Y\sim D_{\alpha+\beta}$ が成立するとき,
$D_\alpha$ の確率分布は再生性を持つと言う.
確率変数 $X_1,\ldots,X_r$ が独立であるとき,
$\varphi_{X_1+\cdots+X_r}=\prod_{i=k}^r\varphi_{X_k}$ が成立する.
ゆえに, $\varphi_{D_\alpha}=\phi^\alpha$ が成立することと,
$D_\alpha$ の確率分布は再生性を持つことは同値である.
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{簡単なTauber型定理とその応用}
\label{sec:Tauber}
\subsection{不定積分型}
\begin{theorem}
$f(t)$ は $t>0$ で定義された正値単調減少%
\footnote{$x\leqq x'$ ならば $f(x)\geqq f(x')$ が成立することを「単調減少」と呼んでいる.
字義通りに解釈できるようにするためには「非増加函数」と呼ぶべきかもしれないが,
慣習に合わせてこのように呼んでいる.}%
函数であるとし, $\alpha,a>0$ であるとする. このとき
\[
\int_0^x f(t)\,dt \sim a x^\alpha \qquad (x\to\infty)
\]
ならば%
\footnote{$F(x)\sim G(x)$ ($x\to\infty$) は
$\lim_{x\to\infty}(F(x)/G(x))=1$ を意味する},
\[
f(x) \sim a \alpha x^{\alpha-1} \qquad (x\to\infty)
\]
が成立する. (この結論の式は前提の式の両辺を形式的に $x$ で微分した形をしている.)
\end{theorem}
\begin{proof}
$f$ が単調減少函数であることより, 任意の $c>1$ に対して,
\[
\frac{\int_0^{cx} f(t)\,dt-\int_0^x f(t)\,dt}{cx-x}
\leqq
f(x)
\leqq
\frac{\int_0^x f(t)\,dt-\int_0^{c^{-1}x} f(t)\,dt}{x-c^{-1}x}.
\]
これの全体を $ax^{\alpha-1}$ で割ると,
\[
\frac{\dfrac{\int_0^{cx} f(t)\,dt}{ax^\alpha}-\dfrac{\int_0^x f(t)\,dt}{ax^\alpha}}{c-1}
\leqq
\frac{f(x)}{ax^{\alpha-1}}
\leqq
\frac{\dfrac{\int_0^x f(t)\,dt}{ax^{\alpha}}-\dfrac{\int_0^{c^{-1}x} f(t)\,dt}{ax^\alpha}}{1-c^{-1}}.
\]
ゆえに $x\to\infty$ とすることによって%
\footnote{$\int_0^{cx}f(t)\,dt\sim ac^\alpha x^\alpha$ ($x\to\infty$) を用いる.},
\[
\frac{c^\alpha-1}{c-1}
\leqq
\liminf_{x\to\infty}\frac{f(x)}{ax^{\alpha-1}}
\leqq
\limsup_{x\to\infty}\frac{f(x)}{ax^{\alpha-1}}
\leqq
\frac{1-c^{-\alpha}}{1-c^{-1}}.
\]
さらに $c\searrow 1$ とすることによって
\[
\alpha
\leqq
\liminf_{x\to\infty}\frac{f(x)}{ax^{\alpha-1}}
\leqq
\limsup_{x\to\infty}\frac{f(x)}{ax^{\alpha-1}}
\leqq
\alpha.
\]
を得る. ゆえに
\[
\lim_{x\to\infty}\frac{f(x)}{ax^{\alpha-1}}=\alpha, \qquad
\text{つまり} \quad f(x)\sim a\alpha x^{\alpha-1} \quad(x\to\infty).
\]
これで示すべきことが示された.
\qed
\end{proof}
正値単調減少数列 $a_n$ に対して $f(n)=a_n$ を満たす正値単調減少函数 $f(t)$ を
適切に定めることによって次の結果が得られる.
\begin{cor}
$a_1,a_2,a_3,\ldots$ は正値単調減少数列であるとし, $a,\alpha>0$ であるとする.
このとき
\[
\sum_{k=1}^n a_k \sim a n^\alpha \qquad (n\to\infty)
\]
ならば
\[
a_n \sim a\alpha n^{\alpha-1} \qquad (n\to\infty)
\]
が成立する.
\qed
\end{cor}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{Laplace変換型}
Stone-Weierstrassの多項式近似定理%
\footnote{閉区間上の任意の連続函数が多項式函数で一様近似されるという定理.}%
を用いてまず次を示そう.
\begin{lemma}
\label{lemma:SW}
$\phi(y)$ は閉区間 $[0,1]$ 上の非負値可積分函数であるとし,
$g(y)$ は閉区間 $[0,1]$ 上の函数で一点 $c\in(0,1)$ でのみ
不連続で他の点では連続であるものであるとし,
極限 $g(c\pm 0)=\lim_{\eps\searrow 0}g(c\pm\eps)$ が存在すると仮定する.
このとき, 任意の $\eps>0$ に対して, 多項式函数 $P(y)$, $Q(y)$ で
\begin{align*}
&
P(y)\leqq g(y)\leqq Q(y) \quad (0\leqq y\leqq 1),
\\ &
\int_0^1 g(y)\phi(y)\,dy-\eps
\leqq
\int_0^1 P(y)\phi(y)\,dy
\leqq
\int_0^1 g(y)\phi(y)\,dy,
\\ &
\int_0^1 g(y)\phi(y)\,dy
\leqq
\int_0^1 Q(y)\phi(y)\,dy
\leqq
\int_0^1 g(y)\phi(y)\,dy+\eps
\end{align*}
を満たすものが存在する.
\end{lemma}
\begin{proof}
条件を満たす $Q(y)$ の存在のみを示せばよい.
($g(y)$ の代わりに $-g(y)$ を考えれば $P(y)$ の存在も示される.)
さらに $g(c-0)\leqq g(c+0)$ と仮定してよい.
($g(c-0)\geqq g(c+0)$ ならば $g(y)$ の代わりに $-g(y)$ を考えればよい.)
$\phi(y)$ は非負値可積分函数なので $N=\int_0^1|\phi(y)|\,dy=\int_0^1\phi(y)\,dy$
とおくと $N<\infty$ である.
$g(y)$ は $[0,1]$ 上有界なので, ある $M>0$ で $|g(y)|\leqq M$
($0\leqq y\leqq 1$) をみたすものを取っておく.
任意に $\eps>0$ を取る.
$c$ 未満の $\delta>0$ に対して,
$g(y)$ を近似する連続函数 $g_\delta(y)$ を次のように定める:
\[
g_\delta(y)=
\begin{cases}
g(y) & (0\leqq y\leqq c-\delta), \\
\max\{a(y-c)+g(c+0), g(y) \} & (c-\delta\leqq y\leqq c), \\
g(y) & (c\leqq y\leqq 1).
\end{cases}
\]
ここで $a=(g(c+0)-g(c-\delta))/\delta$ であり,
$a(y-c)+g(c+0)=a(y-(c-\delta))+g(c-\delta)$ であることに注意せよ.
定義より
\[
-M\leqq g(y)\leqq g_\delta(y)\leqq M \qquad (0\leqq y\leqq 1)
\]
となっている.
$|g_\delta(y)\phi(y)|\leqq M|\phi(y)|$ ($0\leqq y\leqq 1$) かつ
$\lim_{\delta\searrow 0}g_\delta(y)\phi(y)=g(y)\phi(y)$ ($y\ne c$) なので
Lebesgueの収束定理より,
\[
\lim_{\delta\searrow}\int_0^1 g_\delta(y)\phi(y)\,dy = \int_0^1 g(y)\phi(y)\,dy.
\]
このことを使って, $\delta>0$ を十分小さくして
\[
\int_0^1 g(y)\phi(y)\,dy
\leqq
\int_0^1 g_\delta(y)\phi(y)\,dy
\leqq
\int_0^1 g(y)\phi(y)\,dy + \frac{\eps}{3}
\]
となるようにしておく.
Stone-Weierstrassの多項式近似定理より, ある多項式函数 $Q(y)$ で
\[
\left|Q(y)-g_\delta(y)-\frac{\eps}{3N}\right|\leqq\frac{\eps}{3N} \qquad (0\leqq y\leqq 1)
\]
を満たすものが存在する.
このとき $g(y)\leqq g_\delta(y)\leqq Q(y)$ ($0\leqq y\leqq 1$) が成立しており,
\begin{align*}
&
\int_0^1 Q(y)\phi(y)\,dy
\\ &
\leqq
\int_0^1 \left|Q(y)-g_\delta(y)-\frac{\eps}{3N}\right|\phi(y)\,dy
+\int_0^1g_\delta(y)\phi(y)\,dy + \int_0^1 \frac{\eps}{3N}\phi(y)\,dy
\\ &
\leqq
\frac{\eps}{3N}\int_0^1\phi(y)\,dy
+\int_0^1g(y)\phi(y)\,dy + \frac{\eps}{3}
+\frac{\eps}{3N}\int_0^1\phi(y)\,dy
\\ &
=\frac{\eps}{3N}N+\int_0^1g(y)\phi(y)\,dy+\frac{\eps}{3}+\frac{\eps}{3N}N
\\ &
=\int_0^1g(y)\phi(y)\,dy+\eps.
\end{align*}
これで示すべきことが示された.
\qed
\end{proof}
\begin{theorem}
\label{theorem:Tauber-Laplace}
$f(t)$ は $t>0$ で定義された非負値可測函数であるとし,
任意の $x>0$ に対して $e^{-xt}f(t)$ は $t>0$ で可積分であると仮定する.
$a,\alpha>0$ であるとする. このとき
\[
F(x):=\int_0^\infty e^{-xt}f(t)\,dt \sim \frac{a}{x^\alpha}
\qquad (x\searrow 0)
\]
ならば
\[
\int_0^{1/x} f(t)\,dt \sim \frac{a}{x^\alpha}\frac{1}{\Gamma(\alpha+1)}
\qquad (x\searrow 0).
\]
が成立する. (ガンマ函数が出て来る理由は以下の証明を見ればわかる.)
\end{theorem}
\begin{proof}
仮定より $k=0,1,2,\ldots$ に対して,
\begin{align*}
F((k+1)x)
&=\int_0^\infty e^{-xt}\left(e^{-xt}\right)^k f(t)\,dt
\\ &
\sim \frac{a}{(k+1)^\alpha x^\alpha}
=\frac{a}{x^\alpha}\frac{1}{\Gamma(\alpha)}
\int_0^\infty e^{-t}\left(e^{-t}\right)^k t^{\alpha-1}\,dt
\qquad(x\searrow 0).
\end{align*}
ここで次の公式を使った:
\[
\frac{1}{c^\alpha} = \frac{1}{\Gamma(\alpha)}\int_0^\infty e^{-ct} t^{\alpha-1}\,dt
\qquad (c>0).
\]
したがって任意の多項式函数 $p(y)$ について
\[
\int_0^\infty e^{-xt}p(e^{-xt})f(t)\,dt
\sim
\frac{a}{x^\alpha}\frac{1}{\Gamma(\alpha)}\int_0^\infty e^{-t}p(e^{-t})t^{\alpha-1}\,dt
\qquad(x\searrow 0).
\]
閉区間 $[0,1]$ 上の可積分函数 $\phi(y)$ を
\[
\phi(y)=(-\log y)^{\alpha-1}\quad (00$ で成立している. ゆえに
\[
\frac{n^s n!}{s(s+1)\cdots(s+n)}
=\frac{n^s\Gamma(s)\Gamma(n+1)}{\Gamma(s+n+1)}
\longrightarrow
\Gamma(s)
\qquad(n\to\infty).
\]
このように, ガンマ函数の正値性, 対数凸性, 函数等式による特徴付けを
経由せずに, 直接的にガンマ函数に関するGaussの公式を(したがって無限乗積展開も)
得ることは易しい. 以上によって次の公式も証明されたことになる:
\[
\lim_{n\to\infty}n^s B(s,n+1)=\Gamma(s).
\]
まとめ:
\[
\Gamma(s)
=\lim_{n\to\infty}n^sB(s,n+1)
=\lim_{n\to\infty}\frac{n^s n!}{s(s+1)\cdots(s+n)}
=\frac{1}{e^{\gamma s}s}\prod_{n=1}^\infty\left[\left(1+\frac{s}{n}\right)e^{-s/n}\right]^{-1}.
\]
ここで $\gamma$ はEuler定数である.
\subsection{正弦函数の無限乗積展開}
ガンマ函数の無限乗積展開の応用として $\sin z$ の無限乗積展開を証明しよう.
積分の順序交換を用いて証明されるガンマ函数とベータ函数の関係と
複素解析を用いて証明されるベータ函数と正弦函数の関係より
\[
\Gamma(s)\Gamma(1-s)=B(s,1-s)=\frac{\pi}{\sin(\pi s)}.
\]
一方, ガンマ函数の無限乗積展開より,
\[
\frac{1}{\Gamma(s)\Gamma(1-s)}
=\frac{1}{\Gamma(s)(-s)\Gamma(-s)}
=s\prod_{n=1}^\infty\left(1-\frac{s^2}{n^2}\right).
\]
以上を比較すると,
\[
\sin(\pi s)=\pi s\prod_{n=1}^\infty\left(1-\frac{s^2}{n^2}\right),
\qquad\therefore\quad
\sin z=z\prod_{n=1}^\infty\left(1-\frac{z^2}{\pi^2n^2}\right).
\]
このように, $\sin(\pi s)=\pi/(\Gamma(s)(-s)\Gamma(-s))$ なので
ガンマ函数の無限乗積展開\footnote{直接証明すれば易しい.}から
正弦函数の無限乗積展開が得られるのである.
正弦函数の無限乗積展開を直接示すためには,
$\sin z$ の対数微分 $\cot z$ の部分分数展開
\[
\cot z
= \frac{1}{z}
+ \sum_{n=1}^\infty\left(\frac{1}{z-n\pi}+\frac{1}{z+n\pi}\right)
\]
を複素解析を用いて証明し, 項別に積分すればよい.
詳しくは高木貞治『解析概論』の235頁を見よ.
以下では, 複素解析ではなく,
Fourier級数の理論を使って正弦函数の無限乗積展開を得る方法
を紹介しておこう\footnote{以下では厳密な議論はしないが,
Fourier級数の収束については\secref{sec:Fseries-N}を参照せよ.}.
まず $x$ の函数 $\cos(tx)$ の $-\pi\leqq x\leqq\pi$ での値のFourier級数展開を求め,
そこから $\cot(\pi t)$ の部分分数展開が得られることを示そう%
\footnote{$x$ の偶函数 $\cos(tx)$ の $-\pi\leqq x\leqq\pi$ での値を周期 $2\pi$
で $\R$ 全体に拡張して得られる連続周期函数 $f_t(x)$ のFourier級数を考える.
$\cos(tx)$ の $0\leqq x<2\pi$ での値を周期 $2\pi$ で拡張するのではない
ことに注意せよ.
}.
$e^{itx}$ の Fourier係数は
\begin{align*}
a_n
&= \frac{1}{2\pi}\int_{-\pi}^\pi e^{-inx}e^{itx}\,dx
=\frac{1}{2\pi}\left[ \frac{e^{-inx}e^{itx}}{i(t-n)} \right]_{x=-\pi}^{x=\pi}
\\ &
=\frac{(-1)^n(e^{i\pi t}-e^{-i\pi t})}{2\pi i(t-n)}
=(-1)^n\frac{\sin(\pi t)}{\pi}\frac{1}{t-n}
\end{align*}
なので, $e^{itx}$ のFourier級数展開は
\begin{align*}
e^{itx}
&=\lim_{N\to\infty} \sum_{n=-N}^N a_n e^{inx}
=\frac{\sin(\pi t)}{\pi}
\lim_{N\to\infty} \sum_{n=-N}^N \frac{(-1)^n e^{inx}}{t-n}
\\ &
=\frac{\sin(\pi t)}{\pi} \left[
\frac{1}{t}
+ \sum_{n=1}^\infty (-1)^n
\left(\frac{e^{inx}}{t-n}+\frac{e^{-inx}}{t+n} \right)
\right]
\\ &
=\frac{\sin(\pi t)}{\pi} \left[
\frac{1}{t}
+ \sum_{n=1}^\infty (-1)^n
\left(\frac{2t\cos(nx)}{t^2-n^2}+i\frac{2n\sin(nx)}{t^2-n^2} \right)
\right]
\end{align*}
になる. ゆえに $\cos(tx)$ のFourier級数展開は
\[
\cos(tx)
=\frac{\sin(\pi t)}{\pi}
\left[
\frac{1}{t} + \sum_{n=1}^\infty (-1)^n\frac{2t\cos(nx)}{t^2-n^2}
\right]
\]
になる. したがって,
\[
\pi\cot(tx)
=\frac{\pi\cos(\pi t)}{\sin(\pi t)}
=\frac{1}{t} + \sum_{n=1}^\infty (-1)^n\frac{2t\cos(nx)}{t^2-n^2}
\]
両辺の $x\to\pi$ での極限を取ることによって,
\[
\pi\cot(\pi t)
=\frac{1}{t} + \sum_{n=1}^\infty\frac{2t}{t^2-n^2}
=\frac{1}{t} + \sum_{n=1}^\infty\left(\frac{1}{t-n}+\frac{1}{t+n}\right)
\]
を得る%
\footnote{$\coth z=-i\cot(-iz)$ より,
\(\displaystyle
\coth(\pi t)=-i\pi\cot(-\pi i t)
=\frac{1}{t} + \sum_{n=1}^\infty\frac{2t}{t^2+n^2}.
\)}.
$\sin(\pi t)$ の対数微分は $\pi\cot(\pi t)$ に等しいので,
\[
\frac{d}{dt}\log\frac{\sin(\pi t)}{\pi t}
=\sum_{n=1}^\infty\left(\frac{1}{t-n}+\frac{1}{t+n}\right)
=\sum_{n=1}^\infty\left( \frac{-1/n}{1-t/n} + \frac{1/n}{1+t/n} \right).
\]
両辺を $t=0$ から $t=s$ まで積分すると,
\[
\log\frac{\sin(\pi s)}{\pi s}
=\sum_{n=1}^\infty
\left(\log\left( 1-\frac{s}{n} \right)+\log\left( 1+\frac{s}{n} \right)\right)
=\log\prod_{n=1}^\infty\left( 1-\frac{s^2}{n^2} \right)
\]
したがって, 次が得られる%
\footnote{$\sinh z=i\sin(-iz)$ より,
\(\displaystyle
\sinh(\pi s)=\pi s \prod_{n=1}^\infty\left(1+\frac{s^2}{n^2}\right).
\)
}
\[
\sin(\pi s)
=\pi s \prod_{n=1}^\infty\left( 1-\frac{s^2}{n^2} \right).
\]
$\sin$ の無限乗積展開とガンマ函数の無限乗積展開の公式を認めて使うことを許せば,
$1/(\Gamma(s)\Gamma(1-s))$ と $\sin(\pi s)$ を比較することによって
\[
\Gamma(s)\Gamma(1-s)=\frac{\pi}{\sin(\pi s)}
\]
を示せる. さらに $\Gamma(p)\Gamma(q)=\Gamma(p+q)B(p,q)$ を
1変数の積分の置換積分と積分の順序交換のみを用いて容易に証明できることを
使えば, 次の公式も得られる:
\[
\frac{\pi}{\sin(\pi s)}
=B(s,1-s)
=\int_0^1x^s(1-x)^{1-s}\,dx
=\int_0^\infty \frac{t^{s-1}\,dt}{1+t}
=\frac{1}{s}\int_0^\infty\frac{du}{1+u^{1/s}}.
\]
これらの公式はどれか一つを証明できれば他も芋づる式に得られるようになっている.
\subsection{Wallisの公式}
\label{sec:Wallis}
次の公式は{\bf Wallisの公式}と呼ばれている:
\[
\lim_{n\to\infty}\frac{2^{2n}(n!)^2}{(2n)!\sqrt{n}}
=\sqrt{\pi},
\qquad
\text{\it i.e.}\quad
\binom{2n}{n}\sim\frac{2^{2n}}{\sqrt{\pi n}}.
\]
Wallisの公式の面白いところは円周率の平方根が
整数の比の極限で表わされているところである.
Wallisの公式はガンマ函数に関するGaussの公式に $s=1/2$ を代入すれば得られる:
\begin{align*}
\sqrt{\pi}&
=\Gamma(1/2)
=\lim_{n\to\infty}\frac{n^{1/2} n!}{(1/2)(1/2+1)\cdots(1/2+n)}
\\ &
=\lim_{n\to\infty}
\frac{2^{n+1}n^{1/2}n!}{1\cdot3\cdots(2n+1)}
=\lim_{n\to\infty}
\frac{2^{n+1}n^{1/2}n!}{1\cdot3\cdots(2n+1)}\frac{2^n n!}{2\cdot4\cdots(2n)}
\\ &
=\lim_{n\to\infty}
\frac{2^{2n+1}n^{1/2}(n!)^2}{(2n+1)!}
=\lim_{n\to\infty}
\frac{2^{2n}(n!)^2}{(2n)!}\frac{2n^{1/2}}{2n+1}
=\lim_{n\to\infty}
\frac{2^{2n}(n!)^2}{(2n)!\sqrt{n}}.
\end{align*}
次の公式も{\bf Wallisの公式}と呼ばれている:
\[
\prod_{n=1}^\infty\frac{2n\cdot 2n}{(2n-1)(2n+1)} = \frac{\pi}{2}.
\]
この公式は次の公式で $s=1/2$ とおけば得られる:
\[
\sin(\pi s)
= \frac{\pi}{\Gamma(s)\Gamma(1-s)}
= \pi s\prod_{n=1}^\infty\left(1-\frac{s^2}{n^2}\right).
\]
実際,
\[
1=\sin\left(\frac{\pi}{2}\right)
=\frac{\pi}{2}\prod_{n=1}^\infty\left(1-\frac{1}{(2n)^2}\right)
=\frac{\pi}{2}\prod_{n=1}^\infty\frac{(2n-1)(2n+1)}{2n\cdot 2n}.
\]
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%\subsection{Tauber型定理を用いたWallisの公式の証明}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{付録: 様々な確率分布について}
\label{sec:dists}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{正規分布}
\label{sec:normal}
次の確率密度函数で定義される確率分布を
平均 $\mu$, 分散 $\sigma$ の正規分布と呼ぶ:
\[
f_{\mu,\sigma}(x)\,dx
=\frac{e^{-(x-\mu)^2/(2\sigma^2)}}{\sqrt{2\pi \sigma^2}}\,dx.
\]
平均 $0$, 分散 $1$ の正規分布を標準正規分布と呼ぶ.
\paragraph{再生性}
独立な確率変数 $X$, $Y$ がそれぞれ平均 $\mu_X,\mu_Y$, 分散 $\sigma_X^2,\sigma_Y^2$
の正規分布にしたがうとき, $X+Y$ は平均 $\mu_X+\mu_Y$, 分散 $\sigma_X^2+\sigma_Y^2$ の
正規分布にしたがう.
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{ガンマ分布とカイ2乗分布}
\label{sec:Gamma}
次の確率密度函数で定義される確率分布を
shape $\alpha>0$, scale $\tau>0$ のガンマ分布と呼ぶ:
\[
f_{\alpha,\tau}(x)\,dx
=\frac{e^{-x/\tau}x^{\alpha-1}}{\Gamma(\alpha)\tau^\alpha}\,dx
=\frac{e^{-x/\tau}(x/\tau)^\alpha}{\Gamma(\alpha)}\frac{dx}{x}
\qquad (x>0).
\]
平均は $x=\alpha\tau$, 分散は $\alpha\tau^2$ であり,
$\alpha\geqq 0$ のとき最頻値は $x=(\alpha-1)\tau$ になる.
\paragraph{再生性}
独立な確率変数 $X,Y$ がそれぞれ shape $\alpha_X,\alpha_Y$, scale $\tau,\tau$ の
ガンマ分布にしたがうとき, $X+Y$ は shape $\alpha_X+\alpha_Y$, scale $\tau$ の
ガンマ分布にしたがう.
カイ2乗分布($\chi^2$ 分布)はガンマ分布の特別な場合である.
すなわち, shape $n/2$, scale $2$ のガンマ分布を
自由度 $n$ のカイ2乗分布($\chi^2$ 分布)と呼ぶ.
カイ2乗分布は自由度 $n$ について再生性を持つ.
確率変数 $X_1,\ldots,X_n$ が標準正規分布にしたがうとき,
$Y=X_1^2+\cdots+X_n^2$ は自由度 $n$ のカイ2乗分布にしたがう.
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{第二種ベータ分布と $t$ 分布}
\label{sec:Beta2nd}
次の確率密度函数で定義される確率分布を
パラメーター $\alpha,\beta>0$ を持つ第二種ベータ分布
(Beta distribution of the second kind もしくは Beta prime distribution)と呼ぶ:
\[
\tf_{\alpha,\beta}(x)\,dx
=\frac{1}{B(\alpha,\beta)}\frac{x^{\alpha-1}}{(1+x)^{\alpha+\beta}}\,dx
\qquad (x>0).
\]
$\beta>1$ ならば平均は $\alpha/(\beta-1)$ になり,
$\beta>2$ ならば分散は $(\alpha(\alpha+\beta-1))/((\beta-2)(\beta-1)^2)$ になる.
第2種ベータ分布の確率密度函数に $x=t^2/\gamma$ ($\gamma>0$) を代入して,
確率分布を $-\infty