Stirling's approximation

Appendix Jun 24, 2025

Definition

\[n!\sim\sqrt{2\pi n}\left(\frac{n}{e}\right)^n\] \(n\rightarrow\infty\) 일때, 비가 \(1\) 이 된다는 뜻

Proof

먼저, 증명을 위해서 \(n!\) 을 감마 함수 표현으로 고치도록 하자.

\[n! = \Gamma(n+1) = \int\nolimits_{0}^{\infty}x^n e^{-x}\mathrm{d}x\]

이때, 피적분 함수가 감마 분포를 따른다는 것을 알 수 있다.

감마 분포의 확률 밀도 함수
\[f(x;k,\theta) = x^{k-1}\frac{e^{-x/\theta}}{\theta^k\Gamma(k)}\space \texttt{for}\space x>0\]
이때, \(k(>0)\) 는 형상모수이고, \(\theta(>0)\) 는 척도모수이다. 둘다 상수이다.

감마 분포는 \(n\) 이 매우 클 경우 중심 극한 정리에 의해 정규 분포로 근사될 수 있다. 그렇다면 근사를 위해서 우리가 더 다루기 쉬운 꼴인 정규 분포의 형태로 식을 바꿔 보자.

중심 극한 정리

피적분 함수의 꼴을 바꿔보면,

\[x^n e^{-x} = e^{n\ln x -x}\]

이제 \(y = x-n\)으로 치환하고 식을 전개하면,

\[n\ln x -x = n\ln(n+y)-n-y\\ \space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space=n\ln\left[n\left(1+\frac{y}{n}\right)\right]-n-y\\ \space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space\space=n\ln n -n + n\ln\left(1+\frac{y}{n}\right)-y\]

이제, 여기서 정규 분포의 형태를 얻기 위해서 \(\ln\left(1+\frac{y}{n}\right)\) 를 테일러 전개하여 2 차 항까지 나타내면,

\[\ln\left(1 + \frac{y}{n}\right) \approx \frac{y}{n} - \frac{1}{2} \left(\frac{y}{n}\right)^2\]

위의 식을 대입하여 최종적인 피적분 함수의 근사식을 구하면,

\[x^n e^{-x} \approx n^n e^{-n} e^{-\frac{y^2}{2n}}\]

이때 감마 분포를 정규분포에 근사하였기 때문에, \(y<0\)인 영역은 0에 가깝다. 따라서 모든 \(y\)에 대하여 적분하면,

\[n! = \int_0^\infty x^n e^{-x} \,\mathrm{d}x \approx n^n e^{-n} \int_{-\infty}^\infty e^{-\frac{y^2}{2n}} \, \mathrm{d}y = n^n e^{-n} \sqrt{2\pi n}\]

\[\therefore n!\sim\sqrt{2\pi n}\left(\frac{n}{e}\right)^n\]