ガンマ関数は \(z^2 = x\) という変数変換を用いると以下のように変換できる
\[
\begin{align*}
\operatorname{\Gamma}(a) &= \int^\infty_0 x^{a-1}\exp(-x)\mathrm{d}x \\
&= \int^\infty_0 z^{2a-2}\exp(-z^2)\frac{\mathrm{d}x}{\mathrm{d}z}\mathrm{d}z \\
&= 2\int^\infty_0 z^{2a-1}\exp(-z^2)\mathrm{d}z
\end{align*}
\]
これを用いて
\[
\begin{align*}
\operatorname{\Gamma}(a)\operatorname{\Gamma}(b) &= 4\int^\infty_0 x^{2a-1}\exp(-x^2)\mathrm{d}x \int^\infty_0 y^{2b-1}\exp(-y^2)\mathrm{d}y \\
&= 4\int^\infty_0 \int^\infty_0 x^{2a-1}y^{2b-1}\exp(-(x^2+y^2))\mathrm{d}x \mathrm{d}y
\end{align*}
\]
ここで, \(x = r\cos\theta, y=r\sin\theta\) という変数変換を行う.このときのヤコビアンは
\[
\vert \operatorname{det} J \vert = r
\]
よって, \[
\begin{align*}
\operatorname{\Gamma}(a)\operatorname{\Gamma}(b) &= 4\int^\infty_0 \int^\infty_0 x^{2a-1}y^{2b-1}\exp(-(x^2+y^2))\mathrm{d}x \mathrm{d}y\\
&= 4\int^{\pi/2}_0 \int^\infty_0 r^{2a+2b-2} \cos^{2a-1}\theta \sin^{2b-1}\theta \exp(-r^2) r \mathrm{d}r \mathrm{d}\theta\\
&= \left(2\int^{\pi/2}_0 \cos^{2a-1}\theta \sin^{2b-1}\theta \mathrm{d}\theta\right) \times \left(\int^\infty_0r^{2(a+b)-1}\exp(-r^2)\mathrm{d}r \right)\\
&= \operatorname{B}(a, b) \times \operatorname{\Gamma}(a+b)
\end{align*}
\]
従って,
\[
\operatorname{B}(a, b) = \frac{\Gamma(a)\Gamma(b)}{\operatorname{\Gamma}(a+b)}
\]