No tengo una copia de Rudin, pero puede dar una prueba de ello. Hay varias maneras de jugar un poco con la forma integral para lograr lo que quiere, aunque no estoy seguro de cuál es el método más limpio.
Una forma es utilizar el hecho de que $1_{\{t\le n\}}(1-t/n)^n\to e^{-t}$ escribir $\Gamma(x)$
$$
\begin{align}
\Gamma(x)&=\lim_{n\to\infty}\int_0^nt^{x-1}(1-t/n)^{n}\,dt\\
&=\lim_{n\to\infty}n^x\int_0^1s^{x-1}(1-s)^n\,ds.
\end{align}
$$
Para demostrar que la primera integral desplazamientos con el límite, se podría utilizar el teorema de convergencia dominada. La segunda integral es sólo mediante la sustitución de $t=ns$.
Necesita ser demostrado que esta integral es igual a la función $f_n(x)$. De hecho, he de reconocer tanto la función de $f_n$ y la integral como beta funciones.
$$
\int_0^1^{x-1}(1-s)^n\,ds=B(x,n+1)
$$
Para encontrar la forma explícita para ello, puede utilizar $B(x,y)=\Gamma(x)\Gamma(y)/\Gamma(x+y)$ (una prueba es dada en la página de la Wikipedia) o repetidamente aplicar la identidad de $B(x,n+1)=B(x+1,n)n/x$ (que es la continuación de integración por partes) y $B(x,1)=1/x$.
Nota: también puede aplicar una argumentación similar a la anterior, utilizando el límite de $(1+t/n)^{-n}\to e^{-t}$, lo que hice en mi primera versión de esta respuesta. El uso de $(1-t/n)^n\to e^{-t}$ parece más limpio, así que la he editado la respuesta en consecuencia.
Un método alternativo es escribir
$$
\begin{align}
\Gamma(x) &= \frac{\Gamma(x+n+1)}{\Gamma(n+1)}\frac{\Gamma(n+1)\Gamma(x)}{\Gamma(x+n+1)}\\
&= \frac{\Gamma(x+n+1)}{\Gamma(n+1)}\frac{n!}{x(x+1)\cdots(x+n)}.
\end{align}
$$
Entonces, el límite que usted necesita seguir siempre y cuando se pueda demostrar que el $\Gamma(x+n+1)/\Gamma(n+1)$ enfoques $n^x$ asintóticamente como $n\to\infty$.
$$
\Gamma(n+x+1)=\int_0^\infty t^x t^ne^{-t}\,dt
$$
Entonces, la expresión depende de la muestra que, en el límite de $n\to\infty$, al líder de la orden, la integral sólo contribuye para valores de $t/n$ cercano a 1 (se puede ver que $t^ne^{-t}$ tiene su máximo en $t=n$).
