El caso de al $2n-1$ es primo es trivial. Esto es cierto porque, como sabemos, $\binom{2n}{n}$ es un entero, entonces tenemos que
$$\binom{2n}{n} = \frac{(2n)!}{(n!)^2} = \frac{(n+1) \cdots (2n-1)\cdot 2n}{n!}$$
y $2n-1$ no aparece en la descomposición en factores primos del denominador.
Supongamos ahora que $2n-1$ es compuesto y $p$ es un divisor primo de ella. Obviamente debemos tener $p \le \frac{2n-1}{2} \implies p < n$. Entonces si $p \mid m \le n$ tenemos que $m$ contribuye en la factorización prima de $(n!)^2$ dos veces, pero de manera similar $m$ $2m$ contribuir por lo menos la misma cantidad en $(2n)!$. Obviamente $2n-1$ no puede ser igual a $m$ ($m \le n$) ni a $2m$ ($2n-1$ es impar), por lo que el numerador tiene al menos un colaborador más de $p$. Así que tenemos que $p^k \mid \binom{2n}{n}$ donde $k$ es el más alto poder de $p$ dividiendo $2n-1$. Esto es cierto para cada divisor primo de $2n-1$, por lo que tenemos
$$2n-1 \mid \binom{2n}{n} $$
Por lo tanto la prueba.