Confusión del teorema del límite central

Question

Si un montón de variables aleatorias $X_i$ son distribuidas de manera independiente e idénticamente con una distribución exponencial, su suma aparentemente sigue una distribución Gamma.

Pero ¿no implica el teorema del límite central que (para $X_i$ de cualquier distribución con media cero y varianza $\sigma^2$), la suma $\sum_{i=1}^n X_i$ se aproximará a una distribución normal $~N(0,n\sigma^2)$ si $n$ es suficientemente grande?

Obviamente me estoy perdiendo algo básico, ¿pero qué está sucediendo? ¿Cómo puede ser que la suma de variables aleatorias exponenciales i.i.d. tenga una distribución Gamma, pero también esté convergiendo hacia la normalidad?

Answer 1

Aquí hay varias confusiones (yo también estaba muy confundido cuando empecé a aprender sobre ese tema :-).)

• Las variables aleatorias exponenciales tienen una media distinta de cero (y son positivas). La cantidad en la que deberías fijarte, que converge asintóticamente en distribución a una variable normal es $$\sqrt{n} \left( \frac{\sum_{i = 1}^n X_i}{n} - \mu \right)$$ La $\sqrt{n}$ fue esencial aquí, de lo contrario la distribución del promedio convergería a una masa puntual en $\mu$. Esa cantidad convergerá a $N(0,\sigma^2)$. Tanto $\mu$ como $\sigma$ serán determinados por el parámetro de la distribución exponencial.
• El teorema del límite central es asintótico. La cantidad $\sqrt{n} \left( \frac{\sum_{i = 1}^n X_i}{n} - \mu \right)$ tendrá una distribución. Llamémosla $F_n$. (es esencial recordar que depende de $n$). $F_n$ en general no es una distribución normal $N(0,\sigma^2)$. El teorema del límite central nos dice que esa distribución se acerca en cierto sentido cada vez más a $N(0,\sigma^2)$ a medida que $n \to \infty.

Answer 2

¡Buena pregunta! La distribución Gamma en sí misma converge a una distribución Normal--exactamente la distribución Normal a la que el Teorema del Límite Central dice que converge la suma de las variables aleatorias Exponenciales.

Por supuesto, para cualquier $n$ finito, la distribución de la suma de Exponenciales (la distribución Gamma) no es una distribución normal, ya que está limitada por debajo por cero, pero a medida que $n$ aumenta, se acerca más y más a una distribución Normal.

Aquí hay una página que discute la aproximación, con algunos gráficos que muestran cómo la distribución Gamma se parece a una Normal cuando el primer parámetro (= el número de variables aleatorias Exponenciales que estás sumando) aumenta.