Razones para que los datos se distribuyan normalmente

Question

¿Cuáles son algunos teoremas que podrían explicar (es decir, generativamente) por qué se puede esperar que los datos del mundo real se distribuyan normalmente?

Que yo sepa, hay dos:

1. El Teorema del Límite Central (por supuesto), que nos dice que la suma de varias variables aleatorias independientes con media y varianza (aunque no estén idénticamente distribuidas) tiende a distribuirse normalmente

2. Sean X e Y RV's continuas e independientes con densidades diferenciables tales que su densidad conjunta sólo depende de $x^2$ + $y^2$ . Entonces X e Y son normales.

(cross-post de mathexchange )

Editar: Para aclarar, no estoy haciendo ninguna afirmación sobre la distribución normal de los datos del mundo real. Sólo estoy preguntando por los teoremas que pueden dar una idea de qué tipo de procesos pueden conducir a datos con distribución normal.

Answer 1

Muchas distribuciones límite de los VR discretos (poisson, binomial, etc) son aproximadamente normales. Piense en el plinko. En casi todos los casos en los que se mantiene la normalidad aproximada, la normalidad sólo se aplica a las muestras grandes.

La mayoría de los datos del mundo real NO tienen una distribución normal. Un artículo de Micceri (1989) llamado " El unicornio, la curva normal y otras criaturas improbables " examinó 440 medidas de rendimiento y psicométricas a gran escala. Encontró una gran variabilidad en las distribuciones con respecto a sus momentos y no mucha evidencia de normalidad (incluso aproximada).

En un artículo de 1977 de Steven Stigler titulado " ¿Funcionan los estimadores robustos con datos reales? "Utilizó 24 conjuntos de datos recogidos de los famosos intentos del siglo XVIII de medir la distancia de la Tierra al Sol y de los intentos del siglo XIX de medir la velocidad de la luz. En la tabla 3, el autor presenta la asimetría y la curtosis de las muestras. Los datos son de cola pesada.

En estadística, a menudo asumimos la normalidad porque hace que la máxima verosimilitud (o algún otro método) sea conveniente. Sin embargo, lo que muestran los dos artículos citados anteriormente es que esta suposición es a menudo débil. Por eso son útiles los estudios de robustez.

Answer 2

También existe una justificación teórica de la información para el uso de la distribución normal. Dada la media y la varianza, la distribución normal tiene la máxima entropía entre todas las distribuciones de probabilidad de valor real. Hay muchas fuentes que discuten esta propiedad. Se puede encontrar una breve aquí . Una discusión más general sobre la motivación para utilizar la distribución gaussiana que incluye la mayoría de los argumentos mencionados hasta ahora puede encontrarse en ce artículo de la revista Signal Processing.

Answer 3

En física es el CLT el que se suele citar como razón para tener errores de distribución normal en muchas mediciones.

Las dos distribuciones de errores más comunes en la física experimental son la normal y la de Poisson. Esta última suele encontrarse en las mediciones de recuento, como la desintegración radiactiva.

Otra característica interesante de estas dos distribuciones es que una suma de variables aleatorias de Gauss y Poisson pertenece a Gauss y Poisson.

Existen varios libros sobre estadística en ciencias experimentales como ce uno:Gerhard Bohm, Günter Zech, Introducción a la estadística y al análisis de datos para físicos, ISBN 978-3-935702-41-6

Answer 4

La CLT es extremadamente útil cuando se hacen inferencias sobre cosas como la media de la población porque llegamos a ella calculando algún tipo de combinación lineal de un montón de medidas individuales. Sin embargo, cuando intentamos hacer inferencias sobre observaciones individuales, especialmente las futuras ( Por ejemplo, (intervalos de predicción), las desviaciones de la normalidad son mucho más importantes si nos interesan las colas de la distribución. Por ejemplo, si tenemos 50 observaciones, estamos haciendo una extrapolación muy grande (y un acto de fe) cuando decimos algo sobre la probabilidad de que una observación futura se aleje al menos 3 desviaciones estándar de la media.