Pruebas de normalidad apropiadas para muestras pequeñas

Question

Hasta ahora, he estado utilizando la estadística de Shapiro-Wilk para probar suposiciones de normalidad en muestras pequeñas.

¿Podría recomendarme otra técnica, por favor?

Answer 1

El paquete fBasics en R (parte de Rmetrics) incluye varias pruebas de normalidad, que abarcan muchas de las pruebas frecuentistas populares -- Kolmogorov-Smirnov, Shapiro-Wilk, Jarque–Bera, y D'Agostino -- junto con un envoltorio para las pruebas de normalidad en el paquete nortest -- Anderson–Darling, Cramer–von Mises, Lilliefors (Kolmogorov-Smirnov), chi–cuadrado de Pearson, y Shapiro–Francia. La documentación del paquete también proporciona todas las referencias importantes. Aquí hay una demostración que muestra cómo usar las pruebas de nortest.

Un enfoque, si tienes tiempo, es utilizar más de una prueba y verificar el acuerdo. Las pruebas varían de varias formas, por lo que no es totalmente sencillo elegir "la mejor". ¿Qué utilizan otros investigadores en tu campo? Esto puede variar y puede ser mejor seguir los métodos aceptados para que otros acepten tu trabajo. Frecuentemente utilizo la prueba de Jarque-Bera, en parte por esa razón, y Anderson–Darling para comparación.

Puedes consultar "Comparación de pruebas para la normalidad univariable" (Seier 2002) y "Una comparación de varias pruebas de normalidad" (Yazici; Yolacan 2007) para una comparación y discusión de los problemas.

También es trivial probar estos métodos para comparación en R, gracias a todas las funciones de distribución. Aquí hay un ejemplo simple con datos simulados (no imprimiré los resultados para ahorrar espacio), aunque se requeriría una exposición más detallada:

library(fBasics); library(ggplot2)
set.seed(1)
# distribución normal
x1 <- rnorm(1e+06)   
x1.samp <- sample(x1, 200)
qplot(x1.samp, geom="histogram")
jbTest(x1.samp)
adTest(x1.samp)

# distribución de Cauchy
x2 <- rcauchy(1e+06)
x2.samp <- sample(x2, 200)
qplot(x2.samp, geom="histogram")
jbTest(x2.samp)
adTest(x2.samp)

Una vez que tengas los resultados de las diversas pruebas sobre diferentes distribuciones, puedes comparar cuáles fueron las más efectivas. Por ejemplo, el valor p para la prueba de Jarque-Bera arriba devolvió 0.276 para la distribución normal (aceptando) y < 2.2e-16 para la distribución Cauchy (rechazando la hipótesis nula).

Answer 2

Para la normalidad, el actual Shapiro-Wilk tiene buena potencia en muestras bastante pequeñas.

El principal competidor en estudios que he visto es el más general Anderson-Darling, que se desempeña bastante bien, pero no diría que es mejor. Si puede aclarar qué alternativas le interesan, posiblemente una estadística mejor sería más obvia. [edición: si estima parámetros, la prueba A-D debe ajustarse para eso.]

[Recomiendo firmemente no considerar Jarque-Bera en muestras pequeñas (que probablemente sea más conocido como Bowman-Shenton en círculos estadísticos - estudiaron la distribución de muestras pequeñas). La distribución conjunta asintótica de sesgo y curtosis no se parece en nada a la distribución de muestra pequeña - de la misma manera que un plátano no se parece mucho a una naranja. También tiene muy poca potencia contra algunas alternativas interesantes - por ejemplo, tiene poca potencia para detectar una distribución bimodal simétrica que tiene una curtosis cercana a la de una distribución normal.]

Frecuentemente la gente prueba bondad de ajuste por razones que resultan no ser particularmente buenas, o están respondiendo a una pregunta diferente a la que realmente quieren responder.

Por ejemplo, casi con seguridad ya sabe que sus datos no son realmente normales (no exactamente), por lo que no tiene sentido intentar responder a una pregunta cuya respuesta ya conoce - y la prueba de hipótesis de todos modos no la responde.

Dado que ya sabe que no tiene normalidad exacta, su prueba de hipótesis de normalidad realmente le está dando una respuesta a una pregunta más cercana a "¿es mi tamaño de muestra lo suficientemente grande como para detectar la cantidad de no normalidad que tengo", mientras que la verdadera pregunta que está interesado en responder suele ser más cercana a "¿cuál es el impacto de esta no normalidad en estas otras cosas en las que estoy interesado?". La prueba de hipótesis está midiendo el tamaño de muestra, mientras que la pregunta que le interesa responder no depende mucho del tamaño de muestra.

Hay momentos en los que probar la normalidad tiene sentido, pero esas situaciones casi nunca ocurren con muestras pequeñas.

¿Por qué está usted probando la normalidad?

Answer 3

¡Hay toda una categoría de Wikipedia sobre pruebas de normalidad que incluye:

• la prueba de Anderson-Darling, popular entre los estadísticos; y
• la prueba de Jarque-Bera, popular entre los econometristas.

Creo que A-D probablemente es la mejor de ellas.

Answer 4

Para mayor completitud, los econometristas también suelen usar la prueba de Kiefer y Salmon de su artículo de 1983 en Economics Letters - que resume expresiones 'normalizadas' de asimetría y curtosis que luego se distribuyen chi-cuadrado. Tengo una versión antigua en C++ que escribí durante la escuela de posgrado que podría traducir a R.

Editar: Y aquí hay un artículo reciente de Bierens que vuelve a derivar Jarque-Bera y Kiefer-Salmon.

Editar 2: Revisé el código antiguo y parece que realmente es la misma prueba entre Jarque-Bera y Kiefer-Salmon.

Answer 5

De hecho, la prueba Kiefer Salmon y la prueba Jarque Bera son críticamente diferentes como se muestra en varios lugares, pero más recientemente aquí - Pruebas Momento para Distribuciones de Errores Estandarizadas: Un Enfoque Robusto Simple por Yi-Ting Chen. La prueba Kiefer Salmon, por su construcción, es robusta ante estructuras de errores de tipo ARCH a diferencia de la prueba Jarque Bera estándar. El documento de Yi-Ting Chen desarrolla y discute lo que creo que probablemente sean las mejores pruebas en este momento.