Likelihood-ratio test o prueba z?

Question

Considere los siguientes dos modelos de regresión logística: $$ \begin{aligned} &\text{Model A: }&P(Y=1)&=\frac{\text{exp}\left(b_1+b_2X_2\right)}{1+\text{exp}\left(b_1+b_2X_2\right)} \\ &\text{Model B: }&P(Y=1)&=\frac{\text{exp}\left(b_1+b_2X_2+b_3X_3\right)}{1+\text{exp}\left(b_1+b_2X_2+b_3X_3\right)} \end{aligned} $$ En el modelo a, suponga que tanto los parámetros de $b_1$ $b_2$ parecen ser significativas, es decir, $-1,96 > z_k$ o $1,96 < z_k$. Cuando se agrega una variable ficticia $X_3$ a crear el modelo B, parece ser que hay dos opciones si desea comprobar si la variable que agrega más poder explicativo del modelo:

1. Realizar una Probabilidad-test del cociente entre el modelo a y el modelo B, mediante el cálculo de la prueba estadística de $G^2=-2\log \left(\frac{L_{\text{A}}}{L_{\text{B}}}\right)$ y compararlo con el valor crítico de la chi-cuadrado de distribución con un grado de libertad.
2. Realizar una prueba z de $X_3$ en el modelo B, el cálculo de $z=\frac{b_3}{\text{se}\left(b_3\right)}$ y compararlo con los valores críticos de la distribución normal estándar.

La pregunta ahora es: ¿Es suficiente en este caso para calcular el valor de z, si quiero determinar si el modelo B tiene mucho más poder explicativo de Un modelo? Es posible que $X_3$ en una prueba z es significativa, y al mismo tiempo la LR-prueba implica que no hay diferencia entre los dos modelos?

En resumen: cuando la adición de una sola variable a un modelo logístico, ¿cuál es la mejor prueba a realizar, si quiero investigar si la variable añadido importante poder explicativo del modelo?

Answer 1

Bajo la hipótesis nula $b_3=0$, el de Wald de la prueba z asume la Normalidad de la estimación del coeficiente de $$\DeclareMathOperator{\se}{se} \frac{\hat b_3}{\se\left(\hat b_3\right)}\sim\mathcal{N}(0,1)$$ mientras Wilk la prueba de razón de verosimilitud se supone simplemente que existe algún tipo de transformación a la Normalidad,$g(\cdot)$ $$\frac{g\left(\hat b_3\right)}{\se\left(g\left(\hat b_3\right)\right)}\sim\mathcal{N}(0,1)$$ Pawitan (2001), En toda la Probabilidad $\S$ 2.9

Si usted graficar el logaritmo de la probabilidad de $b_3$ (en el caso que se describe con la prueba de Wald significativo y la LRT no) usted probablemente encontrará que no es mucho de una parábola, y por lo tanto el test de Wald sería probable que la sobre-estimación de la importancia en comparación con Wilk.

Como @Stask dice, los dos son asintóticamente equivalente; es sólo que la LRT, actuando como si se tratara de elegir el mejor de la Normalización de la transformación, los enfoques de la Normalidad más rápido.

Answer 2

Las dos pruebas son asintóticamente equivalentes, es decir, en muestras grandes, debe producir respuestas similares. Ver el clásico expositiva nota por Buse (1982). La prueba de Wald ($z$-prueba) se basa en muestras grandes, al igual que la razón de verosimilitud que no, entonces uno no puede decir que uno es mejor justificado que el otro. Sin embargo, a mi entender, es que en muestras pequeñas, cociente de probabilidad puede realizar un poco mejor que el test Wald (realmente no puede con referencias, esto es sólo la palabra de la boca que tiendo a escuchar). Por otro lado, el cociente de probabilidad de pruebas fundamentalmente depende de i.yo.d. supuestos, mientras que con la prueba de Wald, todo lo que necesitas es una constante de error estándar, así Wald pruebas son aplicables en un conjunto más amplio de situaciones, incluyendo dicen correlación de datos y GEE.