¿Por qué incluir un término principal insignificante cuando se incluye el término de interacción?

Question

La mayoría del material estadístico sugiere que cuando el término de interacción es significativo, aunque el término del efecto principal no lo sea, seguimos manteniendo el término del efecto principal.

Por ejemplo: $$z = a + b\cdot x + c\cdot y + d\cdot xy$$

$x$ es continua mientras que $y$ es categórica (dos niveles, $y_1$ et $y_2$ ). $z$ es continua. El modelo lineal ajustado tiene un $xy$ término, término de intercepción y $x$ término pero no significativo $y$ plazo.

¿Puedo reducir el modelo a $z = a' + b'\cdot x + d'\cdot xy$ ? La interpretación es que para el nivel $y_1$ y el nivel $y_2$ tienen el mismo intercepto pero diferente pendiente.

Gracias.

Answer 1

Eso viola el principio de jerarquía y depende en gran medida de la elección de los orígenes de las mediciones (por ejemplo, cambie la temperatura de F a C y obtendrá un modelo muy diferente). No es apropiado buscar pruebas estadísticas de "efectos principales" cuando hay interacciones.

Answer 2

Si pensamos en una regresión como una expansión de Taylor, eliminar el efecto principal equivale a imponer una restricción muy fuerte al modelo. Esta es la intuición.

Digamos que el modelo es $$y(x_1,x_2)=\beta_0+\beta_1x_1+\beta_2x_2+\beta_{11}x_1^2+\beta_{22}x_2^2+\beta_{12}x_1x_2$$

Se puede ver que las betas corresponden a Ampliación de Taylor coeficientes ( Maclaurin , en realidad), por ejemplo: $$\frac{\partial^2 y}{\partial x_1\partial x_2}=\beta_{12}$$

Así, cuando se ajusta este modelo a los datos, se está aproximando la función desconocida por su expansión de Taylor.

Ahora, cuando dejas el efecto principal, estás imponiendo la siguiente restricción: $\beta_1=0$ . En cuanto a la expansión de Taylor estás diciendo que $\partial y/\partial x_1=0$ . Esta es una restricción muy fuerte en la forma de su modelo. Por ejemplo, si sólo utilizas la expansión de segundo orden, entonces estás diciendo que la función es simétrica alrededor de 0.

¿Es correcto imponer tal restricción? Depende de lo que se sepa del fenómeno subyacente. Si no se sabe nada sobre su forma funcional, entonces es mejor no dejar de lado el efecto principal.

Answer 3

Permítame simplificar su pregunta.

En un modelo ANOVA simple como:

y(i,k) = grand.mean + treatment(i) + error(i,k)

se eliminaría la media general si no es significativamente diferente de cero y se ajustaría sólo:

y(i,k) = treatment(i) + error(i,k)?  

Si no, ¿por qué no? Una buena razón es que el segundo modelo condiciona su prueba de tratamiento(i)==0 a la PRESUNCIÓN de que la media general = 0, mientras que el primer modelo no lo hace. Una buena razón para no condicionar de esta manera es que el fracaso en rechazar la media general<>0 no implica que la media general sea cero.