Si x2 y x3 afectan a x1, y x1 afecta a y, ¿deben incluirse x2 y x3 en un modelo de regresión?

Question

Consideremos la regresión $y=x_1+x_2+x_3+\varepsilon$

Se sabe que $x_2$ y $x_3$ afectan a $x_1$ pero $x_2$ y $x_3$ no afectan a $y$ . $x_1$ puede afectar $y$ pero sólo en una pequeña medida. El RMSE es ligeramente inferior si añadimos $x_2$ y $x_3$ en comparación con la regresión $y=x_1+\varepsilon$ .

No hay multicolinealidad. Dado el objetivo de estimar los efectos de $x_1$ en $y$ ¿Cuáles son los argumentos para incluir o excluir $x_1$ y $x_2$ en las regresiones? Un argumento a favor de añadir $x_2$ y $x_3$ : ¿Es que podemos estimar los efectos puros de $x_1$ en $y$ ?

Answer 1

La situación a la que se refiere se llama mediación .

Si debe incluir $x_2$ y $x_3$ depende de lo que quiera de su modelo. Si desea probar modelos de relaciones complejas (por ejemplo, comparar la mediación parcial con la mediación completa), puede utilizar modelización de ecuaciones estructurales (SEM). Si simplemente quiere predecir $y$ lo mejor posible, $x_2$ y $x_3$ puede o no ayudar. (Tenga en cuenta que añadirlas tiene que reducir el RMSE, tanto si las variables son adecuadas como si no).

Si se añade o no $x_2$ y $x_3$ le ayuda a estimar el efecto "puro" de $x_1$ depende de la naturaleza del proceso de generación de datos. Por ejemplo, "purificarán" la relación si actúan como supresores. La supresión es un tema difícil y contraintuitivo, para empezar a aprender sobre él, podrías intentar leer este excelente hilo de CV: Efecto de supresión en la regresión: definición y explicación/descripción visual ( este o este también puede ayudar).