Estoy en la estimación de una regresión logística binaria con L1 norma. De acuerdo a los coeficientes de regresión, el signo de x1's coeficiente es positivo. Sin embargo, la estadística descriptiva indica que la media de x1 variable para la clase 0 es mayor que la de la clase 1.
Podría usted por favor me explique cómo justificar este resultados contradictorios?
Cabe señalar que la estadística descriptiva se calculan antes de la normalización de las variables independientes.
Este no es un problema con L1 normas ni con la regresión logística, específicamente; va a suceder con el ordinario de la norma L2 de regresión lineal múltiple. La dirección de un incondicional de la relación puede cambiar una vez que la condición en función de otra variable (incluir una característica adicional).
Considerar 4 grupos, donde el $p=\text{Pr}(Y=1)$ es una función creciente de $x$ dentro de cada grupo, pero donde los cuatro grupos de bajar la media de $p$ a medida que aumenta x:
Por supuesto, la población $p$'s no son observables en la práctica; sólo observar la proporción de Y que son 1. Sin embargo, si usted tiene muchos de repeticiones en cada valor de x (digamos 50 o algo así), se puede observar algo muy parecido a esto para las proporciones de muestra en cada una de las x..
Ahora bien, si usted ajuste logístico a solo el y vs los valores de x, ignorando el factor del grupo, obtendrá un coeficiente negativo. Pero tan pronto como grupo incluir, el coeficiente de x será positivo.
[De hecho, es posible que la señal podría incluso voltear cada vez que se incluye una función adicional.]
Leer más:
I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.
