Regresión logística - Problemas de multicolinealidad

Question

En la regresión logística, ¿hay que preocuparse tanto por la multicolinealidad como en la regresión OLS directa?

Por ejemplo, con una regresión logística, en la que existe multicolinealidad, ¿habría que ser cauteloso (como en la regresión MCO) a la hora de hacer inferencias a partir de los coeficientes Beta?

Para la regresión OLS, una "solución" a la multicolinealidad elevada es la regresión ridge, ¿existe algo parecido para la regresión logística? También se pueden eliminar o combinar variables.

¿Qué métodos son razonables para reducir los efectos de la multicolinealidad en una regresión logística? ¿Son esencialmente iguales a las MCO?

(Nota: no se trata de un experimento diseñado)

Answer 1

Los mismos principios relativos a la multicolinealidad se aplican a la regresión logística que a la MCO. Se pueden utilizar los mismos diagnósticos para evaluar la multicolinealidad (por ejemplo, VIF, número de condición, regresiones auxiliares) y las mismas técnicas de reducción de dimensiones (como la combinación de variables mediante el análisis de componentes principales).

Este responder de chl le llevará a algunos recursos y paquetes de R para ajustar modelos logísticos penalizados (así como a un buen debate sobre este tipo de procedimientos de regresión penalizada). Pero algunos de tus comentarios sobre "soluciones" a la multicolinealidad me resultan un poco desconcertantes. Si sólo le interesa estimar relaciones para variables que no son colineales, estas "soluciones" pueden estar bien, pero si le interesa estimar coeficientes de variables que son colineales, estas técnicas no resuelven su problema. Aunque el problema de la multicolinealidad es técnico en el sentido de que la matriz de variables predictoras no puede invertirse, tiene un análogo lógico en el sentido de que los predictores no son independientes y sus efectos no pueden identificarse de forma única.