9 votos

Por qué lineales y de coeficientes de regresión logística no puede ser estimado utilizando el mismo método?

He leído en una máquina de aprendizaje libro que los parámetros de la regresión lineal puede ser estimado (entre otros métodos) por el gradiente de descenso, mientras que los parámetros de la regresión logística se calcula generalmente por la estimación de máxima verosimilitud.

Es posible explicar a un novato (me) ¿por qué tenemos diferentes métodos lineales/de regresión logística. una.k.¿por qué no MLE para la regresión lineal y por qué no de gradiente de la pendiente de la regresión logística?

21voto

eldering Puntos 3814

Estás confundiendo las manzanas con naranjas. Eso está bien, porque ambos son deliciosos.

Estimación de máxima verosimilitud, es acerca de lo que usted, minimizar el gradiente de la pendiente es acerca de cómo minimizar.

¿Por qué no MLE para la regresión lineal?

De hecho, la regresión lineal se resuelven con la estimación de máxima verosimilitud. El estándar de "minimizar la suma de cuadrados de los errores" método es exactamente matemáticamente equivalente a la estimación de máxima verosimilitud, con un condicional de la distribución normal.

¿Por qué no de gradiente de la pendiente de la regresión logística?

Que totalmente se puede resolver de regresión logística mediante la minimización de la probabilidad de la función utilizando el gradiente de la pendiente. Es un gran ejercicio en el hecho, y me gustaría recomendar a todos a hacer al menos una vez.

Gradiente de la pendiente no es el método estándar, aunque. Que el premio va a iterativamente re-mínimos cuadrados ponderados / método de Newton, que es una mejora a la gradiente de la pendiente que tiene en cuenta la segunda derivada así. Este método resulta mucho mejores propiedades que la gradiente de la pendiente, pero es más complicado de entender y de aplicar.

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X