¿Por qué la regresión logística se denomina algoritmo de aprendizaje automático?

Question

Si he entendido bien, en un algoritmo de aprendizaje automático, el modelo tiene que aprender de su experiencia, es decir, cuando el modelo da una predicción errónea para los nuevos casos, debe adaptarse a las nuevas observaciones y, con el tiempo, el modelo se vuelve cada vez mejor. No veo que la regresión logística tenga esta característica. Entonces, ¿por qué se sigue considerando un algoritmo de aprendizaje automático? ¿Cuál es la diferencia entre la regresión logística y la regresión normal en términos de "aprendizaje"?

Tengo la misma pregunta para los bosques aleatorios.

¿Y cuál es la definición de "aprendizaje automático"?

Answer 1

Es un error muy común que la mayoría de la gente hace y puedo verlo aquí también (hecho por casi todos). Permítame explicarlo en detalle... La regresión logística y el modelo de regresión lineal, ambos son modelos paramétricos, así como la técnica de aprendizaje automático. Sólo depende del método que se utilice para estimar los parámetros del modelo (theta's). Hay dos maneras de encontrar los parámetros del modelo en la regresión lineal y en la regresión logística.

1. Técnica de descenso gradual : Aquí empezamos asignando valores aleatorios a los parámetros y encontramos la función de coste (error). En cada iteración actualizamos nuestros parámetros y minimizamos la función de coste. Después de cierto número de iteraciones, la función de coste se reduce a los valores deseados y los valores de los parámetros correspondientes son nuestros valores finales. Esto es lo que se supone que hacen las técnicas de aprendizaje automático. Por lo tanto, si usted está utilizando la técnica de ascenso gradual, la regresión logística puede llamar como una técnica de aprendizaje automático.

2. Utilizando Método de los mínimos cuadrados: Aquí tenemos una fórmula directa para encontrar nuestros parámetros (se requiere algo de álgebra matricial para entender la derivación de esta fórmula) que se conoce como ecuación normal.

Aquí b representa los parámetros X es la matriz de diseño. Ambos métodos tienen sus propias ventajas y limitaciones. Para obtener más detalles: siga el curso de Machine Learning de coursera que todavía está en marcha.

Espero que este post pueda ser útil.. :-)