Qué es lo que aprende mi modelo: lineal o no lineal

Question

Estoy tratando de validar si mi comprensión del tema es correcta.

Los modelos lineales recogen una única representación de una clase (léase sólo pueden elegir una) mientras que un modelo no lineal como una red neuronal es capaz de aprender múltiples representaciones de cada clase.

En ese caso, los modelos lineales no son menos eficaces que sus homólogos, aunque los tiempos de cálculo del modelo serán mucho más lentos.

PD: Me he referido al material de Stanford cs231n para llegar a esta conclusión.

Answer 1

Para los problemas de clasificación, se puede ver el modelo lineal como un "hiperplano", y también por eso lo llamamos "lineal", porque es una línea en un espacio de alta dimensión. Aquí está el ejemplo 1D,2D,3D.

Los detalles se pueden encontrar en mi otra respuesta aquí

¿Qué podría ser una comprensión intuitiva de un hiperplano?

Answer 2

Los modelos no lineales pueden tener más flexibilidad, pero esto no tiene por qué ser deseable. Esa flexibilidad conlleva una mayor capacidad de sobreajuste de los datos de entrenamiento, detectando meras coincidencias que no estarán presentes en los nuevos datos. El principal objetivo del modelado predictivo y el aprendizaje automático es hacer predicciones sobre datos cuya respuesta se desconoce.

¿Cuál será el precio de las acciones mañana?

¿Cuántos casos nuevos de COVID habrá a finales de julio?

¿Qué palabra le dijo esta persona a Alexa?

Es más fácil engañar a los modelos complejos que a los simples.