Ya ha habido una excelente discusión sobre cómo ayuda vector máquinas clasificación de mango, pero estoy muy confundido sobre cómo generalizan máquinas de vectores soporte a la regresión.
¿Nadie importa iluminarme?
Respuesta
¿Demasiados anuncios?
Básicamente generalizan en la misma forma. El núcleo de un enfoque basado en la regresión es la transformación de la función de llamada en se $\mathbf{x}$ a algún espacio vectorial, a continuación, realizar una regresión lineal en la que el espacio vectorial. Para evitar la "maldición de la dimensionalidad", la regresión lineal en el transformado el espacio es un poco diferente de la de mínimos cuadrados ordinarios. El resultado es que la regresión en el transformado el espacio puede ser expresado como $\ell(\mathbf{x}) = \sum_i w_i \phi(\mathbf{x_i}) \cdot \phi(\mathbf{x})$ donde $\mathbf{x_i}$ son las observaciones del conjunto de entrenamiento, $\phi(\cdot)$ es la transformación aplicada a los datos, y el punto es el producto escalar. Así, la regresión lineal es 'compatible' por un par (de preferencia un número muy pequeño de) formación de los vectores.
Todos los detalles matemáticos ocultos en la extraña regresión realizado en el transformado el espacio ('epsilon-insensible tubo" o lo que sea) y la elección de transformar, $\phi$. Para un practicante, también hay preguntas de un par de parámetros libres (por lo general en la definición de $\phi$ y el de regresión), así como featurization, que es donde el conocimiento de un dominio suele ser de ayuda.
