Estoy de acuerdo con Glen_b. En problemas de regresión, el foco principal está en los parámetros y no en la variable independiente o predictora, x. Y entonces uno puede decidir si uno quiere linearise el problema de empleo de transformaciones simples o proceder como tal.
Problemas de programación lineal: contar el número de parámetros en el problema y comprobar si todas ellas tienen el poder 1. Por ejemplo, $y = ax + bx^2 + cx^3 + d x^{2/3} + e/x + f x^{-4/7}$. Esta función es no lineal en $x$. Pero para problemas de regresión, la no linealidad en $x$ no es un problema. Uno tiene que comprobar si los parámetros son lineales o lineales. En este caso, $a$, $b$, $c$,.. $f$ todos tienen el poder 1. Por lo tanto, son lineales.
La observación de que, en $y = \exp(ax)$, aunque parece que tiene potencia de 1, pero cuando se expande
$\exp(ax) = 1 + ax/ 1! + (ax)^2 / 2! + \dots $. Se puede ver claramente que es una no lineal de parámetros desde una tiene una potencia de más de 1. Pero, este problema puede ser linearised mediante la invocación de una transformación logarítmica. Que es, un problema de regresión no lineal se convierte en una regresión lineal problema.
Del mismo modo, $y = a / (1+b \exp(cx)$ es una función logística. Tiene tres parámetros, a saber:$a$, $b$ y $c$. Los parámetros de $b$ $c$ tiene una potencia de más de 1, y cuando se expande se multiplican con cada uno de los otros trayendo la no linealidad. Así que, que no son lineales. Pero, pueden ser también linearised mediante una sustitución adecuada mediante el establecimiento de la primera $(a/y)-1 = Y$ y, a continuación, la invocación de una función logarítmica en ambos lados para linearise.
Ahora supongamos $y = a_1 / (1+b_1\exp(c_1x)) + a_2 / (1+b_2\exp(c_2x))$. Esto es, una vez más no lineal con respecto a los parámetros. Pero, no se puede linearised. Uno necesita usar una regresión no lineal.
En principio, el uso de un lineal de la estrategia para resolver un problema de regresión no lineal no es una buena idea. Así, hacer frente a problemas de programación lineal (cuando todos los parámetros de potencia 1) el uso de la regresión lineal y adoptar la regresión no lineal si los parámetros no son lineales.
En su caso, sustituir la función de ponderación de vuelta en la función principal. El parámetro $\beta_0$ sería el único parámetro con el poder 1. Todos los otros parámetros son no lineales ($\beta_1$ finalmente se multiplica con $\theta_1$ $\theta_2$ (estos dos son no lineales de parámetros) haciendo de él también no lineal. Por lo tanto, es un problema de regresión no lineal.
Adoptar una no lineal de mínimos cuadrados es una técnica para resolverlo. Elija valores iniciales hábilmente y el uso de un multistart enfoque para encontrar los mínimos globales.
Este video va a ser de gran ayuda (aunque no hable acerca de la solución global): http://www.youtube.com/watch?v=3Fd4ukzkxps
El uso de GRG solver no lineal en la hoja de cálculo de Excel (instalar el solucionador toolpack por ir a opciones - Complementos - Complementos de Excel y, a continuación, elegir Complemento Solver)y la invocación de la multistart en la lista de opciones mediante la prescripción de los intervalos de los parámetros y exigiendo la restricción de la precisión y de la convergencia a ser pequeña, una solución global puede ser obtenida.
Si usted está usando Matlab, el uso global de optimización de la caja de herramientas. Se ha multistart y globalsearch opciones. Algunos códigos están disponibles aquí para una solución global, aquí
y
aquí.
Si usted está usando Mathematica, mira aquí.
Si usted está usando R, tratar aquí.
