método fácil de aplicar para ajustar una función de potencia (regresión)

Question

Quiero ajustar a un conjunto de datos una función de potencia ( $y=Ax^B$ ). ¿Cuál es el mejor y más fácil método para hacerlo? Necesito el $A$ y $B$ También los parámetros. Estoy utilizando en general los datos financieros en mi proyecto, que se parece a esto:

8553600 458.2
17193600    373.6
25833600    694.16
34646400    738.33
44064000    817.89
54259200    1040.67
67910400    1032.69
76291200    1222.1
84844800    1245.65
94089600    1217.44
102211200   1579.38
110592000   1859.24
118886400   1711.67
127612800   2303.62
136684800   2658.26
219196800   3669.23
225676800   3525.02
225763200   3749.27

Necesito implementar el algoritmo en un lenguaje similar a Java llamado ActionScript.

Answer 1

Existe el enfoque obvio de proceder sobre la base de tomar el logaritmo de ambos lados de su fórmula de regresión:

$$\ln\;y=\ln\left(ax^b\right)$$

$$\ln\;y=\ln\;a+b\ln\;x$$

que puede verse como una expresión de la forma

$$v=k+bu$$

donde $v=\ln\;y$ , $u=\ln\;x$ y $k=\ln\;a$ .

Ahora una regresión lineal en las variables $v$ y $u$ se aplica.

En particular, las fórmulas 16, 20, 27 y 28 de esta página ahora se aplica.

Una vez que tenga la pendiente $b$ y la intercepción $k$ de la transformación lineal, $a$ es sólo la exponencial del intercepto ( $\exp\;k$ ), y $b$ es la pendiente de la línea transformada.

Aquí observo la posible advertencia de que los parámetros de ajuste están sesgados hacia los datos con ordenadas de pequeña magnitud. El riguroso La forma de hacerlo sería tratar los parámetros de la regresión lineal como provisionales y luego aplicar un algoritmo de mínimos cuadrados no lineales como el de Levenberg-Marquardt a los datos, utilizando los parámetros de la regresión lineal como punto de partida. Sin embargo, esto puede ser necesario o no; realmente depende de los datos que tenga.

---

Voy a pulir los comentarios que hice antes: de nuevo, el problema de usar el logaritmo para linealizar tu función no lineal es que tiende a enfatizar demasiado los errores en los valores pequeños de y. Recuerda que la suposición de los mínimos cuadrados lineales es que las abscisas son exactas, pero las ordenadas están contaminadas por el error.

En otras palabras, el $y_i$ son en realidad de la forma $\hat{y}_i\pm\sigma_i$ donde el $\hat{y}_i$ son los "valores verdaderos" (presumiblemente desconocidos), y los $\sigma_i$ son incertidumbres inherentes. Si se toman los logaritmos de los $y_i$ las incertidumbres también se transforman, y tenemos que tenerlo en cuenta.

La fórmula clave es que si el $y_i$ se transforman mediante una función $f(y)$ El $\sigma_i$ se transforman según $f'(y_i)\sigma_i$ .

Para el caso que nos ocupa, la función objetivo que tenemos que minimizar ahora es de la forma

$$f(a,b)=\sum_i{y_i^2\;(\ln\;y_i-\ln\;a-b\ln\;x_i)^2}$$

y tenemos que modificar las fórmulas de la regresión lineal en consecuencia:

$$m=\sum_i y_i^2$$

$$\bar{x}=\frac{\displaystyle \sum_i y_i^2 \ln\;x_i}{m}$$

$$t=\sum_i y_i^2 (\ln\;x_i-\bar{x})^2$$

por lo que

$$b=\frac{\displaystyle \sum_i y_i^2\ln\;y_i (\ln\;x_i-\bar{x})}{t}$$

y

$$a=\exp\left(\frac{\displaystyle \sum_i y_i^2\ln\;y_i}{m}-b\bar{x}\right)$$

Estos deberían ser mejores valores provisionales para su posterior pulido.

---

Resulta que para un ajuste no lineal separable (lineal en uno de los parámetros), el problema NLLS se simplifica enormemente.

Recuerde que el actual La cantidad que tenemos que minimizar es

$$F(a,b)=\sum_i{(y_i-a x_i^b)^2}$$

Si tomamos el gradiente $\nabla F(a,b)$ :

$$\nabla F(a,b)=(2a\sum_i x_i^{2b}-2\sum_i x_i^b y_i\quad 2a\sum_i \ln\left(x_i\right) x_i^{2b}-2\sum_i \ln\left(x_i\right) x_i^b y_i)^T$$

igualar ambos componentes a 0, y luego eliminar el parámetro lineal $a$ obtenemos la ecuación no lineal univariante en $b$ :

$$\left(\sum_i x_i^b y_i\right)\left(\sum_i \ln\left(x_i\right) x_i^{2b}\right)-\left(\sum_i x_i^{2b}\right)\left(\sum_i \ln\left(x_i\right) x_i^b y_i\right)=0$$

que se puede atacar con técnicas estándar, por ejemplo, el método de la secante o el método de Newton. Pero, ¿cómo empezamos la iteración? Pues con el método provisional $b$ que obtuvimos antes con la regresión lineal (ponderada).

Habiendo conseguido $b$ Ahora es muy sencillo conseguir $a$ :

$$a=\left(\sum_i x_i^b y_i\right) / \left(\sum_i x_i^{2b}\right)$$

y ya tienes tus parámetros.