¿Es posible realizar la descomposición de Fourier mediante la regresión lineal?

Question

Me preguntaba si es posible hacer la descomposición de Fourier utilizando la regresión lineal.

Permítanme explicar esto.

Dadas las muestras $(x_1 y_1), \dots, (x_n, y_n)$ con $x_i, y_i \in \mathbb R$ podemos maximizar la probabilidad $$ \begin{pmatrix} y_1 \\ \vdots \\ y_n \end{pmatrix} \sim \mathcal N\left(Xw, I\sigma^2\right) $$ de $y_1, \dots, y_n$ con respecto al vector $w$ , donde $$ X = \begin{pmatrix} \varphi\left(x_1\right) \\ \vdots \\ \varphi\left(x_n\right) \end{pmatrix} $$ y $\varphi : \mathbb R \to \mathbb R^m$ es una transformación no lineal, eligiendo $$ w = \left(X^\mathsf{T} X\right)^{-1} X^\mathsf{T} y \text. $$

Claramente, el vector $w$ pondera la contribución de las características $\varphi_1, \dots, \varphi_m$ al modelo lineal.

Ahora, supongamos que todos los $x_i \in \left[0; 1\right]$ y que elegimos $$ \varphi_i\left(x\right) = \cos\left( \frac{2\pi}{i} x + \beta_i \right) \text. $$ Creo que, si supiéramos la fase correcta $\beta_i$ de la frecuencia $2\pi/i$ en el espectro de Fourier $\hat x$ de $x$ en $\left[0; 1\right]$ entonces $w$ recuperaría las magnitudes de las frecuencias $2\pi/1, \dots, 2\pi/m$ en $\hat x$ ¿no es así? Si es así, ¿hay alguna posibilidad de estimar $\beta_i$ ? Por supuesto, sin computar realmente $\hat x$ .

Answer 1

Se puede hacer eso (estimar las magnitudes a través de la regresión), pero en realidad se pueden estimar las magnitudes y las fases mediante regresión, por lo que seguirá funcionando cuando las fases sean desconocidas, y funcionará en presencia de ruido en $y$ (en el sentido, al menos, de que todavía se pueden estimar esos coeficientes, aunque con algo de ruido).

En concreto, en lugar de limitarse a encajar $\cos$ términos, si se ajusta a ambos $\sin$ y $\cos$ se puede obtener tanto la magnitud como la fase.

El uso de los términos trigonométricos de esta manera se discute aquí que analiza el ajuste de varios armónicos del periodo, así como la estimación tanto de la fase como de la amplitud.

Si también se desconoce la frecuencia, se trata de un problema no lineal y, en ese caso, se utilizarían otros enfoques (como la regresión no lineal de la que se habla en otra respuesta a la primera pregunta enlazada aquí).

Answer 2

Por supuesto que puedes hacerlo, lo que significa que ni la policía de la regresión ni la de la transformación de Fourier vendrán a reventar tu casa. ¿Pero tendría sentido? Yo creo que no.

Supongo que estás tratando de descomponer una función (!) de x, donde $y_i=f(x_i)$ . Pero la regresión no consiste en esto. La regresión supone que no se ve $f(x_i)$ directamente, pero sólo las observaciones ruidosas $y_i=f(x_i) + \epsilon_i$ de ella. Y sólo a partir de estos errores se obtiene la distribución normal de $y$ .

Por otro lado, siempre se puede definir un subespacio $span\{\phi_i, i=1,\ldots,n\}$ y el proyecto $f$ en este subespacio ortogonalmente para obtener los coeficientes $w$ que son entonces óptimos por mínimos cuadrados. Pero esto sólo tiene sentido si hay algo significativo o interesante en el subespacio. Además, esto sólo funciona para subespacios de dimensión finita y el análisis de Fourier se refiere más bien a problemas de dimensión infinita.