Proceso de ar(1) con errores de medición heteroscedastic

Question

1. El problema

Tengo algunas mediciones de una variable $y_t$ donde $t=1,2,..,n$, por lo que tienen una distribución de $f_{y_t}(y_t)$ obtenidos a través de la MCMC, que por simplicidad vamos a suponer que es una gaussiana de media de $\mu_t$ y la varianza $\sigma_t^2$.

Tengo un modelo físico para esas observaciones, decir $g(t)$, pero los residuos de $r_t = \mu_t-g(t)$ parecen estar correlacionados; en particular, tengo motivos para pensar que un $AR(1)$ proceso será suficiente para tener en cuenta la correlación, y pienso en la obtención de los coeficientes de ajuste a través de la MCMC, para lo cual necesito la probabilidad. Creo que la solución es bastante simple, pero no estoy muy seguro de que (parece tan simple, que creo que me estoy perdiendo algo).

2. Determinar la probabilidad de

Un cero significa $AR(1)$ proceso puede ser escrita como: $$X_t = \phi X_{t-1}+\varepsilon_t,\ \ \ (1)$$ donde yo voy a asumir $\varepsilon_t\sim N(0,\sigma_w^2)$. Los parámetros a ser estimados son, por lo tanto, $\theta = \{\phi,\sigma_w^2\}$ (en mi caso, también tengo que agregar los parámetros del modelo de $g(t)$, pero ese no es el problema). Lo que yo observo, sin embargo, es la variable $$R_t = X_t+\eta_t,\ \ \ (2)$$ donde estoy asumiendo $\eta_t\sim N(0,\sigma_t^2)$, y el $\sigma_t^2$ son conocidos (los errores de medición). Debido a $X_t$ es un proceso gaussiano, $R_t$ también. En particular, sé que $$X_1 \sim N(0,\sigma_w^2/[1-\phi^2]),$$ por lo tanto, $$R_1 \sim N(0,\sigma_w^2/[1-\phi^2]+\sigma_t^2).$$ El siguiente reto es obtener un $R_t|R_{t-1}$$t\neq 1$. Para derivar la distribución de esta variable aleatoria, tenga en cuenta que, usando la eq. $(2)$ Puedo escribir $$X_{t-1} = R_{t-1}-\eta_{t-1}.\ \ \ (3)$$ El uso de eq. $(2)$, y utilizando la definición de eq. $(1)$, Puedo escribir, $$R_{t} = X_t+\eta_t = \phi X_{t-1}+\varepsilon_{t}+\eta_t.$$ El uso de eq. $(3)$ en esta última expresión, a continuación, obtener, $$R_{t} = \phi (R_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ por lo tanto, $$R_t|R_{t-1} = \phi (r_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ y, por lo tanto, $$R_t|R_{t-1} \sim N(\phi r_{t-1},\sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}).$$ Finalmente, me puede escribir la función de probabilidad como $$L(\theta) = f_{R_1}(R_1=r_1) \prod_{t=2}^{n} f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1}),$$ donde el $f(\cdot)$ son las distribuciones de las variables que me acaba de definir, .yo.e., la definición de $\sigma'^2 = \sigma_w^2/[1-\phi^2]+\sigma_t^2,$ $$f_{R_1}(R_1=r_1) = \frac{1}{\sqrt{2\pi \sigma'^2}}\text{exp}\left(-\frac{r_1^2}{2\sigma'^2}\right),$$ y la definición de $\sigma^2(t) = \sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}$, $$f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1})=\frac{1}{\sqrt{2\pi \sigma^2(t)}}\text{exp}\left(-\frac{(r_t-\phi r_{t-1})^2}{2\sigma^2(t)}\right)$$

3. Preguntas

1. Es mi derivación ok? No tengo recursos para comparar otras de las simulaciones (que parecen estar de acuerdo), y yo no soy un estadista!
2. ¿Hay alguna derivación de este tipo de cosas en la literatura para $MA(1)$ proccesses o $ARMA(1,1)$ proccesses? Un estudio de $ARMA(p,q)$ proccesses en general que podría ser particularizada para este caso sería agradable.

Answer 1

1. Usted está en el camino correcto, pero has cometido un error en la determinación de la distribución de $R_t$$R_{t-1}$: la media condicional no es $\phi r_{t-1}$. Es $\phi \widehat{x}_{t-1}$ donde $\widehat{x}_{t-1}$ es su mejor estimación de $X$ del periodo anterior. El valor de $\widehat{x}_{t-1}$ incluye la información de los anteriores observaciones así como las $r_{t-1}$. (Para ver esto, consideremos una situación en la $\sigma_w$ $\phi$ son insignificantes, por lo que efectivamente está en la estimación de una fija decir. Después de muchas observaciones, su incertidumbre acerca de $X$ va a ser mucho menor que $\sigma_{\eta}$.) Esto puede ser confuso al principio, ya que observan $R$ e no $X$. Eso sólo significa que usted está tratando con un modelo de espacio de estado.

2. Sí, hay un marco muy general para el uso de lineal-Gaussiano modelos con observaciones ruidosas, llamado el filtro de Kalman. Esto se aplica a cualquier cosa con una estructura ARIMA y muchos más modelos. Tiempo variable $\sigma_{\eta}$ es aceptable para el filtro de Kalman, siempre que no estocásticos. Modelos con, por ejemplo, de volatilidad estocástica necesidad más general de los métodos. Para ver cómo el filtro de Kalman se deriva, trate de Durbin-Koopman, o el capítulo 3 de Harvey. En Harvey, la notación, el modelo tiene $Z=1$, $d=c=0$, $H_t = \sigma_{\eta,t}^2$, $T=\phi$, $R=1$ y $Q=\sigma^2_w$.

Answer 2

Honestamente, debería este código en errores o STAN y no preocuparse a partir de ahí. A menos que se trata de una cuestión teórica.