¿Cómo se evalúa `Arima` del paquete `forecast`/`stats` con regresores externos (regresión dinámica)?

Question

Utilizo el Arima de la función forecast en R. También eché un vistazo a esta breve introducción al tema (autor del paquete de previsión): https://otexts.org/fpp2/dynamic.html .

Sin embargo, no estoy seguro de cómo se calculan los coeficientes de los regresores externos (xreg especificado) + los coeficientes de los términos AR y MA. Tengo 2 teorías:

1) En primer lugar, se ajusta una regresión normal con regresores externos. A continuación, ajustamos los errores ARMA a los errores OLS que obtuvimos del modelo de regresión, y encontramos los coeficientes AR y MA a partir de ahí. Esto contradice lo que está escrito en la fuente que mencioné:

"Cuando estimamos los parámetros del modelo, necesitamos minimizar la suma de cuadrados $\epsilon$ valores. Si minimizamos la suma de los cuadrados $\eta$ (que es lo que ocurriría si estimáramos el modelo de regresión ignorando las autocorrelaciones en los errores), entonces surgen varios problemas"

2) Los coeficientes del regresor y los coeficientes AR + MA se ajustan juntos al mismo tiempo. Sin embargo, no se puede utilizar OLS, porque claramente el error no es i.i.d. gaussiano. Por lo tanto, ¿se utiliza GLS?

Me he dado cuenta de que el paquete forecast hace referencia internamente a stats::arima, donde se produce esta estimación. Sin embargo, no puedo averiguar a partir del código cómo se estiman todos los coeficientes (regresor + AR + MA). ¿Alguien puede dar una pista? Al menos me gustaría saber qué método se utiliza allí: 1 o 2, y si es el 2, cómo se llama, ¿es GLS?

Answer 1

Ni la 1 ni la 2, aunque la 2 se acerca más a la verdad. Los coeficientes del regresor y los coeficientes AR + MA se ajustan simultáneamente por estimación de máxima verosimilitud. De hecho, no se puede utilizar OLS por la razón que das (aunque la gaussianidad no es un prerrequisito necesario para que la estimación OLS produzca estimadores consistentes y de mínima varianza insesgada; sólo se necesita para que OLS coincida con la estimación de máxima verosimilitud). GLS tampoco funciona porque algunos de los regresores, es decir, los errores retardados, son inobservables. Por lo tanto, no hay forma de formar la matriz de diseño $X$ que es un elemento esencial tanto en la estimación OLS como GLS. Así pues, nos queda la máxima verosimilitud.

¿Cómo se aplica la máxima probabilidad? Esta es una respuesta de la archivo de ayuda de la arima función:

la probabilidad exacta se calcula mediante una representación del espacio de estados del proceso ARIMA, y las innovaciones y su varianza se encuentran mediante un filtro de Kalman,

Y aquí es el documento de Gartner et al. (1980) que describe el algoritmo utilizado en R.