¿Qué parámetro es necesario para el criterio AIC aplicado a los modelos de regresión lineal?

Question

Hice un modelo de regresión lineal (OLS) y un modelo autorregresivo espacial (Spatial lag). He leído que para comparar estos modelos tengo que utilizar el criterio de información de Akaike (AIC). La fórmula es la siguiente $$ AIC=-2log L(\hat\theta)+2k $$ donde $\theta$ es el vector de parámetros del modelo, $L(\hat\theta)$ es la probabilidad del modelo candidato dados los datos cuando se evalúa en la estimación de máxima probabilidad de $\theta$ y $k$ es el número de parámetros estimados en el modelo candidato.

Pero no entiendo qué parámetros $\theta$ son necesarios para utilizar el AIC en un contexto de regresión lineal. Por ejemplo, si tengo un modelo como éste $Y=\beta_0+\beta_1X_1+\beta_2X_2+...+\beta_nX_n+\epsilon$ donde $\epsilon$ es una variable normal con media cero y varianza $\sigma$ ¿Cómo calculo su AIC?

Answer 1

Los parámetros $\theta$ son cualquier cosa que necesites estimar en tu modelo. En el caso de MCO, serían los coeficientes de regresión $\beta_0,\ldots,\beta_n$ así que tienes $k=n+1$ .

La probabilidad logarítmica para MCO es simplemente la función cuadrática que se deriva de la hipótesis de Gauss-nkise: $$\log L(\theta) = -\frac{N}{2}\log \sigma^2-\sum_{k=1}^N -\frac{1}{2\sigma^2}( y_k -\beta_0-\beta_1 x_{k,1} -\cdots -\beta_n x_{k,n})^2 .$$