¿Por qué es válido tener en cuenta k-1 intercepciones con solo 1 parámetro de intercepción aleatorio?

Question

Poseo un entendimiento básico de los efectos aleatorios vs. fijos, y cómo codificar modelos de efectos aleatorios en SAS. Sin embargo, me cuesta entender la derivación de los términos de efectos aleatorios, y cómo un modelo de intercepto aleatorio, por ejemplo, puede describir la variación en $k$ interceptos con un solo parámetro ($\sigma^2$ para una dbn normal) en lugar de $k-1$ parámetros, lo que puede representar un gran ahorro en grados de libertad. ¿No es eso hacer trampa? ;)

La técnica antigua sería usar el método de máxima verosimilitud para resolver $k-1$ parámetros para cada categoría.

• ¿Cómo evita un modelo de intercepto aleatorio esto al usar un solo parámetro?
• ¿El resultado final no es el mismo-- tanto modelos de efectos aleatorios como fijos estimarán $k-1$ términos de intercepto?

Answer 1

Las cosas son un poco más complicadas con modelos de efectos mixtos (como te estás dando cuenta).

Los efectos aleatorios estimados del modelo normal no son exactamente iguales a los efectos fijos que calcularías si calcularas cada una de las intercepciones individuales. El modelo de efectos fijos asume que todos los grupos tienen la misma varianza, pero cada uno tiene su propia media y las medias se calculan de forma independiente entre sí (básicamente la media/intercepto para cada grupo). En el modelo de efectos mixtos, la suposición de que las intercepciones aleatorias provienen de una distribución normal permite que los métodos "tomen prestada" información de todos los grupos en el cálculo de cada intercepción, por lo que las intercepciones individuales tienden a "encogerse" hacia la media general, un efecto que a menudo se conoce como "regresión hacia la media".

Los efectos aleatorios estimados no son realmente parámetros, sino estimaciones de variables aleatorias, por lo que no cuestan el mismo número de grados de libertad. Pero tienes razón al preocuparte de que solo debería haber un costo de 1 grado de libertad, el verdadero costo probablemente esté en algún lugar entre $1$ y $k-1. Aquí hay una publicación que brinda más detalles y una referencia adicional.

Por supuesto, discutir los grados de libertad asume que las razones siguen una distribución F, lo cual es cuestionable en sí mismo en modelos de efectos mixtos.

Answer 2

Al estudiar los efectos aleatorios vs fijos, no pude entender cómo se "estiman" los parámetros sin perder grados de libertad. Pero la gran diferencia, como ya se mencionó, es que la estimación de los efectos aleatorios no es realmente una estimación en el sentido clásico de MCO. En mi opinión, es mejor llamarlo "predicción" ya que estimamos el resultado de una variable aleatoria en lugar de un parámetro fijo del universo dado.

En caso de que puedas leer cosas en alemán, podría recomendarte un libro si te interesa.