Calcular las predicciones de los efectos aleatorios manualmente para un modelo mixto lineal

Question

Estoy tratando de calcular el efecto aleatorio predicciones a partir de un modelo lineal mixto con la mano, y utilizando la notación proporcionada por la Madera en Modelos Aditivos Generalizados: una introducción con R (pg 294 / pág 307 de pdf), Me estoy confundido sobre lo que cada uno de los parámetros representa.

A continuación se presenta un resumen de la Madera.

Definir un modelo mixto lineal

$$Y = X\beta + Zb + \epsilon$$

where b $\sim$ N(0, $\psi$), and $\epsilon \sim$ N(0, $\sigma^{2}$)

Si b y y son variables aleatorias con distribución normal conjunta

$$\begin{align*} \begin{bmatrix} b\\ y \end{bmatrix} &\sim N \begin{bmatrix} \begin{bmatrix} 0\\ X\beta \end{bmatrix}\!\!,& \begin{bmatrix} \psi & \Sigma_{by} \\ \Sigma_{yb}& \Sigma_{\theta}\sigma^{2} \end{bmatrix} \end{bmatrix}\\ \end{align*}$$

La RE predicciones son calculados por

$$\begin{align*} E[b \mid y] &= \Sigma_{by} \Sigma_{yy}^{-1} (y - x\beta)\\ &= \Sigma_{by}\Sigma_{\theta}^{-1}(y - x \beta) / \sigma^{2}\\ &= \psi z^{T}\Sigma_{\theta}^{-1} (y - x \beta) / \sigma^{2} \end{align*}$$

donde $\Sigma_{\theta} = Z\psi Z^{T} /\sigma^{2} + I_{n}$

El uso de un azar interceptar modelo de ejemplo lme4 R paquete llego salida

library(lme4)
m = lmer(angle ~ temp + (1 | replicate), data=cake)
summary(m)

% Linear mixed model fit by REML ['lmerMod']
% Formula: angle ~ temp + (1 | replicate)
%    Data: cake
% 
% REML criterion at convergence: 1671.7
% 
% Scaled residuals: 
%      Min       1Q   Median       3Q      Max 
% -2.83605 -0.56741 -0.02306  0.54519  2.95841 
% 
% Random effects:
%  Groups    Name        Variance Std.Dev.
%  replicate (Intercept) 39.19    6.260   
%  Residual              23.51    4.849   
% Number of obs: 270, groups:  replicate, 15
% 
% Fixed effects:
%             Estimate Std. Error t value
% (Intercept)  0.51587    3.82650   0.135
% temp         0.15803    0.01728   9.146
% 
% Correlation of Fixed Effects:
%      (Intr)
% temp -0.903

Así que a partir de esto, creo que $\psi$ = 23.51, $(y-X\beta)$ puede estimarse a partir de la cake$angle - predict(m, re.form=NA), y sigma desde la plaza de la población a nivel de residuos.

th = 23.51
zt = getME(m, "Zt") 
res = cake$angle - predict(m, re.form=NA)
sig = sum(res^2) / (length(res)-1)

La multiplicación de estos juntos

th * zt %*% res / sig
         [,1]
1  103.524878
2   94.532914
3   33.934892
4    8.131864
---

lo cual no es correcto cuando se compara con

> ranef(m)
$replicate
   (Intercept)
1   14.2365633
2   13.0000038
3    4.6666680
4    1.1182799
---

Por qué?

Answer 1

Dos problemas (confieso que me tomó como 40 minutos para encontrar el segundo):

1. Usted no debe computar $\sigma^2$ con el cuadrado de los residuos, se estima por REML como 23.51, y no hay ninguna garantía de que el BLUPs tienen la misma varianza.

   sig <- 23.51
   

   Y esto no es $\psi$ ! Que se estima como 39.19

   psi <- 39.19
   

2. Los residuos no son obtenidos con cake$angle - predict(m, re.form=NA) pero residuals(m).

Poner juntos:

> psi/sig * zt %*% residuals(m)
15 x 1 Matrix of class "dgeMatrix"
         [,1]
1  14.2388572
2  13.0020985
3   4.6674200
4   1.1184601
5   0.2581062
6  -3.2908537
7  -4.6351567
8  -4.5813846
9  -4.6351567
10 -3.1833095
11 -2.1616392
12 -1.1399689
13 -0.2258429
14 -4.0974355
15 -5.3341942

que es similar a ranef(m).

Yo realmente no conseguir lo predict calcula.

---

PS. Para responder a tu último comentario, el punto es que usamos los "residuos" $\hat\epsilon$ como una forma de obtener el vector $PY$ donde $P = V^{-1} - V^{-1} X \left(X' V^{-1} X\right)^{-1} X' V^{-1}$. Esta matriz se calcula durante el REML algoritmo. Está relacionado con el BLUPs de azar términos por $$\hat\epsilon = \sigma^2 PY$$ y $$\hat b = \psi Z^t PY.$$

Thus $\sombrero de b = \psi / \sigma^2 Z^t \hat\epsilon$.