Cómo mejorar la estimación de la si $\sigma^2$ es conocida

Question

Me gustaría pedir a esta pregunta teórica sobre la estimación de un modelo lineal con conocidos $\sigma^2$ para el término de error. He leído que si la varianza de los términos de error se conoce, lo que hubiera sido posible conocer la población de las laderas y las intersecciones. Me puedes dar una sugerencia sobre cómo insertar esta información en el estimador? Tratando de minimizar $(\varepsilon'\varepsilon - \sigma^2)^2$ es un poco desordenado. Es una buena dirección para tratar de $\operatorname{Var}[y] = \operatorname{Var}[x\beta] + \sigma^2$ asumiendo $x$ $\varepsilon$ son independientes?

Answer 1

Tal vez hay un malentendido con el de Gauss-Markov teorema teniendo lugar aquí. Una suposición de Gauss-Markov teorema es que $\mathrm{Var}\left(\epsilon_i \right) = \sigma^2$. El best linear unbiased estimator bajo el de Gauss-Markov supuestos es $\hat{\mathbf{b}} = (X'X)^{-1}X'\mathbf{y}$. Observar que $\sigma^2$ no escriba la fórmula para el estimador no porque se supone que usted no sabe de $\sigma^2$. Más bien, $\sigma^2$ no entrar en la fórmula porque no ayuda!

Si se le cae el requisito de que el estimador es imparcial (o de lo contrario, se apartan de las hipótesis u objetivo de Gauss-Markov teorema), usted puede obtener estimadores que dependen de $\sigma^2$, como la de James-Stein estimador.

Answer 2

Edificio en @dsaxton del comentario, aquí son dos diagramas de dispersión con los mismos errores de $u$, elaborado a partir de $N(0,\sigma^2)$, $\sigma^2=4$. La primera tiene pendiente $\beta=4$, el segundo $\beta=6$.

¿Cómo desea utilizar el conocimiento de $\sigma^2$ a hacia abajo el pasador $\beta$ si dos poblaciones con el mismo $\sigma^2$ tienen diferentes $\beta$?

sigma <- 2
beta1 <- 4
beta2 <- 6
u <- rnorm(100,sd=sigma)
x <- runif(100)
y1 <- beta1*x + u
y2 <- beta2*x + u

par(mfrow=c(1,2))
plot(x,y1,ylim=c(-4,8))
plot(x,y2,ylim=c(-4,8))

Answer 3

Gracias por sus respuestas. No puedo encontrar de nuevo el sitio web donde dijo algo así como "no sabemos sigma, de lo contrario podríamos encontrar la población de origen y la pendiente". Me pareció interesante, pensé que tal vez hay algún truco (por la mejora de la estimador me refería a la reducción de la varianza del estimador). Muchas gracias por tu tiempo, eres muy buena gente, Chris