¿Cuál es la distribución de $X_i-\bar{X}$ cuando $X_i$ tiene $N(\mu,\sigma)$ distribución

Question

Supongamos que $X_1,X_2,...,X_n$ sean variables aleatorias iid con $N(\mu,\sigma^2)$ distribución. Sabemos que $X_i-\mu$ tiene un $N(0,\sigma^2)$ distribución.

Mi pregunta es cuál es la distribución para $X_i-\bar{X}$ ? donde ( $\bar{X}=\frac{\Sigma_1^n X_i}{n}$ )

Intento hacer lo siguiente. Desde $X_i\sim N(\mu, \sigma^2)$ y $\bar{X}\sim N(\mu,\frac{\sigma^2}{n})$

Así que $X_i-\bar{X}\sim N(0,(1+\frac{1}{n})\sigma^2)$ sin embargo, $X_i$ y $\bar{X}$ no son independientes, creo que esta simple solución no es correcta.

Muchas gracias.

Answer 1

Actualizado con la solución completa ya que el OP lo ha resuelto.

---

Para obtener una solución completa, hay que demostrar primero que $ Y_i:= X_i - \bar{X}$ es una variable aleatoria gaussiana, por lo que basta con encontrar su media y su varianza para caracterizar la distribución. Saber algo sobre los vectores aleatorios gaussianos hace que esto sea sencillo. En primer lugar se presenta esta solución, y a continuación ofrezco también un argumento más directo sin utilizar técnicas multivariantes.

Solución multivariante: Si $X_i\overset{iid}{\sim} N(\mu, \sigma^2)$ entonces $\mathbf{x}: = [X_1, \dots, X_n]' \sim N_n(1_n\mu, \sigma^2I_n)$ . También sabemos que para cualquier matriz conformable $A$ , $A'\mathbf{x}$ es gaussiano con media $A'1_n\mu$ y la matriz de covarianza $\sigma^2A'A$ . Consideremos, sin pérdida de generalidad, el caso $i = 1$ . Entonces tenemos $$A=[1 - 1/n, -1/n,\dots, -1/n]'.$$ Eso es, $Y_1$ es gaussiano con media $A'1_n \mu = 0$ y la varianza $$\sigma^2 A'A = \sigma^2([1-1/n]^2+(n-1)/n^2) = \sigma^2(n-1)/n.$$ Esto completa la primera solución.

---

Solución univariante: Podemos escribir $Y_i = (1-1/n)X_i - \sum_{j\neq i}X_j/n$ donde el primer término es independiente del segundo porque las funciones de variables aleatorias independientes son independientes. También sabemos que las sumas de variables aleatorias gaussianas independientes siguen siendo gaussianas, y que al multiplicar una variable aleatoria gaussiana por una constante se obtiene otra variable aleatoria gaussiana. Por lo tanto, utilizando las reglas estándar de las medias y las varianzas, $$(1 - 1/n)X_i\sim N(0, (1-1/n)^2 \sigma^2)$$ y

$$ -1\sum_{j\neq i}X_j \sim N(0, (n-1)\sigma^2/n^2), $$

lo que implica que $$Y_i \sim N(0, \sigma^2(n-1)/n),$$

donde hemos utilizado que la independencia implica covarianza cero.

Answer 2

Siguiendo con el caso univarita, ya que $X_i, i=1$ , $\dots ,N$ se distribuyen normalmente con una media $\mu$ y la varianza $\sigma^2$ Tenemos, como usted mencionó,

$E[X_i -\bar X] = E[X_i- \frac{1}{n}\sum_j^N X_j] = E[X_i] - \frac{1}{n}\sum_j^N E[X_j] = \mu - \frac{1}{n}n\mu =0$

Para la varianza, observe que

$Var[X_i-\bar X] = Var[X_i] + Var[\bar{X}] - 2Cov(X_i, \bar{X})$

Donde

$Cov(X_i, \bar{X}) = Cov(X_i, \frac{1}{n}\sum_j^N X_j) = Cov(X_i, \frac{1}{n}X_i)$ por la independencia.

Esto debería llevarle a su respuesta.

Además, técnicamente hay que comprobar que la distribución resultante es en sí misma normal. Entonces, utilizando el argumento del atajo de que la distribución normal está totalmente determinada por sus dos primeros momentos, tenemos que:

$X_i - \bar X \sim N \left (E[X_i - \bar X], Var[X_i - \bar X] \right )$

Answer 3

Student001 ya dio una solución a la pregunta y la aceptó. Los comentarios de Micheal M también son muy útiles, así que voy a publicar otra solución siguiendo la sugerencia de Micheal sin utilizar la notación matricial.

$X_1-\bar{X}=X_1-\frac{X_1+X_2+...+X_n}{n}\\=X_1-\frac{X_1}{n}-\frac{X_2+X_3+...+X_n}{n}\\=(1-\frac{1}{n})X_1-\frac{1}{n}(X_2+X_3+...+X_n)$

A continuación sabemos que:

$(1-\frac{1}{n})X_1\sim N(\frac{n-1}{n}\mu,\frac{(n-1)^2}{n^2}\sigma^2) \tag 1$

$\frac{1}{n}(X_2+X_3+...+X_n)\sim \frac{1}{n}N((n-1)\mu,(n-1)\sigma^2)=N(\frac{n-1}{n},\frac{n-1}{n^2}\sigma^2) \tag 2$

Y $(1)-(2)$ tiene un $N(0,\frac{(n-1)^2+n-1}{n^2}\sigma^2)=N(0,\frac{n-1}{n}\sigma^2)$

es decir $X_1-\bar{X}\sim N(0,\frac{n-1}{n}\sigma^2)$

Este resultado es exactamente el mismo que el de Student001.

---

Otro método sugerido por Glen_b : tenemos que encontrar la varianza de $X_i$ y $\bar{X}$

$Var(X_i-\bar{X})=Var(X_i)+Var(\bar{X})-2Cov(X_i,\bar{X})$

La clave está en calcular el $Cov(X_i,\bar{X})$

$Cov(X_i,\bar{X})=Cov(X_i, \frac{1}{n}(X_1+X_2+...+X_i+...+X_n))$

Utilizaremos la fórmula: $Cov(X,Y+Z)=Cov(X,Y)+Cov(X,Z)$

$Cov(X_i,\frac{1}{n}(X_1+X_2+...+X_i+...+X_n)=cov(X_i,\frac{1}{n}X_1)+...+Cov(X_i,\frac{1}{n}X_i)+...+Cov(X_i,\frac{1}{n}X_n)$

Por i.i.d sabemos que excepto $Cov(X_i,\frac{1}{n}X_i)$ todos los demás términos son ceros.

$\therefore Cov(X_i,\bar{X})=Cov(X_i,\frac{1}{n}X_i)=\frac{1}{n}Cov(X_i,X_i)=\frac{1}{n}Var(X_i)=\frac{1}{n}\sigma^2$

Finalmente,

$Var(X_i-\bar{X})=Var(X_i)+Var(\bar{X})-2Cov(X_i,\bar{X})=\sigma^2+\frac{\sigma^2}{n}-2\frac{1}{n}\sigma^2=\frac{n-1}{n}\sigma^2$

Todos los métodos obtienen los mismos resultados.