Para simplificar, supongamos que $E[X_t]=x$ para todos $t$ . La media de la muestra de $n$ muestras es $A_n = \frac{1}{n}\sum_{i=1}^n X_i$ . Entonces $E[A_n]=x$ para todos $n$ y la varianza es $Var(A_n) = E[(A_n-x)^2] = E\left[\left(\frac{1}{n}\sum_{i=1}^n(X_i-x)\right)^2\right]$ que es: $$ \boxed{Var(A_n) = \frac{1}{n^2}\sum_{i=1}^n\sum_{j=1}^n E[(X_i-x)(X_j-x)]} $$
1) Límite de covarianza estacionaria: Si para todos $i$ tenemos $|Cov(X_i, X_{i+k})| \leq h(k)$ para todos $k \geq 0$ para alguna función de valor real $h(k)$ que satisface $\lim_{k\rightarrow\infty} h(k)=0$ , entonces la fórmula de la varianza anterior da: $$ Var(A_n) \leq \frac{1}{n^2}\sum_{i=1}^n\sum_{i=1}^nh(|i-j|)\rightarrow 0 $$ Si $h(k)$ decae a 0 con la suficiente rapidez, por ejemplo, de forma exponencial en $k$ , por lo que podemos obtener $Var(A_n) \leq C/n^{\beta}$ para algunas constantes $C>0$ , $\beta>0$ y si las variables aleatorias $X_i$ son no negativas (o están acotadas por alguna constante determinista), entonces podemos repetir la prueba estándar de la ley de los grandes números para demostrarlo: $$ \lim_{n\rightarrow\infty} A_n = x \: \: \mbox{(with prob 1)}$$
2) Contraejemplo de límite de covarianza no estacionaria: Supongamos que $x=0$ y muestras $\{X_t\}_{t=1}^{\infty}$ se distribuyen idénticamente con $Pr[X_t=1]=Pr[X_t=-1]=1/2$ . Sin embargo, las muestras se generan a lo largo de fotogramas exponencialmente crecientes. Las muestras en diferentes marcos son independientes, pero las muestras en el mismo marco son idénticas:
-Cuadro 1: Tamaño $2$ . Muestras $t \in \{1, 2\}$ . $X_1=X_2$ .
-Cuadro 2: Tamaño $4$ . Muestras $t \in \{3, 4, 5, 6\}$ . $X_3=X_4=X_5=X_6$ .
-Cuadro 3: Tamaño $8$ . Muestras $t \in \{7, \ldots, 14\}$ . $X_7=\ldots=X_{14}$
y así sucesivamente, por lo que Frame $k$ tiene tamaño $2^k$ .
Es evidente que para cualquier $i$ tenemos $Cov(X_i,X_{i+n}) = 0$ para un tamaño suficientemente grande $n$ (ya que las muestras son independientes para un tamaño suficientemente grande $n$ ), y por lo tanto, para cualquier índice $i$ tenemos $\lim_{n\rightarrow\infty} Cov(X_i,X_{i+n})=0$ . Sin embargo, la varianza de $A_n$ no tiende a cero porque después de $k$ marcos con $n(k) = \sum_{i=1}^k 2^i=2(2^k-1)$ muestras que obtenemos: \begin {align} Var(A_{n(k)}) &= \frac {1}{n(k)^2} \sum_ {i=1}^k(2^i)^2Var(X_1) \\ &= \frac {Var(X_1)(4/3)(4^k-1)}{n(k)^2} \\ &= \frac {Var(X_1)(4/3)(4^k-1)}{4(4^k - 2^{k+1}+1)} \end {align} Así: $$ \lim_{k\rightarrow\infty} Var(A_{n(k)}) = \frac{Var(X_1)}{3} \neq 0$$