La varianza de la muestra converge casi con seguridad

Question

Supongamos que $X_{1},X_{2},\ldots$ sean variables aleatorias i.i.d. tales que $E\left[X_{i}\right]=\mu$ y $Var(X_{i})=\sigma^{2}<\infty$ . Sea $\bar{X}=\left(X_{1}+\cdots+X_{n}\right)/n$ . Demostrar que $\frac{1}{n}\overset{n}{\underset{i=1}{\sum}}\left(X_{i}-\bar{X}\right)^{2}\rightarrow\sigma^{2}$ a.s.

Solución: Sea $S_{n}=\frac{1}{n}\overset{n}{\underset{i=1}{\sum}}\left(X_{i}-\bar{X}\right)^{2}$ . Por la desigualdad de Chebyshev, $\sum_{n=1}^{\infty}P\left(\left|S_{n}-E\left[S_{n}\right]\right|>\varepsilon\right)\leq\sum_{n=1}^{\infty}\frac{Var(S_{n})}{\varepsilon^{2}}$ . Y sabemos que $E\left[S_{n}\right]\rightarrow\sigma^{2}$ Así que me gustaría me gustaría terminar esta demostración utilizando el primer lema de Borel-Cantelli si puedo demostrar que el lado derecho es sumable. Sin embargo, $Var(S_{n})=\frac{2\sigma^{4}}{n-1}$ , por lo que la suma es infinita, lo que significa que no converge casi con seguridad. ¿En qué me equivoco?

Answer 1

Como has utilizado una desigualdad para obtener una estimación de $\mathbb{P}(|S_n-\mathbb{E}S_n|>\varepsilon)$ el hecho de que la suma no converja hace no implican que $S_n$ no converge casi con seguridad.

Es más fácil así:

$$\begin{align} (X_i-\mu+(\mu-\bar{X}))^2 &= (X_i-\mu)^2 + 2 (X_i-\mu) \cdot (\mu-\bar{X})+(\mu-\bar{X})^2 \\ \Rightarrow S_n= \frac{1}{n} \sum_{i=1}^n (X_i-\bar{X})^2 &= \frac{1}{n} \sum_{i=1}^n (X_i-\mu)^2 + 2 (\mu-\bar{X}) \underbrace{\frac{1}{n} \cdot \sum_{i=1}^n (X_i-\mu)}_{\left(\frac{1}{n} \sum_{i=1}^n X_i\right)-\mu =(\bar{X}-\mu)} + (\mu-\bar{X})^2 \\ &= \frac{1}{n} \sum_{i=1}^n (X_i-\mu)^2 - (\bar{X}-\mu)^2 \end{align}$$

Por la ley fuerte de los grandes números obtenemos

$$\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i \to \mu \quad \text{almost surely} \\ \frac{1}{n} \sum_{i=1}^n (X_i-\mu)^2 \to \mathbb{E} \left( (X_i-\mu)^2 \right)=\sigma^2 \quad \text{almost surely} $$

Por lo tanto, $S_n \to \sigma^2$ casi seguro.

Answer 2

Esto es muy posterior a 2012, pero ya que me encontré con esto, me gustaría ofrecer una solución alternativa (pero similar en espíritu):

$$\frac{1}{n} \sum_{i=1}^n (X_i-\bar{X})^2 = \frac{1}{n}\sum_{i=1}^n (X_i^2-2X_i\bar{X}+(\bar{X})^2)=\frac{\sum_{i=1}^n X_i^2}{n}-\left(\frac{\sum_{i=1}^n X_i}{n}\right)^2$$

Desde $X_i^2$ son i.i.d. con media finita $\mu^2 + \sigma^2$ por la ley de los grandes números (SLLN), $\frac{\sum_{i=1}^n X_i^2}{n} \to \mu^2 + \sigma^2$ casi seguro.

Además, SLLN dice $\frac{\sum_{i=1}^n X_i}{n} \to \mu$ casi seguro. Por el Teorema del Mapeo Continuo (o por razonamiento directo), $\left(\frac{\sum_{i=1}^n X_i}{n}\right)^2 \to \mu^2$ .

Por lo tanto, $S_n \to \sigma^2$ casi seguro.