Demostrar que la matriz de covarianza aleatoria $\hat{\Sigma}_n$ converge a la matriz $\Sigma$ casi seguro.

Question

Dejemos que $X_1, \ldots , X_n$ sea una secuencia iid de aleatoriedad $K$ vectores. Sea $\mu = E(X)$ y $\Sigma = \operatorname{var}(X)$ . Supongamos que $\Sigma$ es denite positivo. Dene la sucesión de aleatorias $K \times K$ matrices $$\hat{\Sigma}_n = \frac{1}{n}\sum_{i =1}^n\ (X_i-\bar{X}_n)(X_i-\bar{X}_n)'$$ Demostrar que $\hat{\Sigma}_n\to\Sigma$ casi seguro.

Quiero mostrar la convergencia aprovechando la norma de Frobenius.

Es decir $$\big|\ \|\hat{\Sigma}_n\|_F\ -\|\Sigma\|_F\ \big|\to0\ \textrm{as}\ n\to\infty$$

Pero resulta ser un cálculo pesado que contiene información que no puedo procesar a mano, ¿hay alguna manera mejor de abordar esto?

Answer 1

Supongo que basta con mostrar una convergencia de entrada casi segura, es decir $(\hat{\Sigma}_n)_{ij} \to \Sigma_{ij}$ casi seguramente para cada $i,j$ .

Le site $i,j$ entrada de $\hat{\Sigma}_n$ puede reescribirse como $$\frac{1}{n} \sum_{k=1}^n (X_k)_i (X_k)_j - \left(\frac{1}{n} \sum_{k=1}^n (X_k)_i\right) \left(\frac{1}{n} \sum_{k=1}^n(X_k)_j\right).$$ Aplicando la ley de los grandes números en cada término, tenemos una convergencia casi segura a $$E[X_i X_j] - E[X_i] E[X_j] =: \Sigma_{ij}.$$