Ley de los grandes números para dependiente de variables aleatorias con fija de covarianza

Question

Dado idénticamente distribuidas variables aleatorias $X_1,...,X_n$, donde $ \mathbb E X_i = 0$, $\mathbb E [X_i^2] = 1$, e $\mathbb E [X_i X_j] = c<1$, definir $S_n = X_1 + ... + X_n$. Se

$$\frac{S_n}{n} \rightarrow 0$$ in probability as $n\rightarrow \infty$?

The closest question I could find is this one, where an additional constraint is placed on the covariances, such that Chebyshev inequality can be used to bound $\left|\frac{S_n}{n} \right|$ by $\text{Var}\left(\frac{S_n}{n}\right)$. However, in my case $\text{Var}\left(\frac{S_n}{n}\right)$ is constant, so this approach will not work.

Indeed, when I simulate using MATLAB on an example where I generate Gaussian random variables which all have covariance $c=0.1$, Yo no lo veo acercarse a cero.

rng(1)
NN =20000;
C = ones(NN,NN)*0.1 + 0.9*diag(ones(NN,1));
rndnums = mvnrnd(zeros(NN,1), C, 1);
NNs = 1:20:NN
means = -99*ones(1,length(NNs));
for ti=1:length(NNs)
    means(ti) = mean(rndnums(1,1:NNs(ti)));
end
scatter(NNs ,means, '.'); xlabel('n'); ylabel('mean')

Intuitivamente, ya que todas las variables son todos "bloqueado" a eachother en correlación, no me puedo imaginar cómo su decir "eventualmente" llegar a cero.

Hay una ley de los grandes números en este contexto? Si es así, ¿cuál es la tasa de convergencia? O si no, hay alguna forma de saber lo que va a converger a?

Answer 1

Dejando $A$ ($n\times n$) de la matriz con unos en todas las entradas, y $I$ ser $n\times n$ matriz identidad, la matriz de covarianza es $$ M = (1-c)I + cA = P D P^{-1} $$ donde $D$ es diagonal y $P$ es ortogonal, y (como @RobertIsrael observado) somos libres para el fin de los autovalores tal que la parte superior izquierda del elemento de $D$ es $1+(n-1)c$ y el resto de los elementos de la diagonal son $1-c$.

Cuando hacemos esto, nos encontramos con que $(1,1,1,\ldots,1) P = (\sqrt{n},0,0,0...)$ que nos dice que las combinaciones lineales de las variables que no constituyen el vector propio con autovalor $(1-c)$ no contribuyen a la suma de $S_n$.

De modo que la suma de $S_n$ se distribuye de la $\sqrt{n}$ veces una variable aleatoria con media cero (por supuesto) y de la varianza $1+(n-1)c$. Esto no tiene que ser una Gaussiana, pero si la cola no es gruesa (de modo que la ley de los grandes números se aplica), a continuación, para grandes $n$ la desviación estándar de $S_n/n$ va como $$ \frac{\sqrt{n}\sqrt{1+(n-1)c}}{n} \sim \sqrt{c} $$ Por lo $S_n/n$ no se acercará a cero con probabilidad uno.

Creo que incluso si el individuo varia tienen colas gruesas, que sólo lo hace peor para decir que $S_n/n$ se acercará a cero con probabilidad uno, por lo que la anterior declaración se sostiene.