¿Qué hace $\hat{\theta}_n = \theta + O_p(n^{-1/2})$ ¿se refiere a las tarifas?

Question

Para $\hat{\theta}_n = \theta + O_p(n^{-1/2})$ tenemos $$\hat{\theta}_n - \theta = O_p(n^{-1/2})$$

Por lo tanto, tenemos para cualquier $\epsilon > 0$ existe un número finito de $M > 0$ y finito $N > 0$ tal que para todo $n > N$ ,

$$P\left(|\sqrt{n}(\hat{\theta}_n-\theta)| > M\right) < \epsilon$$ Lo anterior significa que $\sqrt{n} (\hat{\theta}_n -\theta)$ tiene una probabilidad limitada.

Sin embargo, ¿qué es exactamente lo que $\hat{\theta}_n - \theta = O_p(n^{-1/2})$ ¿se refiere a las palabras? ¿Es que "la diferencia entre $\hat{\theta}_n$ y $\theta_n$ disminuye a un ritmo $n^{-1/2}$ "?

Answer 1

Depende de a qué se refiera con "el diferencia entre $\hat \theta_n$ y $\theta_n$ ".

Intuitivamente, significa que cuanto más grande $n$ se convierte, el menos probable es que la diferencia no es menos que proporcional a $n^{-1/2}$ . Pero siempre puede haber casos en los que esto no sea cierto, sólo que se vuelven excesivamente improbables.

Answer 2

Me gusta ver esto intuitivamente en términos de cuantiles. Entonces la notación para "distribuciones de probabilidad" se convierte en exactamente la misma que la de "regular Landau-notation .

La expresión $P\left(|\sqrt{n}(\hat{\theta}_n-\theta)| > M\right) < \epsilon$ significa también que el $\epsilon$ -Cuantil de la sexta $Q_{\epsilon}( \vert\hat{\theta}_n-\theta\vert)$ de la distribución de $\vert \hat{\theta}_n-\theta \vert $ es menor o igual que $M \cdot \frac{1}{\sqrt{n}}$ al menos para una cantidad suficientemente grande de $n>N$ . Y esto es cierto para cada cuantificar $\epsilon$ .

La diferencia con los pequeños $o$ notación es que los pequeños- $o$ es independiente de $M$ . Para cada $M$ habrá algunos lo suficientemente grandes $n>N$ de manera que el cuantil sea menor.

Con $O(f(n))$ conseguimos que $\lim_{n \to \infty} \frac{Q_{\epsilon}( \vert\hat{\theta}_n-\theta\vert)}{f(n)} \leq M$ . Con $o(f(n))$ conseguimos que $\lim_{n \to \infty} \frac{Q_{\epsilon}( \vert\hat{\theta}_n-\theta\vert)}{f(n)} = 0$ .