La maldición de la dimensionalidad - Una formalización

Question

Dejemos que $\mathbf{X}$ sea un vector en $\mathbb{R}^p$ y suponer que todos sus componentes son variables aleatorias estándar independientes (es decir $\mathbf{X}_j \sim \mathcal{N} (0, 1)$ para $j = 1, \cdots, p$ ). Demuestre que como $p \rightarrow \infty$ tenemos $P(||\mathbf{X}||^2 \leq \epsilon) \rightarrow 0, \,\, \forall \epsilon > 0$ .

Pido disculpas si el título es incorrecto, pero he interpretado esto como una "prueba" de la maldición de la dimensionalidad. He intentado demostrar esto a través de la desigualdad de Chebyshev, y mi intuición dice que esto debería funcionar dado lo que he visto que implican otras pruebas para las distribuciones limitantes, pero no estoy seguro de cómo ir a formalizar esto.

Answer 1

No me queda claro cómo el resultado límite de tu pregunta constituye una formalización del concepto de "maldición de la dimensionalidad". Sin embargo, el resultado límite que intentas demostrar es bastante sencillo. Ya que has afirmado que $X_1,...X_p \sim \text{IID } \mathcal{N} (0,1)$ tiene la distribución explícita:

$$||\mathbf{X}_p||^2 = \sum_{i=1}^p X_i^2 \sim \text{ChiSq}(\text{df} = p).$$

De ello se desprende que $\mathbb{E}(||\mathbf{X}_p||^2) = p$ y $\mathbb{V}(||\mathbf{X}_p||^2) = 2p$ . El teorema central del límite clásico nos da la equivalencia asintótica:

$$\begin{equation} \begin{aligned} \mathbb{P}(||\mathbf{X}_p||^2 \leq \epsilon) &= \mathbb{P} \bigg( \frac{||\mathbf{X}_p||^2 - p}{\sqrt{2p}} \leqslant \frac{\epsilon - p}{\sqrt{2p}} \bigg) \\[6pt] &\simeq \Phi \bigg( \frac{\epsilon - p}{\sqrt{2p}} \bigg). \\[6pt] \end{aligned} \end{equation}$$

Tomando los límites se obtiene el resultado:

$$\lim_{p \rightarrow \infty} \mathbb{P}(||\mathbf{X}_p||^2 \leq \epsilon) = \lim_{p \rightarrow \infty} \Phi \bigg( \frac{\epsilon - p}{\sqrt{2p}} \bigg) = \lim_{z \rightarrow \infty} \Phi( -z ) = 0.$$

Hay otras maneras de demostrar esto si lo prefieres, pero el hecho de tener una forma distributiva estipulada hace que sea fácil aplicar el teorema del límite central aquí. Ahora bien, si quieres afirmar que este límite constituye una "prueba" del concepto de la "maldición de la dimensionalidad", vas a necesitar algún argumento más para respaldarlo. Además, el hecho de que hayas asumido una distribución conjunta completa para tu vector aleatorio hace que tu resultado sea muy estrecho, así que incluso si puedes dar algún argumento que relacione esto con la "maldición de la dimensionalidad", esto sólo se va a aplicar a una clase muy estrecha de casos (lo que no es muy convincente, ya que la "maldición de la dimensionalidad" es un fenómeno mucho más general).