Resultados de concentración para productos internos de dos vectores gaussianos aleatorios independientes

Question

Hola,

Quería saber si hay resultados estándar sobre la concentración del valor absoluto de productos internos de dos vectores aleatorios. Así que si $X, Y \in R^m$ son dos vectores aleatorios independientes con cada entrada distribuida como $\mathcal{N}(0, 1/m)$, entonces ¿cómo podemos acotar la siguiente expresión de probabilidad: $P ( | X^T Y | > \epsilon )$ ? Aquí, $\epsilon > 0$ es una constante dada que es pequeña.

Answer 1

Un método alternativo es explotar la invarianza rotacional de la Gaussiana. Puedes escribir $$X^T Y = |X| \left( \left(\frac{X}{|X|}\right)^T Y \right).$$ Porque $Y$ es invariante bajo rotación, el producto interno ahora es independiente de $X$, y de hecho tiene una distribución $N(0,1/m)$. Ahora dejemos que $C>1$ sea un parámetro arbitrario. Podemos acotar la probabilidad $X^T Y > \epsilon$ por la probabilidad de que ocurra uno de los siguientes dos eventos.

1. $ \left(\frac{X}{|X|}\right)^T Y \geq \frac{\epsilon}{C}$. Suponiendo que $ \epsilon \sqrt{m}/C$ tiende a infinito, esto ocurre con probabilidad $\Phi (\frac{\epsilon \sqrt{m}}{C})=(1+o(1)) \sqrt{\frac{m}{2 \pi}} \exp(-\frac{\epsilon^2 m}{C^2})$.

2. $|X| \geq C$. La norma de un vector Gaussiano está bien estudiada, y es estándar (ver, por ejemplo Capítulo 2 de estas notas, que $|X|$ está fuertemente concentrado alrededor de su esperanza. Por ejemplo, aplicando el Corolario 2.3 de las notas vinculadas se obtiene que la probabilidad de que esto ocurra es a lo sumo $\exp(-\frac{1}{4} (1-\frac{1}{C^2})^2 m)$

Para $\epsilon$ alejado de $0$ puedes elegir $C$ para optimizar la suma de los dos términos obteniendo una cota que es exponencial en $m$ pero con un exponente no óptimo. Si $\epsilon$ tiende a $0$ con $m$, entonces el primer término es dominante. Ese término permanece pequeño siempre y cuando $\epsilon$ sea mucho mayor que $\sqrt{\frac{\log m}{m}}.

Answer 2

Dado que estás tratando de acotar la suma de RVs i.i.d. con media cero, te recomendaría intentar desarrollar un límite de Chernoff: $$\Pr(X^TY>\epsilon)\leq \inf_{s\geq 0}\Big(e^{-s\epsilon }\big(Ee^{sZ}\big)^m\Big) $$ donde $Z=X_1Y_1$ está distribuido de acuerdo con una distribución de producto normal. No he realizado el cálculo completo pero creo que la función generadora de momentos $Ee^{sZ}$ se puede calcular en forma cerrada utilizando la expresión (6) para $K_0$ encontrada aquí.

En cuanto a la precisión del límite, observa que $$\Pr(X^TY>\epsilon)=\Pr\Big(\sum_{i=1}^m\hat{Z}_i>m\epsilon\Big)$$ donde los $\hat{Z}_i$ son i.i.d. y cada uno es el producto de dos RVs gaussianas estándar independientes ($\mathcal{N}(0,1)$). Es un resultado estándar de Grandes Desviaciones que dicha probabilidad tiende a cero de forma exponencial a medida que $m\to\infty$ para cada constante $\epsilon>0$. Estoy 99% seguro de que el límite de Chernoff siempre da la tasa exponencial correcta (pero no el coeficiente correcto del exponente principal).

Answer 3

Si $m=2$ entonces esta es una distribución de Laplace. De manera equivalente, la distribución del determinante de una matriz de $2\times2$ con entradas normales centradas IID es una distribución de Laplace. Ver comentario de whuber.

Una distribución de Laplace es también la diferencia de dos exponenciales IID. Entonces, si $m$ es par, el producto interno se puede escribir como una suma de $m/2$ distribuciones de Laplace IID, o la diferencia de dos distribuciones gamma IID. Ver "límites ajustados en la probabilidad de la suma de variables aleatorias de Laplace" para la función de densidad como una única suma.