¿Cómo puedo demostrar matemáticamente que la media de una distribución es la medida que minimiza la varianza?

Question

Según la página 87 de Kruschke: Cómo hacer un análisis bayesiano de datos, el autor dice que la media de una distribución es un valor que minimiza la varianza de una distribución de probabilidad, por ejemplo, una distribución normal. Lo que se menciona en la página es lo siguiente:

Resulta que el valor de $ M $ que minimiza $ dx p(x)(xM)^2$ es $E[X] $ . En otras palabras, la media de la distribución es el valor que minimiza la desviación cuadrada esperada. De este modo, la media es una tendencia central de la distribución.

He leído el párrafo y he entendido más o menos lo que el autor está tratando de decir, pero me pregunto cómo se puede escribir esto matemáticamente utilizando la ecuación anterior o cualquier otra forma.

Answer 1

Tengo otra perspectiva geométrica que me sugirió mi universidad. En esencia "el valor $M$ " que se busca es un factor tal que $M\cdot\mathbb{1}$ es una proyección de $X$ en el subespacio generado por $\mathbb{1}$ en $L^2(\Omega, A, P)$ espacio donde $\mathbb{1}$ es una variable aleatoria constante igual a 1 en casi todas partes.

Recordemos que si tenemos un $\mathbb{R}^n$ con un producto interno $\langle\cdot,\cdot\rangle$ y queremos proyectar el vector $p$ en el subespacio generado por el vector $x$ entonces el vector proyectado viene dado por la fórmula $$v=\frac{\langle p,x\rangle}{||x||^2}x$$ y $v$ es un vector único de la forma $Mx$ que minimiza $||p-Mx||^2.$

En lugar de los habituales $\mathbb{R}^n$ considerar el espacio $L^2(\Omega, A, P)$ (espacio de variables aleatorias $X:\Omega\to\mathbb{R}$ tal que $\operatorname{E}[X^2]<\infty$ ) con un producto interno dado por la fórmula $$\langle X_1,X_2\rangle = \operatorname{E}[X_1\cdot X_2]=\int_\Omega X_1(x)X_2(x)dP(x).$$ Si fijamos una variable aleatoria arbitraria $X$ de $L^2(\Omega, A, P)$ y queremos proyectarlo sobre el subespacio generado por la variable aleatoria $\mathbb{1}$ entonces es lo mismo que encontrar $M$ de manera que minimice $$ \operatorname{E}[(X-M\cdot\mathbb{1})^2].$$ Utilizando el mismo argumento que en el $\mathbb{R}^n$ , obtenemos que $M=\frac{\langle X,\mathbb{1}\rangle}{||\mathbb{1}||^2}=\operatorname{E}[X]$ .