No sé si lo que voy a escribir es una "prueba puramente probabilística" como pide la pregunta, o una prueba combinatoria, pero eso lo debe decidir Did. Al final sí que utilizo identidades combinatorias (ACTUALIZACIÓN 12-1-2014: se ha encontrado un paso final alternativo de la prueba que no utiliza las identidades. El paso final inicial se conserva al final, en gris).
El lado izquierdo de la identidad se puede reescribir como
$$E[(S_n)^2;S_{2n}=0] = E\left[\left(\sum_{i=1}^nX_i\right)^2 ; S_{2n}=0\right]=E\left[\sum_{i=1}^nX_i^2 + \sum_{i\neq j}X_iX_j ; S_{2n}=0\right]$$ por lo que $$E[(S_n)^2;S_{2n}=0]=E\left[\sum_{i=1}^nX_i^2 ; S_{2n}=0\right]+ E\left[\sum_{i\neq j}X_iX_j ; S_{2n}=0\right] $$
Pero $X_i^2=1$ casi seguramente para cada $i$ . Asimismo, la distribución de $(X_i,X_j)$ con la condición de $S_{2n}=0$ no depende de $i\ne j$ desde el $X_i$ s son i.i.d y $S_{2n}$ es una función simétrica de $(X_i)$ . Así llegamos a
$$E[(S_n)^2;S_{2n}=0] = nP[S_{2n}=0] +n(n-1)E\left(X_{2n-1}X_{2n}; S_{2n}=0\right)$$
La variable aleatoria $X_{2n-1}X_{2n}$ toma los valores $\{-1,1\}$ . Sea $q \equiv P[X_{2n-1}X_{2n}=-1; S_{2n}=0]$ . Entonces $P[X_{2n-1}X_{2n}=1; S_{2n}=0]=P[S_{2n}=0]-q$ por lo que $$E\left(X_{2n-1}X_{2n};S_{2n}=0\right) = -1\cdot q + 1\cdot(P[S_{2n}=0]-q) = P[S_{2n}=0]-2q$$
Tenga en cuenta que si $X_{2n-1}X_{2n}=-1$ entonces $X_{2n-1}+X_{2n} = 0$ y $S_{2n-2}=S_{2n}$ Por lo tanto $$q= P[S_{2n-2}=0,S_{2n}=0]= P[S_{2n-2}=0,X_{2n-1}+X_{2n} = 0]= \frac 12 P[S_{2n-2}=0]$$ la última igualdad se debe al hecho de que $S_{2n-2}$ y $X_{2n-1}+X_{2n}$ son independientes y que $P[X_{2n-1}+X_{2n} = 0]= \frac 12$ . Así que $$ E\left(X_{2n-1}X_{2n}; S_{2n}=0\right) =P[S_{2n}=0]-P[S_{2n-2}=0]$$
Insertando en la expresión principal y multiplicando tenemos
$$E[(S_n)^2;S_{2n}=0] = nP[S_{2n}=0] +n(n-1)\Big (P[S_{2n}=0] - P[S_{2n-2}=0]\Big) $$
$$=n^2P[S_{2n}=0] - n(n-1)P[S_{2n-2}=0] \tag{A}$$
Guiados por lo que queremos demostrar, la cuestión ahora es expresar $P[S_{2n}=0]$ en términos de $P[S_{2n-2}=0]$ . Observamos que el evento $\{S_{2n}=0\}$ sólo puede ocurrir y, por tanto, tiene una probabilidad estrictamente positiva, si y sólo si se produce uno de los siguientes acontecimientos:
1) $E_0 \equiv [\{S_{2n-2}=0\}\; \cap \{X_{2n-1}+X_{2n}= 0\}]$
2) $E_1 \equiv [\{S_{2n-2}=2\}\; \cap \{X_{2n-1}+X_{2n}= -2\}]$
3) $E_2 \equiv [\{S_{2n-2}=-2\}\; \cap \{X_{2n-1}+X_{2n}= 2\}]$
Los eventos dentro de los corchetes, si los vemos como elementos de un $3\times 2$ matriz, son (perdón por mi lenguaje) ... "horizontalmente independientes y verticalmente mutuamente excluyentes". Combinadas, implican que $$P[S_{2n}=0] = P[E_0 \cup E_1 \cup E_2] = P[E_0] + P[E_1]+P[E_2]$$
mientras que la independencia "horizontal" implica que las probabilidades conjuntas pueden separarse como el producto de las probabilidades de los dos sucesos implicados en cada caso. Además, por simetría tenemos que $P[S_{2n-2}=-2]= P[S_{2n-2}=2]$ , mientras que
$P[X_{2n-1}+X_{2n}= 0]= 1/2 $ , $P[X_{2n-1}+X_{2n}= -2]= 1/4 $ , $P[X_{2n-1}+X_{2n}= 2]= 1/4$ . Utilizando todos estos resultados llegamos a
$$ P[S_{2n}=0] = \frac 12 P[S_{2n-2}=0] + \frac 12 P[S_{2n-2}=2]$$
Insertando esto en la ecuación $[A]$ obtenemos
$$E[(S_n)^2;S_{2n}=0] = n^2\left( \frac 12 P[S_{2n-2}=0] + \frac 12 P[S_{2n-2}=2]\right) - n(n-1)P[S_{2n-2}=0] $$
$$\Rightarrow E[(S_n)^2;S_{2n}=0] = \frac n2 (2-n)P[S_{2n-2}=0] + \frac {n^2}2P[S_{2n-2}=2] \tag{B}$$
Ecuación $[B]$ es una mejora con respecto a la ec. $[A]$ porque, mediante argumentos probabilísticos, sólo $S_{2n-2}$ está ahora presente en el RHS. Ahora, si denotamos por $Y_k$ una variable aleatoria binomial con probabilidad de éxito $1/2$ , $Y_k = Bin(k,1/2)$ entonces, las probabilidades relacionadas con $S_{2n-2}$ puede expresarse en términos de $Y_{2n-2}$ ,
$$P[S_{2n-2}=0] = P[Y_{2n-2}=n-1],\;\; P[S_{2n-2}=2] = P[Y_{2n-2}=n]$$
Es entonces un paso natural utilizar la función generadora de probabilidad de $Y_{2n-2}$ que es
$$G_Y(z) = \left (\frac 12 +\frac 12z\right)^{2n-2}$$ mientras que nosotros tenemos
$$P[S_{2n-2}=0] = P[Y_{2n-2}=n-1] = \frac 1 {(n-1)!}G_Y^{(n-1)}(0)$$ $$P[S_{2n-2}=2] = P[Y_{2n-2}=n] = \frac 1 {n!}G_Y^{(n)}(0)$$
donde los paréntesis de superíndice denotan el orden de la derivada tomada. Pero
$$G_Y^{(n)}(0) = (n-1)G_Y^{(n-1)}(0) = (n-1)\cdot[(n-1)!]P[Y_{2n-2}=n-1]$$
y así
$$P[S_{2n-2}=2] = P[Y_{2n-2}=n] = \frac {n-1}{n} P[Y_{2n-2}=n-1] = \frac {n-1}{n}P[S_{2n-2}=0]$$
Insertando esto en la ecuación $[B]$ obtenemos
$$E[(S_n)^2;S_{2n}=0] = \frac n2 (2-n)P[S_{2n-2}=0] + \frac {n^2}2\frac {n-1}{n}P[S_{2n-2}=0] $$
$$\Rightarrow \frac n2P[S_{2n-2}=0] \cdot (2-n+n-1) = \frac n2P[S_{2n-2}=0]$$
que es lo que queríamos probar. Se podría argumentar que el uso de la función generadora de probabilidad es un paso demasiado "algebraico", y que en general, en el momento en que entramos en el territorio de la distribución binomial, la combinatoria hace estragos en el fondo -pero al menos ahora hacen estragos sólo en el fondo.
--
Y no olvidemos que, por otro lado, reordenando las relaciones anteriores podemos obtener la expectativa condicional
$$E[(S_n)^2 \mid S_{2n}=0] = \frac {n^2}{2n-1}$$
Paso final INICIAL de la prueba (utilizando identidades combinatorias)
Hemos llegado a la ecuación $[A]$ .
Utilizando $Y_k$ para denotar una variable aleatoria binomial con probabilidad de éxito $1/2$ , $Y_k = B(k,1/2)$ las probabilidades relacionadas con $S_n$ pueden expresarse como probabilidades de variables aleatorias binomiales, $$P[S_{2n}=0] = P[Y_{2n}=n],\qquad P[S_{2n-2}=0] =P[Y_{2n-2}=n-1]$$
Como queremos al final tener sólo $P[S_{2n-2}=0]$ presente, debemos expresar de alguna manera $P[Y_{2n}=n]$ en términos de $P[Y_{2n-2}=n-1]$ y aquí es donde uso las identidades combinatorias, ya que se puede llegar a través de ellas a
$$P[Y_{2n}=n] = \frac 1{2^{2n}}{2n \choose n} = \frac 12 \frac {2n-1}{n}\frac 1{2^{2n-2}}{2n-2 \choose n-1} = \frac {2n-1}{2n}P[Y_{2n-2}=n-1]$$
Volviendo a $S$ - notación y la inserción en la expresión principal, tenemos
$$E[(S_n)^2;S_{2n}=0] = n^2\frac {2n-1}{2n}P[S_{2n-2}=0] - n(n-1)P[S_{2n-2}=0]$$
$$=\frac{n}2\,P[S_{2n-2}=0]\Big (2n-1 - 2(n-1)\Big) = \frac{n}2\,P[S_{2n-2}=0]$$
que es lo que queríamos probar. Tal vez haya otras formas de relacionar $P[S_{2n}=0]$ y $P[S_{2n-2}=0]$ pero actualmente se me escapan.
