Vamos a ocuparnos del cálculo rutinario por ti, para que puedas llegar al meollo del problema y disfrutar formulando una solución. Se trata de construir rectángulos como uniones y diferencias de triángulos.
En primer lugar, elija valores de $a$ y $b$ que simplifican al máximo los detalles. Me gusta $a=0,b=1$ la densidad univariante de cualquier componente de $X=(X_1,X_2,\ldots,X_n)$ no es más que la función indicadora del intervalo $[0,1]$ .
Busquemos la función de distribución $F$ de $(Y_1,Y_n)$ . Por definición, para cualquier número real $y_1 \le y_n$ esto es
$$F(y_1,y_n) = \Pr(Y_1\le y_1\text{ and } Y_n \le y_n).\tag{1}$$
Los valores de $F$ son obviamente $0$ ou $1$ en caso de que $y_1$ ou $y_n$ está fuera del intervalo $[a,b] = [0,1]$ así que asumamos que ambos están en este intervalo. (Supongamos también que $n\ge 2$ para evitar hablar de trivialidades). En este caso, el acontecimiento $(1)$ puede describirse en términos de las variables originales $X=(X_1,X_2,\ldots,X_n)$ como "al menos uno de los $X_i$ es menor o igual que $y_1$ y ninguno de los $X_i$ superar $y_n$ ." Equivalentemente, todos los $X_i$ mentir en $[0,y_n]$ pero no todos ellos se encuentran en $(y_1,y_n]$ .
Porque el $X_i$ son independientes, sus probabilidades se multiplican y dan $(y_n-0)^n = y_n^n$ y $(y_n-y_1)^n$ respectivamente, para estos dos acontecimientos que acabamos de mencionar. Así pues,
$$F(y_1,y_n) = y_n^n - (y_n-y_1)^n.$$
La densidad $f$ es la derivada parcial mixta de $F$ ,
$$f(y_1,y_n) = \frac{\partial^2 F}{\partial y_1 \partial y_n}(y_1,y_n) = n(n-1)(y_n-y_1)^{n-2}.$$
El caso general de $(a,b)$ escala las variables por el factor $b-a$ y desplaza la ubicación en $a$ . Así, para $a \lt y_1 \le y_n \lt b$ ,
$$F(y_1,y_n; a,b) = \left(\left(\frac{y_n-a}{b-a}\right)^n - \left(\frac{y_n-a}{b-a} - \frac{y_1-a}{b-a}\right)^n\right) = \frac{(y_n-a)^n - (y_n-y_1)^n}{(b-a)^n}.$$
Diferenciando como antes obtenemos
$$f(y_1,y_n; a,b) = \frac{n(n-1)}{(b-a)^n}(y_n-y_1)^{n-2}.$$
Considere la definición de exhaustividad. Sea $g$ sea cualquier función medible de dos variables reales. Por definición,
$$\eqalign{E[g(Y_1,Y_n)] &= \int_{y_1}^b\int_a^b g(y_1,y_n) f(y_1,y_n)dy_1dy_n\\ &\propto\int_{y_1}^b\int_a^b g(y_1,y_n) (y_n-y_1)^{n-2} dy_1dy_n.\tag{2} }$$
Tenemos que demostrar que cuando esta expectativa es cero para todo $(a,b)$ entonces es seguro que $g=0$ para cualquier $(a,b)$ .
Aquí tienes una pista. Sea $h:\mathbb{R}^2\to \mathbb{R}$ sea cualquier función mensurable. Me gustaría expresarlo en la forma sugerida por $(2)$ como $h(x,y)=g(x,y)(y-x)^{n-2}$ . Para ello, obviamente debemos dividir $h$ par $(y-x)^{n-2}$ . Desgraciadamente, para $n\gt 2$ esto no se define siempre que $y=x$ . La clave es que este conjunto tiene medida cero por lo que podemos despreciarlo.
En consecuencia, dado cualquier medible $h$ definir
$$g(x,y) = \left\{\matrix{h(x,y)/(y-x)^{n-2} & x \ne y \\ 0 & x=y}\right.$$
Entonces $(2)$ se convierte en
$$\int_{y_1}^b\int_a^b h(y_1,y_n) dy_1dy_n \propto E[g(Y_1,Y_n)].\tag{3}$$
(Cuando la tarea consiste en demostrar que algo es cero, podemos ignorar las constantes de proporcionalidad distintas de cero. En este caso, he omitido $n(n-1)/(b-a)^{n-2}$ de la izquierda).
Se trata de una integral sobre un triángulo rectángulo cuya hipotenusa se extiende desde $(a,a)$ a $(b,b)$ y vértice en $(a,b)$ . Denotemos tal triángulo $\Delta(a,b)$ .
Ergo , lo que tienes que demostrar es que si la integral de una función arbitraria medible $h$ en todos triángulos $\Delta(a,b)$ es cero, entonces para cualquier $a\lt b$ , $h(x,y)=0$ (casi seguro) para todos $(x,y)\in \Delta(a,b)$ .
Aunque pueda parecer que no hemos llegado más lejos, consideremos cualquier rectángulo $[u_1,u_2]\times [v_1,v_2]$ totalmente contenido en el semiplano $y \gt x$ . Puede expresarse en términos de triángulos:
$$[u_1,u_2]\times [v_1,v_2] = \Delta(u_1,v_2) \setminus\left(\Delta(u_1,v_1) \cup \Delta(u_2,v_2)\right)\cup \Delta(u_2,v_1).$$
En esta figura, el rectángulo es lo que queda del triángulo grande cuando quitamos los triángulos rojo y verde superpuestos (que cuentan doble su intersección marrón) y luego sustituimos su intersección.
En consecuencia, se puede deducir inmediatamente que la integral de $h$ sobre todos esos rectángulos es cero. Sólo queda demostrar que $h(x,y)$ debe ser cero (aparte de sus valores en algún conjunto de medida cero) siempre que $y \gt x$ . La prueba de esta afirmación (intuitivamente clara) depende del enfoque que se quiera dar a la definición de integración.