No es posible limitar la solución al intervalo abierto $a \in (0,1),$ porque cuando por ejemplo $(X,Y)$ es normal, el mínimo global se alcanza en todo el intervalo cerrado $[0,1]$ y, como se puede calcular fácilmente, cuando $X$ es una mezcla no trivial de dos Normales el mínimo global se alcanza sólo en $a=0$ o $a=1.$ Demostraré que todos los mínimos globales se alcanzan para $0 \le a \le 1.$
La idea clave es que cuando $Z$ es cualquier variable aleatoria con expectativa finita y función de distribución $F_Z,$
$$E[Z] = \int_{-\infty}^0 -F_Z(z)\,\mathrm dz + \int_0^\infty 1 - F_Z(z)\,\mathrm dz.$$
Esta solución hace suposiciones (mucho) más débiles sobre las variables $X$ y $Y$ de lo que se supone en la pregunta. Destacaré los supuestos necesarios a medida que avancemos.
Para cualquier variable aleatoria bivariante $(X,Y)$ y los números reales $a,b,t,$ definir
$$g_{X,Y}(a,b) = E[\max(aX, bY)].$$
Cuando $a \gt 0,$
$$E[\max(aX, bY)] = E\left[a\max\left(X, \frac{b}{a}Y\right)\right] = a E\left[\max\left(X, \frac{b}{a}Y\right)\right] = a\,g_{X,Y}\left(1,\frac{b}{a}\right).$$
Cuando $X$ y $Y$ son independientes con funciones de distribución marginal $F_X$ y $F_Y,$ y $a$ y $b$ son positivos,
$$\begin{aligned} \Pr(\max(aX, bY) \le t) &= \Pr(aX\le t,\ bY\le t) \\&= \Pr\left(X\le \frac{t}{a}\right)\Pr\left(Y\le\frac{t}{b}\right) \\&= F_X\left(\frac{t}{a}\right)F_Y\left(\frac{t}{b}\right). \end{aligned}$$
Así,
$$\begin{aligned} g_{X,Y}(a,b) &= a\,g_{X,Y}\left(1,\frac{b}{a}\right) \\&= a\left[\int_{-\infty}^0 -F_X\left(t\right)F_Y\left(\frac{at}{b}\right)\mathrm dt + \int_0^\infty \left(1 - F_X\left(t\right)F_Y\left(\frac{at}{b}\right)\right)\mathrm dt\right]. \end{aligned}$$
Proporcionado $g_{X,Y}(a_0,b_0)$ está definida y es finita para algún $a_0\gt 0$ y $b_0\gt 0,$ $g_{X,Y}(a,b)$ está definida y es finita para cada $a\gt 0$ y $b \gt 0$ porque $\max\left(aX, bY\right) \le \max(a/a_0,b/b_0) \max(a_0X,b_0Y)$ implica $$g_{X,Y}(a,b)\le \max\left(\frac{a}{a_0}, \frac{b}{b_0}\right)\,g_{X,Y}(a_0,b_0) \lt \infty.$$
Las relaciones son similares en los otros tres cuadrantes (donde $a\lt 0$ y $b\gt 0,$ $a\lt 0$ y $b \lt 0$ o $a\gt 0$ y $b\lt 0$ ).
Supongamos ahora que $F_Y$ es diferenciable en todas partes con la derivada $f_y.$ $g$ es diferenciable con derivadas $Dg = (D_1 g, D_2 g)$ dada por la diferenciación bajo los signos de la integral. Una vez hecho esto, sustituya $t = by/a$ para obtener
$$\begin{aligned} a\, D_1 g_{X,Y}(a,b) &= g_{X,Y}(a,b) - b\int F_X\left(\frac{by}{a}\right) y f_Y(y)\,\mathrm dy;\\ b\, D_2 g_{X,Y}(a,b) &= b\int F_X\left(\frac{by}{a}\right) y f_Y(y)\,\mathrm dy. \end{aligned}$$
En consecuencia, para $a\gt 0$ y $b \gt 0,$
$$a D_1 g_{X,Y}(a,b) + b D_2 g_{X,Y}(a,b) = g_{X,Y}(a,b).\tag{*}$$
Porque
$$g_{X,Y}(a,b) = g_{-X,Y}(-a,b) = g_{X,-Y}(a,-b) = g_{-X,-Y}(-a,-b),$$
relaciones análogas a $(*)$ se mantienen en los cuatro cuadrantes.
De ello se deduce que la función $a\to g_{X,Y}(1-a, a)$ es aumentando para $a \gt 1$ y disminuyendo para $a \lt 0.$ He aquí una ilustración en la que $Y$ tiene una distribución Normal estándar y $X$ es una mezcla de Uniformes $(-3,-1)$ y Uniformes $(0, 1)$ (con media cero):
Este gráfico de contorno para el mismo $(X,Y)$ es característico de la situación:
La línea en negrita traza el lugar de $(1-a,a).$ Cuando esta línea sale del primer cuadrante hacia el segundo (arriba a la izquierda) o el cuarto (abajo a la derecha), su componente en la dirección del $(a,b)$ campo vectorial descrito por $(*)$ es positivo: así, $g$ aumenta a lo largo de los rayos parametrizados por $(a\mid a \gt 1)$ y $(-a\mid a \gt 0).$
Las siguientes conclusiones son inmediatas a partir de los supuestos anteriores (a saber, que $(X,Y)$ es independiente, $Y$ tiene una distribución absolutamente continua, y existen puntos en cada uno de los cuatro $(a,b)$ cuadrantes donde $g$ es finito):
-
$g$ es continua en todas partes y diferenciable en el conjunto $\{(a,b)\mid a\ne 0, b \ne 0.\}$
-
$g$ aumenta en todas las direcciones alejándose del origen.
-
Por lo tanto, la restricción de $g$ a cualquier línea alcanza al menos un mínimo global,
-
y ese mínimo se produce en cualquier cuadrante en el que esté limitada esa línea.
Porque la línea parametrizada por $(1-a,a)$ está acotado en el primer cuadrante y su intersección con dicho cuadrante corresponde al intervalo $a\in [0,1],$ hemos terminado.