Voy a dar el esquema de la solución. Los números de cada bola de color en un sorteo siguen una distribución multinomial como ha señalado tshauck. Sea $R$ denotan el número de bolas rojas, $G$ - número de bolas verdes, $B$ - número de bolas azules y $Y$ - número de bolas amarillas en el sorteo del tamaño $n$ . Entonces la probabilidad de que en el sorteo aleatorio tengamos exactamente $x_1$ bolas rojas, $x_2$ bolas verdes, $x_3$ bolas azules y $x_4$ la bola amarilla es
$$P(R=x_1,G=x_2,B=x_3,Y=x_4)=\frac{n!}{x_1!x_2!x_3!x_4!}p_r^{x_1}p_g^{x_2}p_b^{x_3}p_y^{x_4}$$
donde $p_r$ es la probabilidad de elegir la bola roja, $p_g$ - verde, $p_b$ - azul, $p_y$ - amarillo.
Denote el número de bolas únicas en un sorteo por $U$ . Entonces $U=f(R,G,B,Y)$ . Como se tiene la distribución del vector $(R,G,B,Y)$ se puede calcular la distribución de $U$ . Como tenemos cuatro colores $U$ puede obtener valores $0,1,2,3,4$ . Así que para obtener la probabilidad de que $U=0$ hay que encontrar todas las combinaciones posibles de $(R,G,B,Y)$ para lo cual $U=0$ y sumar las probabilidades de estas combinaciones. Así, cuando $U=0$ ? Cuando
-
Todas las bolas aparecen más de una vez: $R>1$ , $G>1$ , $B>1$ , $Y>1$
-
Un color está ausente y todos los demás aparecen más de una vez
a. $R=0$ , $G>1$ , $B>1$ , $Y>1$
b. $R>1$ , $G=0$ , $B>1$ , $Y>1$
c. $R>1$ , $G>1$ , $B=0$ , $Y>1$
d. $R>1$ , $G>1$ , $B>1$ , $Y=0$
-
Dos colores están ausentes y todos los demás aparecen más de una vez. $6$ casos
-
Faltan tres colores, todo el sorteo es de un solo color. $4$ casos
Los cuatro casos son mutuamente excluyentes, por lo que se pueden sumar las probabilidades. Los casos de $U=1,2,3,4$ pueden ser tratados de forma similar.
Por supuesto, no es una solución elegante, pero no veo por qué no debería funcionar. Sugiero preguntar esto en math.stackexchange.com .
Actualización 1
Este enfoque sirve para calcular la distribución de probabilidad de $U$ . Para el valor esperado de $U$ - La respuesta de Whuber es la correcta.