¿Cuál es la distribución de probabilidad de máxima entropía dados los límites [a,b] y la media?

Question

¿Cuál es la distribución de probabilidad continua que maximiza la entropía, dados sólo los límites de la variable aleatoria [a,b] y la media mu de la distribución de probabilidad?

Por ejemplo:

• si a=0, b=1, y mu=0,5, debería devolver una U[0,1].

• si a=10, b=20, y mu=20, debería devolver el delta de Dirac en x=20.

• si a=0, b=1, y mu=0.8 debería devolver ... ?

Imagino que la solución general estará basada en la distribución Beta con unos parámetros alfa y beta expresados en términos de a, b y mu, pero no lo sé.

Muchas gracias.

Answer 1

Se puede maximizar la entropía utilizando el cálculo de variaciones estándar; hay que tener en cuenta la restricción de que la distribución de probabilidad está correctamente normalizada y que la media es conocida, utilizando los multiplicadores de Lagrange. Entonces se encuentra que la distribución de probabilidad es de la forma

$$p(x) = \frac{\alpha e^{\alpha x}} { (e^{\alpha b}-e^{\alpha a})}, x\in [a,b]$$

para $\alpha$ la solución única para

$$\mu = \frac{ \int_a^b \alpha x e^{\alpha x} dx}{(e^{\alpha b} - e^{\alpha a})} = \frac{b e^{\alpha b} - a e^{\alpha a}}{(e^{\alpha b}-e^{\alpha a})} -\frac{1}{\alpha}$$