14 votos

Inversa de la función entropía binaria $0 \le x \le \frac{1}{2}$

Estoy tratando de encontrar la inversa de a $H_2(x) = -x \log_2 x - (1-x) \log_2 (1-x)$[1] sujeto a $0 \le x \le \frac{1}{2}$. Este es un cálculo, por lo que una aproximación es bastante buena.

Mi enfoque fue a tomar la serie de Taylor en $x=\frac{1}{4}$, cortar como una ecuación cuadrática, y luego encontrar la inversa de esa. Que los rendimientos de

$$H_2^{-1}(x) \approx -\frac{1}{16} \, \sqrt{-96 \, x \log\left(2\right) + 9 \, \log\left(3\right)^{2} - 72 \, \log\left(3\right) + 96 \, \log\left(4\right)} + \frac{3}{16} \, \log\left(3\right) + \frac{1}{4}$$

Lamentablemente, es una muy mala aproximación y es complejo en $H_2^{-1}(1)$. ¿Qué otros métodos se pueden tomar?

[1] originalmente me olvidé de escribir la base 2 subíndice (I añadió que en una posterior edición)

9voto

Robert Christie Puntos 7323

Una aproximación más bien gruesa de $H_2(x)$ en el intervalo mencionado es $4 \log(2) x(1-x)$. Por lo tanto es una aproximación cruda para la inversa: $$ H_2^{-1}(y) \approx \frac{1}{2} \left (1-\sqrt{1-\frac{y}{\log(2)}}\right) = \frac12\frac{y}{\log(2) + \sqrt{\log(2)\left(\log(2)-y\right)}} $$ esta aproximación inicial debe refinarse con Método de Newton-Raphson.

9voto

RVNT Puntos 31

Una buena aproximación que encontré en esta tesis:

$ \frac{x}{2 \log_2 (6/x)} \leq H_2^{-1}(x) \leq \frac{x}{ \log_2 (1/x)}$

1voto

Jiantao Jiao Puntos 11

Le sugiero que utilice el comando de remez en Chebfun (http://www.chebfun.org/) para calcular un polinomio que aproxima esta función muy bien. Tu pregunta está estrechamente relacionada con la teoría de la aproximación, y este software muy fácil de usar debe ser capaz de todo lo que quieras darle. :)

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X