Utilice De Moivre-Laplace para aproximar $1 - \sum_{k=0}^{n} {n \choose k} p^{k}(1-p)^{n-k} \log\left(1+\left(\frac{p}{1-p}\right)^{n-2k}\right)$

Question

Estoy tratando de utilizar el teorema de De Moivre-Laplace para aproximar $$1 - \sum_{k=0}^{n} {n \choose k} p^{k}(1-p)^{n-k} \log\left(1+\left(\frac{p}{1-p}\right)^{n-2k}\right)$$

La idea de una aproximación es que no tenemos el término de la suma que es difícil de calcular si $n$ es alta.

Utilizando el teorema de De Moivre-Laplace lo conseguimos: $${n \choose k} p^{k}(1-p)^{n-k} \approx \frac{1}{\sqrt{2 \pi np(1-p)}}e^{-\frac{(k-np)^2}{2np(1-p)}}$$ Ahora vemos que \begin{align} F &= 1 - \sum_{k=0}^{n} {n \choose k} p^{k}(1-p)^{n-k} \log\left(1+\left(\frac{p}{1-p}\right)^{n-2k}\right) \\&\approx 1 - \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi np(1-p)}}e^{-\frac{(x-np)^2}{2np(1-p)}}\log_2\left(1+\left(\frac{p}{1-p}\right)^{n-2x}\right) dx \end{align}

mi cálculo se inspira en Entropía de una distribución binomial

Si se tiene otra sugerencia de aproximación $F$ o conseguir un cerrado para me gustaría escuchar esos. Hasta ahora he intentado aproximar $F$ con un método de mínimos cuadrados utilizando una función tanh como función de ajuste.

Answer 1

$$\color{brown}{\textbf{Transformations}}$$

Que WLOG la desigualdad $$q=\dfrac p{1-p}\in(0,1)\tag1$$ es válido. De lo contrario, los eventos opuestos correspondientes pueden ser invertidos.

Esto permite presentar la expresión de la cuestión en forma de \begin{align} &S(n,p)=1 - (1-p)^n\sum_{k=0}^{n} {n \choose k} q^k\log\left(1+q^{n-2k}\right),\tag2\\[4pt] \end{align} o \begin{align} &=1 - (1-p)^n\sum_{k=0}^{n} {n \choose k}q^kq^{n-2k} - (1-p)^n\sum_{k=0}^{n} {n \choose k}q^k\left(\log\left(1+q^{n-2k}\right)-q^{n-2k}\right)\\[4pt] &=1 - (1-p)^n(1+q)^n - (1-p)^n\sum_{k=0}^{n} {n \choose k}q^k\left(\log\left(1+q^{n-2k}\right)-q^{n-2k}\right)\\[4pt] &S(n,p)= - (1-p)^n\sum_{k=0}^{n} {n \choose k}q^k\left(\log\left(1+q^{n-2k}\right)-q^{n-2k}\right).\tag3\\[4pt] \end{align} Fórmula $(3)$ puede simplificar los cálculos, porque no contiene la diferencia de los valores cerrados.

$$\color{brown}{\textbf{How to calculate this.}}$$

Tenga en cuenta que la suma de $(3)$ contiene tanto los grados positivos como los negativos de $q.$ Esto significa que en el caso $n\to \infty$ la suma contiene los términos de la diferente escala.

Los cálculos de la fórmula $(3)$ puede dividirse en dos partes.

$\color{green}{\textbf{The Maclaurin series.}}$

La serie de Maclaurin para la parte logarítmica converge cuando el término $\mathbf{\color{blue}{q^{n-2k} < 1}}.$ Esto se corresponde con los valores $k<\frac n2$ en el caso $\mathbf{q<1}$ y con los valores $k>\frac n2$ en el caso $\mathbf{q>1}.$ Entonces la serie de Maclaurin en forma de $$\log(1+q^{n-2k}) = \sum_{i=1}^\infty\frac{(-1)^{i+1}}{i}q^{(2n-k)i}\tag4$$ se puede utilizar.

Si $\mathbf{\color{blue}{q^{n-2k} > 1}},$ entonces $$\log(1+q^{n-2k}) = \log(q^{2n-k}(1+q^{k-2n})) = (2n-k)\log q + \log(1+q^{k-2n}).\tag5$$

Si $\mathbf{\color{blue}{q^{n-2k} = 1}},$ entonces $LHS(4) = \log2.$

Si $\mathbf{\color{blue}{q^{n-2k} \lesssim 1}},$ entonces $$\log(1+q^{2n-k}) = \log\frac{1+r}{1-r} = 2r\sum_{i=0}^\infty\frac{(-1)^i}{2i+1}r^{2i},\quad \text{ where } r=\frac{q^{2n-k}}{2+q^{2n-k}}\approx\frac{q^{2n-k}}3,\tag6$$ y se pueden utilizar algunos términos de la serie.

$\color{green}{\textbf{The double summations.}}$

Tras la sustitución del $(4)$ o $(5)$ a $(3)$ las sumas pueden ser reordenadas. Por ejemplo, $$\sum_{k=0}^{L}{n \choose k}q^k\sum_{i=1}^\infty\frac{(-1)^{i+1}}{i}q^{(2n-k)i}= \sum_{i=1}^\infty\frac{(-1)^{i+1}}{i}\sum_{k=0}^{L}{n \choose k}q^kq^{(2n-k)i}$$ $$= q^{n+1}\sum_{i=1}^\infty\frac{(-1)^{i+1}}{i}\sum_{k=0}^{L}{n \choose k}\left(q^{i+1}\right)^{n-k},$$ en el que se puede elegir el orden de la suma, teniendo en cuenta los datos dados.

Answer 2

La expresión se parece mucho a la aproximación Bernstein de una función ( $1-f(x)$ ) en $[0,1]$ . Pero el argumento (de hecho el grado $n-2k$ ) de $log$ función arruina todo.

He aquí una idea rápida. Denote $$ y(p)=\sum_{k=0}^{n} {n \choose k} p^{k}(1-p)^{n-k} \log\left(1+\left(\frac{p}{1-p}\right)^{n-2k}\right). $$

Supongamos que podemos representar $y(p)$ en la forma $y(p)=\sum_{m=0}^\infty y_m p^m$ , donde $y_m$ son constantes que no dependen de $p$ .

Tenga en cuenta que $y(p)=y(1-p)$ . Consideremos la ecuación $$ y(p)+y(1-p)=f(p). \tag{eq1}\label{eq1} $$ Aunque podemos escribir la expresión para $f(p)$ pensemos que no sabemos cómo $f(p)$ parece. Pero seguro, $f(p)$ debe satisfacer $f(p)=f(1-p)$ . Se sabe (ver por ejemplo http://eqworld.ipmnet.ru/en/solutions/fe/fe1116.pdf ) que ecuaciones como \eqref{eq1} tienen solución, por ejemplo, $$ \tag{eq2}\label{eq2} y(p)=f(p) \sin^2({\pi p \over 2}). $$ Al ampliar $\sin^2({\pi p \over 2})$ en la serie de Maclaurin obtenemos $$ y(p)=f(p) \sum_{m=1}^\infty {(-1)^{m+1} 2^{2m-1} \over (2m)!} {p^{2m} \pi^{2m} \over 2^{2m}}. $$

Supongamos que $f(p)$ es una función analítica, es decir $f(p)=\sum_{m=0}^\infty {f^{(m)}(0)\over m!} p^m$ . Al escribir \eqref{eq2} en la forma de serie tenemos: $$ \sum_{m=0}^\infty y_m p^m = \left ( \sum_{m=0}^\infty {f^{(m)}(0)\over m!} p^m \right ) \left ( \sum_{m=1}^\infty {(-1)^{m+1} \over (2m)!} {p^{2m} \pi^{2m} \over 2} \right ). $$

A partir de esta relación es posible encontrar las expresiones para $f^{(m)}(0)$ a través de $y_m$ igualando los coeficientes en $p^m$ . Si esto funciona, volvemos a la parte derecha de \eqref{eq2} y tratamos de encontrar cuántos términos en el producto $$ \left ( f^{(0)}(0) + f^{(1)}(0) p + f^{(2)}(0) {p \over 2} + \dots \right ) \left ( \sum_{m=1}^\infty {(-1)^{m+1} \over (2m)!} {p^{2m} \pi^{2m} \over 2} \right ). $$

dan el valor aproximado.

Answer 3

Podemos aplicar un método similar a este . Dado que el sumando tiene un pico agudo alrededor de $k = n/2$ podemos tomar una expansión válida para grandes $n$ y para $k$ cerca de $n/2$ y luego, también debido a que las colas son pequeñas, extender el rango de la suma indefinidamente:

$$a_k = \binom n k p^k q^{n - k} \ln \left( 1 + \left( \frac p q \right)^{n - 2 k} \right), \quad q = 1 - p, \\ a_{n/2 + i} \sim \sqrt {\frac 2 {\pi n}} \left( 2 \sqrt {p q} \right)^n \left( \frac p q \right)^i \ln \left( 1 + \left( \frac q p \right) ^{2 i} \right), \\ \sum_{k = 0}^n a_k \sim \sqrt {\frac 2 {\pi n}} \left( 2 \sqrt {p q} \right)^n \sum_{i = -\infty}^\infty \left( \frac p q \right)^i \ln \left( 1 + \left( \frac q p \right) ^{2 i} \right), \\ n \to \infty, p \text{ fixed}, 0 < p < 1, p \neq \frac 1 2.$$