$0.65$ es la estimación de máxima probabilidad, pero para el problema que describes es demasiado simple. Por ejemplo, si se lanza la moneda una sola vez y sale cara, entonces esa misma regla diría "prob = 1".
Esta es una forma de obtener la respuesta. La densidad previa es $f(p) = 1$ para $0\le p\le 1$ (es la densidad de la distribución uniforme). La función de probabilidad es $L(p) = \binom{100}{65} p^{65}(1-p)^{35}$ . El teorema de Bayes dice que se multiplica la densidad a priori por la probabilidad y luego se normaliza, para obtener la densidad posterior. Eso te dice que la densidad posterior es $$ g(p) = \text{constant}\cdot p^{65}(1-p)^{35}. $$ La "constante" se puede encontrar mirando este . Obtenemos $$ \int_0^1 p^{65} (1-p)^{35} \; dp = \frac{1}{101\binom{100}{65}}, $$ y por lo tanto $$g(p)=101\binom{100}{65} p^{65}(1-p)^{35}. $$ El valor esperado de una variable aleatoria con esta distribución es la probabilidad de que el siguiente resultado sea una cabeza. Es decir $$ \int_0^1 p\cdot 101\binom{100}{65} p^{65}(1-p)^{35}\;dp. $$ Esto puede ser evaluado por el mismo método: $$ 101\binom{100}{65} \int_0^1 p\cdot p^{65}(1-p)^{35}\;dp = 101\binom{100}{65} \int_0^1 p^{66}(1-p)^{35}\;dp $$ $$ = 101\binom{100}{65} \cdot \frac{1}{\binom{101}{66}\cdot 102} = \frac{66}{102} = \frac{11}{17}. $$
Se trata de un ejemplo de la regla de sucesión de Laplace (¡busca el término en Google!). Laplace la utilizó para hallar la probabilidad de que el sol salga mañana, dado que ha salido todos los días durante los aproximadamente 6000 años de existencia del universo.
