Como Robert Israel comentado, no hay solución explícita para$x$, salvo en unos pocos casos, tales como $a=b^n$ $(n=0,1,2,3,4)$ donde el problema se reduce a los polinomios.
Así, para el caso más general, se necesita algún método numérico y la más sencilla es probablemente la de Newton, teniendo en cuenta que buscamos el cero de la ecuación $$f(x)=a^x+b^x-(a+b)^2=e^{x\log(a)}+e^{x\log(b)}-(a+b)^2$$ Without loss of generality, let us assume $a>b$ and rewrite $$e^{x\log(a)}=(a+b)^2-e^{x\log(b)}$$ and search for the zero of equation $$g(x)={x\log(a)}-\log\left((a+b)^2-e^{x\log(b)} \right)$$ which is better conditioned. You can start iterating using $$x_0=2\frac{\log(a+b)} {\log(a)}$$ Using your numbers $a=5$ and $b=4$, método de Newton, se generará el siguiente iteración
$$\left(
\begin{array}{cc}
n & x_n \\
0 & 2.730424778 \\
1 & 2.489833783 \\
2 & 2.447205870 \\
3 & 2.446482135 \\
4 & 2.446481944
\end{array}
\right)$$, que es la solución para diez cifras significativas.
Si se hace una gráfica de la función $g(x)$, te darás cuenta de que es casi una línea recta; esto explica por qué la convergencia es tan rápido.