Vamos a denotar la deseada integral como$$I(z)=\int\limits_0^{\pi}dx\,\log\left(z^2-2z\cos x+1\right)$$And use Feynman's Trick to turn the integral into something that we can manage. Differentiating with respect to $z$ gives$$I'(z)=\int\limits_0^{\pi}dx\,\frac {2z-2\cos x}{z^2-2z\cos x+1}=\frac 1z\int\limits_0^{\pi}dx\,\left(1-\frac {1-z^2}{z^2-2z\cos x+1}\right)$$The first integral is trivial. The second one can be easily evaluated using a Weierstrass Substitution of $t=\tan\tfrac x2$$$\begin{align*}I'(z) & =\frac {\pi}z-\frac {2(1-z^2)}z\int\limits_0^{\infty}dt\space\frac {1}{\left[t(1+z)\right]^2+(1-z)^2}\\ & =\frac {\pi}z-\frac 2z\left.\arctan\left(\frac {1+z}{1-z}\tan\frac x2\right)\right|_0^{\pi}\end{align*}$$
La expresión dentro de la arco tangente de la función toma dos valores diferentes como $x$ varía de cero a $\pi$. Al $|z|<1$, la fracción es siempre positivo, incluso cuando $z$ es negativo. Por lo tanto, toda la expresión se evalúa a $\frac {\pi}2$. Por lo$$I'(z)=0\qquad\qquad I(z)=C_1$$
Y al $|z|>1$, la fracción es menor que cero (se puede ver por qué?). Así que la realidad la expresión se evalúa a $-\frac {\pi}2$ y obtener una respuesta diferente a los de antes de$$I'(z)=\frac {2\pi}z\qquad\qquad I(z)=2\pi\log z+C_2$$
Para encontrar las dos constantes, hacemos una sustitución por $z$, que se reduce a la integral a algo que nos puede evaluar fácilmente. Al $|z|<1$, la sustitución de $z=0$ da $I(z)=0$, por lo que podemos ver de inmediato que el $C_1=0$.
Al $|z|>1$, primero hacemos una sustitución de $z=\frac 1w$ donde $|w|<1$ y utilice el resultado previamente para conseguir ese $C_2$ es también igual a cero. Finalmente, nos quedamos con
$$\int\limits_0^{\pi}dx\,\log\left(z^2-2z\cos x+1\right)=\left\{\begin{align*}2\pi\log z\qquad |z|>1\\\\0\qquad\space\space\space\qquad |z|\leq1\end{align*}\right.$$