Para $r<1$ tenemos $$ \log{(1+r^2-2r\cos{\theta})} = \log{(1-re^{i\theta})(1-re^{-i\theta})} \\ = \log{(1-re^{i\theta})}+\log{(1-re^{-i\theta})} \\ = -\sum_{k=1}^{\infty} \frac{1}{k}r^k (e^{ik\theta}+e^{-ik\theta}) \\ = -2\sum_{k=1}^{\infty} \frac{r^k}{k} \cos{k\theta}, $$ siempre que elijamos que todos los logaritmos tengan valor $0$ cuando su argumento es $1$ es decir $r=0$ . Así, $$ \int_0^{2\pi} \cos{n\theta}\log{(1+r^2-2r\cos{\theta})} \, d\theta = -2\sum_{k=1}^{\infty} \frac{r^k}{k} \int_0^{2\pi} \cos{k\theta}\cos{n\theta} \, d\theta = -2\pi\frac{r^n}{n}, $$ utilizando que la serie es uniformemente convergente.
¿Cómo se relaciona esto con tu integral? Podemos escribir el integrando como $\log{(1+r^2)}+\log{(1-\frac{2r}{1+r^2} \cos{\theta})}$ sin afectar al resultado de $n \neq 0$ . Así que si dividimos $\log{(C-D\cos{\theta})}=\log{C}+\log{(1-(D/C)\cos{\theta})}$ podemos tomar $C/D = 2r/(1+r^2) $ y resolviendo esto se obtiene $$ r = \frac{1-\sqrt{1-(D/C)^2}}{D/C}, $$ ya que necesitamos $r<1$ . Así, $$ \log{(C-D\cos{\theta})} = \log{C} + \log{1-(D/C)\cos{\theta}} = \log{C}-\log{(1+r^2)} +\log{(1+r^2-2r\cos{\theta})} \\ = \log{\left( \frac{C(D/C)^2}{2(1-\sqrt{1-(D/C)^2})} \right)} + \log{(1+r^2-2r\cos{\theta})}, $$ que podemos integrar. Por lo tanto, concluimos que
$$ \int_0^{2\pi} \cos{n\theta}\log{(C-D\cos{\theta})} \, d\theta = \begin{cases} 2\pi \log{\left( \frac{C(D/C)^2}{2(1-\sqrt{1-(D/C)^2})} \right)} & n=0 \\ -\frac{2\pi}{n} \left( \frac{1-\sqrt{1-(D/C)^2}}{D/C} \right)^n& n \in \mathbb{Z} \setminus \{0\}. \end{cases} $$