Integración por partes, se obtiene:
$$ \int_{0}^{1}\frac{\log(t^2+(t-1)^2)}{t}\,dt = \int_{0}^{1}\frac{2t+2(t-1)}{t^2+(t+1)^2}\,\log(t)\,dt\\=-\int_{0}^{1}\left(\frac{1}{t-\frac{1+i}{2}}+\frac{1}{t-\frac{1-i}{2}}\right)\log(t)\,dt\tag{1}$$
pero:
$$ \int_{0}^{1}\frac{\log(t)}{t-a}\,dt = \text{Li}_2\left(\frac{1}{a}\right) \tag{2}$$
por tanto, la integral anterior se da por $-2\cdot\text{Re}\left[\text{Li}_2(1-i)\right]$, pero que puede ser calculada a partir de la reflexión de la fórmula para $\text{Li}_2$:
$$ \text{Li}_2(z)+\text{Li}_2(1-z)=\frac{\pi^2}{6}-\log(z)\log(1-z).\tag{3}$$
También podemos notar que a través de la sustitución de $u=2t-1$ la última integral en $(1)$ se convierte en:
$$ I=-\int_{-1}^{1}\frac{2u}{u^2+1}\log\left(\frac{1+u}{2}\right)\,du=-\int_{-1}^{1}\frac{2u}{u^2+1}\log\left(1+u\right)\,du\\=-\int_{-1}^{1}\frac{u}{u^2+1}\log\left(\frac{1+u}{1-u}\right)\,du\tag{4}$$
puesto que la integral de una extraña, integrable función sobre un intervalo simétrico es cero.
Pero poner $u=\tanh z$,$z=-\log v$, nos quedamos con:
$$ I = -4\int_{0}^{+\infty}\frac{z\sinh(z)}{\cosh(z)\cosh(2z)}\,dz = 4 \int_{0}^{1}\frac{2v(1-v^2)}{(1+v^2)(1+v^4)}\log(v)\,dv\tag{5}$$
que es:
$$ I = 4\int_{0}^{1}\left(\frac{2v}{1+v^2}-\frac{2v^3}{1+v^4}\right)\log(v)\,dv = 3 \int_{0}^{1}\frac{2v}{1+v^2}\log(v)\,dv\tag{6}$$
y por la expansión de $\frac{2v}{1+v^2}$ como una serie de Taylor:
$$ I = 3 \sum_{n\geq 0}\left(-\frac{1}{2(n+1)^2}\right) = \frac{3}{2}\sum_{n\geq 1}\frac{(-1)^n}{n^2}=\color{red}{-\frac{\pi^2}{8}}\tag{7}$$
como quería, evitando la $\text{Li}_2$ reflexión fórmula (pero, en los hechos, la prueba).
Es interesante resaltar que el último enfoque se le da bien aproximaciones racionales de $\pi^2$.
Por ejemplo, en el mismo espíritu, tenemos:
$$ \int_{0}^{1}\left(\frac{v}{1+v^2}+\frac{v^3}{1+v^4}-\frac{v^5}{1+v^6}+\frac{2v^7}{1+v^8}\right)\log(v)\,dv = -\frac{91}{3456}\,\pi^2 $$
donde la función entre paréntesis es el elegido para ser $v+v^9+o(v^9)$ en un buen barrio de el origen, por lo que el valor de la integral se espera que cerca de
$$\int_{0}^{1}(v+v^9)\log v\,dv = -\frac{13}{50}$$
y
$$ \pi^2\approx\frac{12^3}{7\cdot 5^2} $$
de la siguiente manera.