Voy a presentar una respuesta sin funciones Gamma y sin' de la serie de expansiones. En su lugar, un problema más general es resuelto, donde el OP pregunta es un caso especial.
Vamos
$$
I(a) = \int_{0}^{1}{2a^2x^2-2ax+\ln[(1-ax)(1+ax)^3]\sobre x^3\sqrt{1-x^2}}\mathrm dx
$$
La respuesta a la OP cuestión está entonces dado por $I(a = 1)$.
Luego, después de la diferenciación parcial w.r.t. $a$,
$$
I'(a) = \int_{0}^{1} \frac{2a^2(2ax - 1)}{(a^2 x^2 - 1)\sqrt{1-x^2}}\mathrm dx
$$
Tenga en cuenta que esto elimina la problemática del factor de $x^3$ en el denominador, este problema fue resuelto en la solución anterior, por la serie de expansión de la $\log$. Por lo tanto, la convergencia es establecido y el orden de las integraciones $x,a$ pueden ser intercambiados.
El $x$-integración da
$$
I'(a) = a^2 \Big[ \frac{2 \arctan(\frac{x \sqrt{1 - a^2}}{\sqrt{1 - x^2}})}{\sqrt{1 - a^2}} + \frac{4\arctan(\frac {\sqrt{1 - x^2}}{\sqrt{1 - a^2}})}{\sqrt{1 - a^2}} \Big]_{x=0}^{1}
$$
que es
$$
I'(a) = a^2 \Big[ \frac{\pi}{\sqrt{1 - a^2}} - \frac{4\arctan(\frac{a }{\sqrt{1 - a^2}})}{\sqrt{1 - a^2}} \Big] = a^2 \Big[ \frac{\pi}{\sqrt{1 - a^2}} - \frac{4\arcsin({a })}{\sqrt{1 - a^2}} \Big]
$$
Ahora integramos w.r.t. $a$:
$$
I(a) = \int I'(a) \rm{d} = \int^2 \Big[ \frac{\pi}{\sqrt{1 - a^2}} - \frac{4\arcsin({a })}{\sqrt{1 - a^2}} \Big] \rm{d} un
$$
La sustitución de $a = \sin (y)$ da
$$
I(y) = \int \sin^2(y) \Big[ {\pi} - {4 y}\Big] \rm{d} y = y \sin(2y) + (\pi y)/2 - \sin^2(y) - y^2 - (\pi \sin(2y))/4 + C
$$
Necesitamos la constante $C$. Obviamente $0 = I(a=0) = I(y=0)$ da $C=0$.
La función en cuestión por el OP es $I(a=1) = I(y=\pi/2) = -1$.
Esto resuelve el OP pregunta. $\qquad \qquad \Box$