"No veo de inmediato qué sustitución cambia el lado izquierdo de (2) a la definición de $K$ ."
Consideremos en primer lugar la integral indefinida
$$\int\frac{\mathrm du}{\sqrt{au^4+bu^2+1}}$$
Dejar
$$h=\frac{b\pm\sqrt{b^2-4 a}}{2}$$
tenemos la factorización
$$\frac1{\sqrt{a}}\int\frac{\mathrm du}{\sqrt{\left(u^2+\frac{h}{a}\right)\left(u^2+\frac1{h}\right)}}$$
Ahora procedemos a hacer una sustitución trigonométrica, $u=\frac{\tan\,v}{\sqrt{h}}$ para producir
$$\frac1{\sqrt{h}}\int\frac{\mathrm dv}{\sqrt{1-\left(1-\frac{a}{h^2}\right)\sin^2 v}}$$
En este punto, ahora prestamos atención a los límites; ya que $\arctan(0)=0$ y $\arctan(\infty)=\pi/2$ entonces tenemos
$$\frac1{\sqrt{h}}\int_0^{\pi/2}\frac{\mathrm dv}{\sqrt{1-\left(1-\frac{a}{h^2}\right)\sin^2 v}}=\frac1{\sqrt{h}}K\left(1-\frac{a}{h^2}\right)$$
En general, $h$ será compleja, por lo que será necesario evaluar la integral elíptica completa del primer tipo para argumentos complejos. Afortunadamente, si se utiliza la AGM para evaluar la integral elíptica completa, seguirá funcionando; todo lo que se necesita es aritmética compleja.