(también podría...)
Como repaso rápido: siempre que veas una integral que implique la raíz cuadrada de un polinomio cúbico o cuártico, es bastante probable que se necesite una integral elíptica (excepto en algunos muy casos especiales (denominadas "integrales pseudoelípticas").
Ahora, para la integral en cuestión (tratando el caso indefinido por ahora, y preocupándose de los límites más tarde): su integrando es un cuártico que consiste sólo en incluso potencias de la variable ficticia, por lo que lo primero que hay que hacer es una sustitución de Weierstrass (modificada), $t=2\tan\dfrac{u}{2}$ :
$$\begin{align*} \int \sqrt{t^4+4t^2+16} \,\mathrm dt&=8\int \frac{\sqrt{3+\cos^2 u}}{(1+\cos\,u)^2} \mathrm du=8\int \frac{\sqrt{4-\sin^2 u}}{(1+\cos\,u)^2} \mathrm du\\ &=16\int \frac{\sqrt{1-\frac14 \sin^2 u}}{(1+\cos\,u)^2} \mathrm du \end{align*}$$
(el factor adicional de $2$ en la sustitución utilizada proviene de la cuarta raíz del término constante del polinomio).
¿Por qué he hecho esas últimas transformaciones, te preguntarás? Porque las integrales elípticas estándar se hacen salir fácilmente cuando la parte dentro de la raíz cuadrada toma la forma $\sqrt{1-m\,\sin^2 u}$ .
En cualquier caso, ahora tenemos que realizar una sustitución jacobiana. Dejamos que $u=\mathrm{am}(v\mid m)$ , donde $\mathrm{am}$ es el Función de amplitud jacobiana y $m$ es una constante (en la jerga de las integrales elípticas, el parámetro ) por determinar. Lo habitual es Funciones elípticas jacobianas provienen de esta función básica:
$$\begin{align*} \mathrm{sn}(v\mid m)&=\sin(\mathrm{am}(v\mid m))\\ \mathrm{cn}(v\mid m)&=\cos(\mathrm{am}(v\mid m))\\ \mathrm{dn}(v\mid m)&=\frac{\mathrm d}{\mathrm dv}\mathrm{am}(v\mid m)=\sqrt{1-m\,\sin^2(\mathrm{am}(v\mid m))} \end{align*}$$
Consideración de la última relación que implica $\mathrm{dn}$ indica que podemos elegir $m=\frac14$ por conveniencia; así,
$$16\int \frac{\sqrt{1-\frac14 \sin^2 u}}{(1+\cos\,u)^2} \mathrm du=16\int \frac{\mathrm{dn}^2\left(v\mid\frac14\right)}{\left(1+\mathrm{cn}\left(v\mid\frac14\right)\right)^2} \mathrm dv=4\int \frac{3+\mathrm{cn}^2\left(v\mid\frac14\right)}{\left(1+\mathrm{cn}\left(v\mid\frac14\right)\right)^2} \mathrm dv$$
Por desgracia, las cosas se complican bastante en esta coyuntura, así que tuve que pedir ayuda a Mathematica . Un poco de masaje de los resultados de Mathematica rindió
$$4\int \frac{3+\mathrm{cn}^2\left(v\mid\frac14\right)}{\left(1+\mathrm{cn}\left(v\mid\frac14\right)\right)^2} \mathrm dv=\frac23\left(6v-4\,\varepsilon\left(v \mid \frac14\right)+\frac{4\left(3+\mathrm{cn}\left(v\mid \frac14\right)\right)\mathrm{dn}\left(v\mid \frac14\right)\mathrm{sn}\left(v\mid \frac14\right)}{\left(1+\mathrm{cn}\left(v\mid \frac14\right)\right)^2}\right)$$
donde $\varepsilon(v\mid m)$ es el Función épsilon de Jacobi .
Por supuesto, se pueden utilizar las fórmulas adecuadas de Byrd y Friedman Manual de integrales elípticas para ingenieros y científicos si se insiste en una evaluación totalmente manual, pero la evaluación implica un conjunto bastante desordenado de relaciones de recurrencia. (Si encuentro más tiempo, acabaré editando esta respuesta para incluir la solución completa, con tripas sangrientas y todo...)
En cualquier caso, para considerar ahora la definitivamente integral, deshacemos las dos sustituciones a su vez y las aplicamos a los límites de la integral original. En particular, la inversa de $\phi=\mathrm{am}(v\mid m)$ es la integral elíptica incompleta del primer tipo, $v=F(\phi\mid m)$ mientras que la función épsilon de Jacobi satisface la relación
$\varepsilon(F(\phi\mid m)\mid m)=E(\phi\mid m)$
donde $E(\phi\mid m)$ es la integral elíptica incompleta de segundo tipo. Los límites transformados son entonces $v=0$ y $v=F\left(2\arctan\frac32\mid\frac14\right)$
Finalmente terminamos con
$$\int_0^3 \sqrt{t^4+4t^2+16} \,\mathrm dt=\frac{17}{13}\sqrt{133}+4\,F\left(2\arctan\frac32\mid\frac14\right)-\frac83 \,E\left(2\arctan\frac32\mid\frac14\right)$$
que es bastante más sencillo que lo que se obtiene si se introduce directamente la integral en Mathematica .
Por si no fuera ya evidente en los párrafos anteriores: las integrales elípticas y las funciones elípticas son cosas muy diferentes; una es (muy aproximadamente) la inversa de la otra. Demasiada gente tiende a confundir estas dos familias de funciones, aunque definitivamente están relacionadas...
Además de Byrd/Friedman, también querrá buscar en Greenhill's Las aplicaciones de las funciones elípticas que, contrariamente al título, también se ocupa un poco de las integrales elípticas.