Tienes razón en que la integral es infinita y no hay nada que las variables complejas vayan a hacer para cambiar esto. Sin embargo, ir a los números complejos nos permite considerar integrales relacionadas que son finitas.
Podemos imaginar la integral que has escrito como una integral sobre un recorrido a lo largo del eje real en el plano complejo. La función $1/z^2$ tiene una divergencia en el origen $z=0$ y el hecho de que el camino pase por este punto es lo que hace que la integral salga infinita. Cuando consideras una variable real, si intentas ir de territorio positivo a negativo, no tienes más remedio que pasar por el origen. Sin embargo, en el plano complejo puedes mover la trayectoria de integración para que "rodee" el origen.
La forma más sencilla de hacerlo es desplazar la trayectoria de integración ligeramente hacia arriba en la dirección imaginaria. Para ello, consideremos $$ \int_{-1}^1\frac{1}{(x-i\epsilon)^2}dx$$ donde $\epsilon$ es un número entero positivo arbitrariamente pequeño. Ahora que no está pasando por ningún punto malo, resulta que el uso ingenuo de las reglas usuales de integración es válido y obtenemos $$\int_{-1}^1 \frac{1}{(x-i\epsilon)^2}dx = \left.\frac{-1}{x-i\epsilon}\right|_{-1}^1=-\frac{1}{1-i\epsilon}-\frac{1}{1+i\epsilon} = -\frac{2}{1+\epsilon^2}.$$
Si toma el límite $\epsilon \to 0$ de este resultado se obtiene $-2,$ tu respuesta errónea de arriba. Esto significa que tenemos un límite y una integral que no conmutan: $$ -2=\lim_{\epsilon\to0} \int_{-1}^1 \frac{1}{(x-i\epsilon)^2}dx \ne \int_{-1}^1 \lim_{\epsilon\to 0}\frac{1}{(x-i\epsilon)^2}dx=\infty.$$
Así que el $-2$ parece tener un significado especial para la integral, aunque no es su valor. De hecho, lo que ocurre es que la integral a lo largo de cualquier camino complejo de $-1$ à $1$ que no pasa por el origen tiene el valor $-2$ (la razón de esto es similar a la razón por la que los campos vectoriales conservativos tienen integrales independientes de la trayectoria, si estás familiarizado. La antiderivada $-1/z$ es como un campo potencial). En serio, la integral sobre cualquier camino complejo es $-2$ siempre que empiece y termine en $-1$ y $1$ no importa lo que haga en medio... excepto si toca el origen. Debo añadir que este no es el caso con cualquier integrando (al igual que no todos los campos vectoriales son conservativos).
Dada esta asombrosa propiedad de independencia de la trayectoria, ya no es sorprendente que no veamos ningún indicio de divergencia infinita cuando tomamos $\epsilon\to 0.$ Ninguna de esas líneas de $-1+i\epsilon$ à $1+i\epsilon$ pasan por el origen, como tenemos independencia de trayectorias, el límite es simplemente llevar los puntos finales hasta $-1$ y $1$ y cualquier cosa puede pasar en el medio excepto tocar el origen.
Volviendo a la integral real que nos ocupa, tenemos su definición como integral impropia $$ \int_{-1}^1\frac{dx}{x^2} = \lim_{a,b\to 0^+} \int_{-1}^{-b}\frac{dx}{x^2} + \int_a^1 \frac{dx}{x^2} = \lim_{a,b\to 0^+} -2 +\frac{1}{a}+\frac{1}{b} $$ que podemos ver que adopta la forma $-2+\text{divergence}$ y en este caso la divergencia tiene un límite bien definido de $\infty.$ (Contrasta esto con el caso en el que estás integrando, digamos, $1/x$ en lugar de $1/x^2$ y verás que la divergencia toma la forma indeterminada $\ln(a/b)$ por lo que la integral impropia no existe). Así que la $-2$ es una especie de residuo cuando despreciamos la divergencia en el origen, de acuerdo con que es el valor independiente de la trayectoria de la integral compleja.
Otros han mencionado el valor principal de Cauchy, que es una forma de tratar la divergencia en el origen un poco más indulgente que la integral impropia, ya que restringe el límite anterior para que sea simétrico (es decir, a lo largo de la línea $a=b$ ) donde el comportamiento podría estar bien definido. Aquí, para la integral de $1/x^2,$ esto sólo convierte la divergencia en $\lim_{a\to0^+} 2/a$ así que seguimos obteniendo infinito. (Pero en el caso de $1/x$ mencionado anteriormente, el $\ln(a/b)$ se hace cero, lo que significa que el valor principal de Cauchy está definido). Aunque el valor principal según esta definición no tiene relación directa con las variables complejas, aparece tanto en ese campo que forma parte de hecho de ese tema, así que es posible que esto, y no el desplazamiento de trayectoria anterior, sea a lo que se refería tu AT, aunque como hemos visto no hace nada por esta integral en particular.
Sin embargo, el valor principal está bastante relacionado con la integración a lo largo de un camino complejo particular que evita la divergencia. En lugar de desplazar toda la trayectoria hacia arriba como antes, mantén la trayectoria normal de $-1$ hasta llegar a una distancia de $\epsilon$ del origen, y luego rodear el origen en un semicírculo. Luego continúa desde $\epsilon$ à $1$ a lo largo del eje real. Tomaré el semicírculo por encima del origen en lugar de por debajo, aunque no importa.
Sabemos por la independencia del camino que este integral tiene que salir a $-2$ . Podemos dividirlo en dos partes: el semicírculo y los trozos a lo largo del eje real. La segunda parte tiene el valor $$ \int_{-1}^{-\epsilon}\frac{dx}{x^2}+ \int_\epsilon^1\frac{dx}{x^2} = -2+\frac{2}{\epsilon}$$ que vemos es igual que el valor principal, sólo que antes de tomar el límite $\epsilon\to0.$ La integral alrededor del semicírculo debe ser $-2/\epsilon$ para que toda la integral salga a $-2$ . Así vemos que la divergencia de la parte principal y la divergencia de la integral alrededor del círculo se anulan. Esto nos da una visión detallada de cómo se preserva la independencia de la trayectoria para esta integral, incluso cuando nos acercamos lo más posible a la divergencia sin tocarla.
0 votos
Existe un teorema que afirma que si $f$ no tiene límite en $(a,b)$ entonces la integral de Riemann $\int_a^b f$ no está definido.
2 votos
Generalmente el valor principal de una integral de una función de una singularidad $x = c$ en la trayectoria de integración se define como $$\mathrm{PV} \int^b_a f(x) dx = \lim_{\epsilon \to 0^+} \left[ \int_{a}^{c-\epsilon }f(x)\,dx + \int_{c+\epsilon}^{b}f(x)\,dx\right] $$