Como explican otras respuestas, la idea clave es que $\left|\frac{x^2e^{-x}}{x^2+1}\sin(xe^{x^2})\right|\le e^{-x}$ de lo que se deduce fácilmente, utilizando el teorema de squeeze, que el límite es 0.
También me gustaría abordar tu pregunta sobre la definición de ε-δ.
Siempre es "posible" demostrar los límites directamente usando la definición ε-δ sin ningún teorema. Esa es la naturaleza de las demostraciones matemáticas: puedes simplemente desenrollar la demostración de cualquier teorema que estés utilizando. (Digo "demostrar" en lugar de "calcular" porque la definición te permite discernir si algo es el límite o no, no te da herramientas para averiguar qué es el límite en primer lugar).
Pero esas pruebas directas suelen ser extremadamente engorrosas y enrevesadas, a veces tanto que resulta poco práctico ponerlas por escrito. Los teoremas ahorran mucho trabajo.
Sin embargo, este no es un caso así - ya que la mayor parte de la función es fluida, una prueba directa es manejable.
Demostraremos que el límite es $L=0$ . Dejemos que $\epsilon>0$ . Toma $M=-\log(\epsilon)$ ( $M$ es el análogo a $\delta$ en los límites donde $x\to\infty$ ). Para cada $x>M$ , usted tiene
$\left|\frac{x^2e^{-x}}{x^2+1}\sin(xe^{x^2})-L\right| = \left|\frac{x^2e^{-x}}{x^2+1}\sin(xe^{x^2})\right| \le e^{-x} < e^{-M}=e^{\log\epsilon}=\epsilon$
