Desde $\log(1+u)=u-\frac12u^2+o(u^2)$ cuando $u\to0$ , $$ x^2\log\left(1+\frac1x\right)-x=x^2\left(\frac1x-\frac12\frac1{x^2}+o\left(\frac1{x^2}\right)\right)-x=-\frac12+o(1), $$ por lo que el límite que se busca es $\mathrm e^{-1/2}$ .
Tenga en cuenta que su solución sería válida si se tuviera $$ \lim_{x\to\infty}\frac{\left(1+\frac1x\right)^{x^2}}{\mathrm e^x}=1, $$ mientras que de hecho, $$ \lim_{x\to\infty}\frac{\left(1+\frac1x\right)^{x^2}}{\mathrm e^{x-1/2}}=1. $$
Otro punto de vista sobre el tema, utilizando $O$ y $o$ Notación de Landau: a priori, su planteamiento da lugar a la estimación $$ \left(1+\frac1x\right)^{x^2}=\mathrm e^{x+o(x)}, $$ que ni siquiera es suficiente para demostrar que la proporción que te interesa está acotada. Reforzando un poco la estimación, se podría utilizar $$ \left(1+\frac1x\right)^{x^2}=\mathrm e^{x+O(1)}, $$ lo que implica que la relación que te interesa está acotada pero no que tenga un límite. Lo que hemos hecho arriba es demostrar que $$ \left(1+\frac1x\right)^{x^2}=\mathrm e^{x-1/2+o(1)}, $$ que sí implica que la relación que te interesa está acotada, y que tiene un límite, y que identifica el límite.