[La prueba se ha completado siguiendo la estrategia sugerida en las revisiones anteriores de la respuesta.]
Para $x = \frac{2u}{n}$ el límite de $a_n$ $\frac{\sin^2 u}u$ y uno puede tomar $u$ a maximizar esta. Deje $M$ ser el valor máximo de $(\sin^2{u})/u$. Hemos demostrado que la $\limsup a_n \geq M$ y quiere mostrar el contrario la desigualdad para demostrar $\lim a_n = M$.
Lema 1. Si $b_n = \max_y \sin^2 (ny) / (n \sin y)$,$a_n \leq \max(b_n,\frac{n}{n+1} b_{n+1}$).
Prueba: $\sin (ny) \sin((n+1)y) \leq \max \sin^2(ny), \sin^2((n+1)y)$.
Lema 2. $\limsup a_n \leq \limsup b_n$.
Prueba. Desde lema $1$, la definición de lim sup, y su invariancia bajo la multiplicación por factores que convergen a $1$.
Lema 3. En el problema de optimización, se puede sustituir $f_n(x)$ $g_n(x)=\sin^2(nx)/n \sin x$ (cuyos máximos son $b_n$ en lugar de $a_n$) si podemos probar que $\limsup b_n \leq M$.
Prueba. Sería una muestra de que $\limsup a_n$$\leq M$, por el lema 2.
Lema 4. El máximo de $g_n(y) = \sin^2(ny)/(n \sin y)$ se produce con $ny \in (0,\pi)$
Prueba. Hay $n$ valores de $y' \in (0,\pi)$ tal que $|\sin(ny')|=|\sin ny|$$\sin y' > 0$. El más pequeño de estos $n$ valores es el único en $(0,\pi/n)$ y también tiene el menor valor de $|\sin y'|$. Para esto la mejor opción de $y'$, $g(y') \leq g(y)$ (es una fracción donde hemos guardado el numerador de la misma y el aumento del denominador).
Lema 5. $\limsup b_n = M$
Prueba. La maxima de $g_n(y)$ se producen en los valores de $y$ menos de $\pi/n$. Pero $g_n(y)=(\frac{y}{\sin y})(\frac{\sin^2 (ny)}{ny})$ donde la primera parte converge a $1$ a los máximos y $M$ es definido como el mayor valor posible de la segunda parte.
Conclusión. $\limsup a_n \leq M$, y por lo tanto $\lim a_n = M$.
