Escriba a $L = \lim_{n \to \infty} a_n$ . La cuadratura da
$$a_{n+1}^2 = a_n^2 + \frac{1}{2^{n-1}} + \frac{1}{2^{2n} a_n^2}$$
lo que da, ignorando el último término
$$L^2 \ge 1 + \sum_{k=0}^{\infty} \frac{1}{2^k} = 3$$
que supongo que es donde su límite inferior de $\sqrt{3}$ viene de. Desde $a_n$ es monotónicamente creciente, tenemos $a_n^2 \ge 1$ y así $\frac{1}{a_n^2} \le 1$ lo que da
$$L^2 \le 3 + \sum_{k=1}^{\infty} \frac{1}{2^{2k}} = 3 + \frac{1}{3} = \frac{10}{3}$$
lo que nos da un límite superior de $\sqrt{ \frac{10}{3} } = \sqrt{ \frac{80}{24} }$ ligeramente peor que la que usted obtuvo. En concreto $a_n$ es a la vez monótona y acotada, por lo que el límite existe realmente. Por monotonicidad se trata de un límite superior de toda la serie, por lo que tenemos $a_n^2 \le \frac{10}{3}$ lo que da un límite inferior más fuerte
$$L^2 \ge 3 + \sum_{k=1}^{\infty} \frac{1}{2^{2k} \frac{10}{3}} = 3 + \frac{1}{10}.$$
Podemos mejorar los límites inferior y superior a partir del valor exacto de cualquier término concreto $a_k$ de la secuencia, como sigue. Comenzando la recurrencia a partir de este término se obtiene
$$L^2 \ge a_k^2 + \sum_{i=k-1}^{\infty} \frac{1}{2^i} = a_k^2 + \frac{1}{2^{k-2}}$$
como límite inferior, y puesto que $a_n$ es monotónicamente creciente tenemos $a_n \ge a_k$ para $n \ge k$ por lo que obtenemos
$$L^2 \le a_k^2 + \frac{1}{2^{k-2}} + \sum_{i=k} \frac{1}{2^{2i} a_k^2} = a_k^2 + \frac{1}{2^{k-2}} + \frac{1}{3 \cdot 4^{k-1} a_k^2}.$$
Como en el caso anterior, este límite superior nos permite reforzar de nuevo el límite inferior, a
$$L^2 \ge a_k^2 + \frac{1}{2^{k-2}} + \frac{1}{3 \cdot 4^{k-1} \left( a_k^2 + \frac{1}{2^{k-2}} \right)}.$$
Los primeros términos son $a_1 = 1, a_2 = \frac{3}{2}, a_3 = \frac{5}{3}, a_4 = \frac{209}{120}$ . Aplicando los límites anteriores a $a_3 = \frac{5}{3}$ para mantener la aritmética simple da
$$\frac{25}{9} + \frac{1}{2} + \frac{3}{424} \le L^2 \le \frac{25}{9} + \frac{1}{2} + \frac{3}{400}$$
que da $L \in [1.81242 \dots, 1.81253 \dots]$ y el uso de términos más grandes nos acercaría exponencialmente a $L$ pero dudo que haya algo bueno que decir en cuanto a formas cerradas.