En primer lugar, la notación habitual es $a_n$ es la media aritmética y $b_n$ es la media geométrica. Pero me quedaré con tu notación.
Déjanos mostrarte $b_n\geq a_n$ para todos $n$ . \begin{equation} b_{n+1} \geq a_{n+1} \iff \frac{b_n+a_n}{2}\geq \sqrt{b_na_n} \iff (b_n-a_n)^2\geq 0 \end{equation} que muestra que $b_{n+1}\geq a_{n+1}$ para todos $n$ y sin pérdida de generalidad se puede suponer $b\geq a$ y decir $b_n\geq a_n$ para todos $n$ .
A continuación, demostramos que $b_n$ es decreciente y $a_n$ está aumentando. \begin{equation} b_{n+1} \leq b_n \iff \frac{a_n+b_n}{2} \leq b_n \iff a_n\leq b_n \end{equation} y \begin{equation} a_n \leq a_{n+1} \iff a_n \leq \sqrt{a_nb_n}\iff a_n\leq b_n \end{equation} ambos son verdaderos. Por lo tanto; \begin{equation} a_n \leq a_{n+1} \leq b_{n+1} \leq b_n\label{bdd}\tag{1} \end{equation} Por último, tenemos que demostrar que convergen al mismo límite. \begin{equation} 0 \leq b_{n+1}-a_{n+1}\leq \frac{b_n+a_n}{2} - \sqrt{b_na_n} = \frac{1}{2}\left(\sqrt{b_n}-\sqrt{a_n}\right)^2 = \frac{1}{2}\frac{b_n-a_n}{\left(\sqrt{b_n}+\sqrt{a_n}\right)^2}(b_n-a_n) \end{equation} Al constatar que; \begin{equation} b_n-a_n \leq \left(\sqrt{b_n} + \sqrt{a_n}\right)^2 \end{equation} Lo conseguimos; \begin{equation} b_{n+1} - a_{n+1} \leq \frac{1}{2}(b_n-a_n) \leq 2^{-n}(b-a) \end{equation} Por lo tanto, $\lim_{n\to\infty}a_n$ y $\lim_{n\to\infty}b_n$ existe y es igual.
Nota: [ \ref {bdd}] muestra que los límites existen, ya que son una secuencia monótona acotada. Los últimos resultados muestran que convergen al mismo límite.
Permítanme también añadir mi referencia:
Borwein, Jonathan M., y Peter B. Borwein.
Pi y la AGM : un estudio sobre la teoría analítica de los números y la complejidad computacional.
Nueva York: Wiley, 1987.