Es una prueba correcta bien conocida. Esencialmente utiliza descenso del denominador por el algoritmo de división, aunque eso está ofuscado . A continuación aclaro este punto de vista para la generalización que sigue. La prueba en la pregunta es exactamente el caso especial $\, k = 2\,$ y $\,q = {\rm floor}(\sqrt 2) = 1\,$ de la prueba de abajo.
Irracionalidad de $\sqrt k\,$ si no es un entero (extraído de Wikipedia (ligeramente editado)
Para un número entero $k>0$ Supongamos que $\sqrt k$ no es un número entero, sino que es racional y puede expresarse como $\frac{a}b$ para los números naturales $a$ y $b$ y que $q$ sea el mayor número entero no mayor que $\sqrt k.\,$ Entonces
\begin {alineado}{ \sqrt {k}}&={ \frac {a}{b}} \\ [8pt]&={ \frac {a({ \sqrt {k}}-q)}{b({ \sqrt {k}}-q)}} \\ [8pt]&={ \frac {a{ \sqrt {k}}-aq}{b{ \sqrt {k}}-bq}} \\ [8pt]&={ \frac {(b{ \sqrt {k}}){ \sqrt {k}}-aq}{b({ \frac {a}{b}})-bq} \\ [8pt]&={ \frac {bk-aq}{a-bq}} \end {alineado}
El numerador y el denominador se multiplicaron cada uno por $(\sqrt k − q)\,$ - que es positivo pero menor que $1$ y luego se simplifican independientemente. Así, los dos productos resultantes, digamos $a'$ y $b'$ son a su vez números enteros, que son menores que $a$ y $b$ respectivamente. Por lo tanto, no importa qué números naturales $a$ y $b$ se utilizan para expresar $\sqrt k$ existen números naturales más pequeños $a' < a$ y $b' < b$ que tienen la misma proporción. Pero el descenso infinito en los números naturales es imposible, así que esto refuta la suposición original de que $\sqrt k$ puede expresarse como un cociente de números naturales.
Podemos reescribir la prueba anterior más conceptualmente como se indica a continuación, donde " $\,n\,$ es una denominación de $\,r$ " significa que el racional $\,r\,$ puede escribirse con el denominador $\,n,\,$ es decir $\,n\,r = j\,$ para algún número entero $\,j.$
$\begin{align} [\![1]\!]\qquad\qquad\, b \sqrt k\, &=\, a\qquad\ \, \Rightarrow\,\qquad\ \ \ \text{$ \,b\, $ is a denom of }\ \sqrt k\\ \sqrt k\,\cdot\, [\![1]\!]\ \ \, \Rightarrow\,[\![2]\!]\qquad\qquad a \sqrt k\, &=\, bk\qquad \Rightarrow\qquad\,\ \ \ \text{ $ a\, $ is a denom of }\ \sqrt k\\ [\![2]\!] - [\![1]\!]q\,\Rightarrow\,[\![3]\!]\ \ \ \ \ \, (\color{#c00}{a\!-\!bq})\sqrt k\, &=\, bk\!-\!aq\,\Rightarrow\, \color{#c00}{a\bmod b} \, \text{ is a denom of }\ \sqrt k\\ \end{align}$
Si $\,b\,$ no divide $\,a\,$ obtenemos un más pequeño denom $\, 0 < \color{#c00}{a \bmod b} < b\,$ por lo que el descenso infinito (en denominaciones), contra $\Bbb N\,$ está bien ordenado. Por lo tanto, $\,b\,$ divide $\,a,\,$ así que $\,\sqrt k = a/b = n\in \Bbb Z,\,$ así que $\,k = n^2$ .
Como alternativa, podemos suponer inicialmente que $\,b\,$ es el menos denominador, entonces se deduce la contradicción de que existe un denominador menor si $\,b\,$ no divide $\,a.$
Este método se generaliza para mostrar la $\,\Bbb Z\,$ (o cualquier PID) es integralmente cerrada, es decir, ninguna fracción propia es raíz de un polinomio que sea mónico (coef líder $= 1),\,$ es decir, el caso mónico de la prueba de la raíz racional. Puede encontrar más información sobre este tema y otras ideas relacionadas en mis posts en ideales del denominador .