(La siguiente respuesta es bastante similar a la dada por @math110, pero me me di cuenta de que sólo después de llegar a mi solución de forma independiente. Mi formulación y la condición de minimalidad es ligeramente diferente, por lo que espero que merece una respuesta separada).
Para los fijos $k \in \mathbb N$ definimos el conjunto de todas las soluciones de $\frac{a+1}{b}+\frac{b}{a} = k$ como $$ S := \{ (a, b) \in \mathbb N^2 \mid a^2 + a + b^2 = kab \} \, . $$
Queremos demostrar que si $S$ no está vacío, entonces $k = 3$ .
La prueba se basa en las siguientes observaciones (similares a las del "Salto de Raíz de Vieta" método):
- (i) Si $(a, b) \in S$ entonces $(b^2/a, b) \in S$ .
- (ii) Si $(a, b) \in S$ entonces $(a, (a^2+a)/b) \in S$ .
Prueba de (i): $a$ es una solución de la ecuación cuadrática $$ P(x) = x^2 - (kb-1)x + b^2 = 0 \, . $$ De las fórmulas de Vieta se deduce que $a' = kb-1 -a \in \mathbb Z$ es la otra solución, y $aa' = b^2$ , por lo que en realidad $a' \in \mathbb N$ . Por lo tanto, $(a', b) \in S$ .
La prueba de (ii) es la misma, considerando ahora $b$ como solución de la ecuación cuadrática $$ Q(y) = y^2 - (ka) y + (a^2 + a) = 0 \, . $$
Finalmente demostramos: Si $S$ no está vacío, entonces $k = 3$ .
El conjunto $\{ a + b \mid (a, b) \in S \}$ es un conjunto no vacío de números enteros positivos y, por tanto, tiene un elemento mínimo. Sea $(a, b) \in S$ sea tal que $a + b$ es mínimo .
Caso 1: $a > b$ . Entonces $a' = b^2/a < b < a$ . De (i) sabemos que $(a', b)\in S$ . Pero $a' + b < a + b$ en contradicción con la minimalidad, por lo que este caso no puede darse.
Caso 2: $a < b$ . Entonces $b' = (a^2+a)/b \le (a^2+a)/(a+1) = a < b$ . De (ii) sabemos que $(a, b') \in S$ . Pero $a + b' < a +b $ de nuevo en contradicción con la minimidad, por lo que este caso tampoco puede darse.
Eso nos deja con Caso 3: $a = b$ . Desde $$ k = \frac{a+1}{b}+\frac{b}{a} = 2 + \frac 1b $$ se deduce que $b = 1$ y por lo tanto $k = 3$ y hemos terminado.
Observación: La prueba ha demostrado que si partimos de una solución arbitraria $(a, b) \in S$ y aplicar las transformaciones (i), (ii) alternativamente, entonces obtenemos una secuencia de soluciones $$ (a, b) = (a_0, b_0), (a_1, b_1), \ldots (a_{n-1}, b_{n-1}), (a_n, b_n) = (1,1) $$ donde alternativamente $a_i < b_i$ o $a_i > b_i$ siempre y cuando $i < n$ .
Como las transformaciones (i) y (ii) son autoinversas podemos invertir el proceso para obtener todo soluciones de forma iterativa comenzando con $(1,1)$ y luego aplicar (i) y (ii) alternativamente. Así se obtienen las soluciones $$ (1, 1), (1, 2), (4, 2), (4, 10), (25, 10), (25, 65), \ldots $$