Aquí está mi aficionados intento de su problema.
El número es racional si existen enteros $\,p, q\in \mathbb N\,$ tal que $\displaystyle\,\sqrt{\frac{k\left(m^2+1\right)}{n^2+1}}=\frac{p}{q}.\,$
$\,m^2 + n^2\,$ es un cuadrado de $\iff$ existe un entero $\,r\in \mathbb N\,$ tal que $\,m^2 + n^2 = r^2\,$
Así, tenemos un sistema de
$$
\left\lbrace\begin{aligned}
\frac{p^2}{q^2} &= \frac{k\left(m^2+1\right)}{n^2+1} \\
r^2 & = m^2 + n^2 \\
\end{aligned}\right.
\implica
\left\lbrace\begin{aligned}
p^2 & = k\left(m^2+1\right) \\
q^2 & = n^2+1 \\
r^2 & = m^2 + n^2
\end{aligned}\right.
\implica
\left\lbrace\begin{aligned}
m^2 & = \frac{p^2}{k} - 1 \\
n^2 & = q^2 - 1 \\
r^2 & = \frac{p^2}{k} + q^2 - 2
\end{aligned}\right.
\implica
%\left\lbrace\begin{aligned}
% p,q,r \in \mathbb N, \\
% \frac{p^2}{k} \in \mathbb N ,\\
%\end{aligned}\right.
\left\lbrace\begin{aligned}
%\frac{p^2}{k}
p^2&/k\in \mathbb N^+ ,\\
p^2 &\ge k>0 \\
q^2 & = n^2 + 1
\end{aligned}\right.
$$
así que el problema es sólo solucionable por $\,k\in \mathbb Q^+.\,$
También, $\, r^2 = m^2 + n^2 \implies m^2 = r^2 - n^2,\,$ por lo tanto
$$
\left\lbrace\begin{aligned}
p^2 & = k\left(m^2+1\right) \\
q^2 & = n^2+1 \\
r^2 & = m^2 + n^2
\end{aligned}\right.
\Rightarrow
\left\lbrace\begin{aligned}
p^2 & = k \left( r^2 - n^2 + 1 \right) \\
q^2 & = n^2+1 \\
m^2 & = r^2 - n^2
\end{aligned}\right.
\Rightarrow
\left\lbrace\begin{aligned}
p^2 & = k\left(m^2+1\right) \\
q^2 & = 1 \\
n^2 & = 0 \\
\end{aligned}\right.
%\Rightarrow
\implica
\left\lbrace\begin{aligned}
m & = \pm\sqrt{\frac{p^2}{k}-1} \\
% q & = \pm 1 \\
n & = 0 \\
k & \ge 0
\end{aligned}\right.
$$
El problema es único bien definido para $\,k \ge 0.\,$
Tenga en cuenta que el caso de $\,k=0\,$ es trivial, por lo que requieren $\, k \in \mathbb Q^+.\,$
Además, $\,r^2 = m^2 + n^2 \ge 0 \,$ es no trivial de la fib $\,r^2 >0.\,$
Si $\,r^2=0\,$ obtendríamos $\,m = n = 0.\,$
$$
%m^2= \frac{p^2}{k}-1 \implica
%\frac{p^2}{k}-m^2 = 1 \implica
\left\lbrace\begin{aligned}
&p^2 = k\left(m^2+1\right) \\
% &n^2 = 0 \\
&\frac{p^2}{k} + q^2 > 2
\end{aligned}\right.
\stackrel{p^2 =1}{\implica }
\left\lbrace\begin{aligned}
p^2 & = k\left(m^2+1\right) \\
p^2 & > k
\end{aligned}\right.
\implica m^2 >0 \implica m \neq 0
$$
$$
0<k \in \mathbb Q^+ \implica k = \dfrac{a}{b}, \, b\in \mathbb N^+
\implica
%p^2 = \frac{a\left(m^2 + 1 \right)}{b}
m^2 = \frac{b}{a}p^2 - 1\\
\bbox[5pt, borde:2 pt solid #f10000]{b p^2 - am^2 = a}
$$
De esta manera se obtuvo un segundo orden de la ecuación de Diophantine con $\,a,b\in \mathbb N^+\,$$\,m\,$, posiblemente, puede ser determinado a partir de la ecuación anterior por la elección correcta de los valores enteros de a $\,p.\,$
Tenga en cuenta que si asumimos entero $\,k \in \mathbb N^+,\,$ tenemos Pell-como la ecuación que podría ser más fáciles de resolver.
$$
\bbox[5pt, borde:2 pt solid #f10000]{m^2 - kp^2 = - 1}
$$
De acuerdo a WolframAlpha, si una de las soluciones de esta ecuación es conocida, entonces el resto puede ser calculada usando técnicas estándar de la Ecuación de Pell.
En particular, para $\, k = 2\,$ obtenemos $\, a=2, \ b= 1,\,$ y
$$
\bbox[5pt, borde:2 pt solid #f10000]{m^2 = 2p^2 - 1}
$$
así que, además de a $\,n=0\,$ tenemos
$$
\begin{aligned}
p &= 1 &\implies& &m &= \pm 1, \\
p &= 5 &\implies& &m &= \pm 7, \\
p &= 29 &\implies& &m &= \pm 41, \\
\end{aligned}
\\
\cdots
$$
