Dos buenos libros. He dado respuestas más detalladas para muchos de este tipo de problemas.
http://www.maths.ed.ac.uk/~aar/papers/conwaysens.pdf
https://www.math.cornell.edu/~hatcher/TN/TNbook.pdf
Aquí hay una buena http://math.stackexchange.com/questions/739752/how-to-solve-binary-form-ax2bxycy2-m-for-integer-and-rational-x-y/739765#739765
Como $11$ es primo, hay dos órbitas; una secuencia de $x$ valores es $$ 3, \; \; 37, \; \; 515, \; \; 7173, \ldots $$ con $$ x_{n+2} = 14 x_{n+1} - x_n, $$ con el correspondiente $y$ valores $$ 2, \; \; 32, \; \; 446, \; \; 6212, \ldots $$ $$ y_{n+2} = 14 y_{n+1} - y_n. $$
Aquí está la segunda órbita: secuencia de $x$ valores es $$ 5, \; \; 67, \; \; 933, \; \; 12995, \ldots $$ con $$ x_{n+2} = 14 x_{n+1} - x_n, $$ con el correspondiente $y$ valores $$ 4, \; \; 58, \; \; 808, \; \; 11254, \ldots $$ $$ y_{n+2} = 14 y_{n+1} - y_n. $$
Las recurrencias lineales anteriores provienen de Cayley-Hamilton para la matriz $$ \left( \begin{array}{cc} 7 & 8 \\ 6 & 7 \\ \end{array} \right) $$