Puedes hacer algo similar al algoritmo euclidiano, aquí.
Definir la función $f:\Bbb Z\left[\sqrt{10}\right]\to\Bbb Z_{\ge0}$ por $$f(a+b\sqrt{10})=|a^2-10b^2|.$$ Deberías ser capaz de demostrar que es una función multiplicativa, es decir, $f(xy)=f(x)f(y)$ --y que $u\in\Bbb Z\left[\sqrt{10}\right]$ es una unidad si y sólo si $f(u)=1.$
Tienes que encontrar el mayor factor común $x+y\sqrt{10}$ de $9,2+2\sqrt{10}$ . Tenga en cuenta entonces que $f(x+y\sqrt{10})$ debe ser el mayor factor común de $f(9)=81$ y $f(2+2\sqrt{10})=36.$ (¿Por qué?) Es decir, necesitamos $|x^2-10y^2|=9$ . En particular, sin embargo, observe que tenemos $$36=f(2+2\sqrt{10})=f(2)f(1+\sqrt{10})=4f(1+\sqrt{10}),$$ así que $1+\sqrt{10}$ es un candidato, que rápidamente podemos ver que es de hecho un factor de $9$ .