Sea $p=2$ el primo par y sin pérdida de generalidad asumimos que $p. Dado que $p,q,r$ son primos esto significa que $r\geq 5$.
Primero mostraremos lo siguiente:
Lema. Sea $2=p primos y $$ \begin{align} 2q-6 &= x^2\\ 2r-6 &= y^2\\ qr-6 &= z^2 \end{align} $$ para algunos enteros $x,y,z\geq 0$. Entonces $$ z+y = r $$
Prueba. Tomando las ecuaciones $2$ y $3$, formamos lo siguiente: $$ \begin{align} z^2 &\equiv -6 \equiv y^2 \pmod r\\ (z+y)(z-y) &\equiv 0 \pmod r \end{align} $$ Por lo tanto $r$ divide a $z+y$ o a $z-y$. Primero asumimos lo último, entonces $$ \begin{align} z-y &\equiv 0 \pmod r\\ z &= y + kr \end{align} $$ para algunos $k\geq 0$ ya que $z> y$. Pero ahora $$ \begin{align} 0 &< y+kr=z =\sqrt{qr-6} < \sqrt{r^2} = r\\ 0 & < y+kr < r \implies k=0 \end{align} $$ Esto significa que $$ z = y $$ lo cual no es posible. Por lo tanto debemos tener en su lugar $$ \begin{align} z+y &\equiv 0 \pmod r\\ z+y &= kr\\ 0 < kr &= z+y\\ &= \sqrt{qr-6}+\sqrt{2r-6}\\ &< \sqrt{r^2} + \sqrt{4r}\\ &= r+2\sqrt{r}\\ &< 2r\\ 0 donde la última igualdad es porque $$ r\geq 5 \implies 4r < r^2 \implies 2\sqrt{r} < r $$ Por lo tanto debemos tener precisamente $k=1$, lo que da $z+y=r$.
$$ \tag*{$\square$} $$
Ahora mostramos que
Proposición. Sea $p=2$ y $$ \begin{align} 2r-6 &= y^2\\ qr-6 &= z^2\\ z+y &= r \end{align} $$ para algunos enteros $q,r,y,z\geq 0$. Entonces $$ p+q+r-9 = (y-1)^2 $$
Prueba. Usando $z+y=r$, tenemos $$ \begin{align} r &= z+y\\ &= \sqrt{qr-6} + \sqrt{2r-6}\\ \sqrt{qr-6} &= r - \sqrt{2r-6}\\ qr-6 &= r^2-2r\sqrt{2r-6} + (2r-6)\\ qr &= r^2-2r\sqrt{2r-6} + 2r\\ q &= r -2\sqrt{2r-6} + 2\\ p+q+r-9 = q+r-7 &= (2r-5) -2\sqrt{2r-6}\\ &= (y^2+1) - 2y\\ &= (y-1)^2 \end{align} $$
$$ \tag*{$\square$} $$
Edición 1: Derivando una fórmula similar a la de Will Jagy.
Proposición. Los primos $q,r$ satisfacen $$ \begin{align} q &= 2(6k\pm 1)^2+3 = 5 + 24u\\ r &= 2(6k\pm 2)^2+3 = 11 + 24v \end{align} $$ para algunos enteros $u,v\geq 0$ (deben tener el mismo signo). Esto a su vez da $$ \begin{align} x &= \sqrt{2q-6} = 2(6k \pm 1)\\ y &= \sqrt{2r-6} = 2(6k \pm 2)\\ z &= \sqrt{qr-6} = 72k^2\pm 36k+7\\ q+r-9 &= (3(4k\pm 1))^2 \end{align} $$
Prueba. Comenzamos con $$ \begin{align} 2q-6&=x^2\implies -6\equiv x^2\pmod q\\ 2r-6&=y^2\implies -6\equiv y^2\pmod r \end{align} $$ Dado que $-6$ es un cuadrado, por Reciprocidad Cuadrática obtenemos que $q,r\equiv 1,5,7,11\pmod{24}$.
Ahora la tercera ecuación da $$ qr-6 = z^2\implies qr=z^2+6 $$ Dado que $z^2+6\equiv 6,7,10,15,18,22\pmod{24}$, las únicas combinaciones posibles de $(q,r)\pmod{24}$ son $$ (1,7),(5,11),(7,1),(11,5) $$ Para $q\equiv 1,7 \pmod{24}$, observamos que $$ 2q-6 =x^2\implies 20,8\equiv x^2\pmod{24} $$ lo cual no es posible. Por lo tanto hasta intercambiar $q$ y $r$, podemos asumir que $$ (q,r)\equiv (5,11) \pmod{24} $$ Entonces ahora tenemos $$ \begin{align} q &= 2a^2+3 = 5+24u\\ r &= 2b^2+3 = 11+24v \end{align} $$ para algunos enteros $a,b,u,v\geq 0$. Al verificar $\pmod{24}$, podemos mostrar que $$ a = 6m\pm 1,\quad b = 6n\pm 2 $$ Además, utilizando $q=r-2\sqrt{2r-6}+2$ como antes: $$ \begin{align} q &= r-2\sqrt{2r-6}+2\\ 72 m^2 \pm 24 m + 5 &= 72 n^2 \pm 24 n + 5\\ 9 m^2 \pm 6 m + 1 &= 9 n^2 \pm 6 n + 1\\ (3m \pm 1)^2 &= (3n\pm 1)^2 \end{align} $$ debe ser el caso que $m=n=k$ y que $6m\pm 1,6n\pm 2$ tengan el mismo signo. Entonces un cálculo directo da la fórmula para $z$ y $p+q+r-9$.
0 votos
¿Debe ser 2 o puede ser 2?
0 votos
No más de un primo puede ser dos. Pero esa es una conclusión trivial.
1 votos
¿Los números primos tienen que ser distintos?
1 votos
@TheShortOne Sí, ¡gracias! Editaré la publicación en un segundo.
1 votos
Un ejemplo de trabajo sería $(p,q,r)=(2,5,11)$.
1 votos
Otras dos serían $(p,q,r)=(2,101,131)$, y $(p,q,r)=(2,971,1061)$.
1 votos
Lo siento, estaba escribiendo mi respuesta y no me di cuenta de tu edición que dice lo mismo. Ahora solo tenemos que terminar esto.
1 votos
Primos menores a $10^4$ aparte de $3$, $5$, $11$, $53$, $101$, $131$, $971$, $1061$, $1571$, $2741$, $3203$, $3701$, $4421$, $5003$, $6053$, $7691$, $9803$ no ocurren, y las tres tripletes en mis comentarios anteriores son las únicas soluciones con $q, r\leq10^4$.
0 votos
¿Cuáles son las cuatro raíces cuadradas en cada uno de los casos que has encontrado?
0 votos
Si p y r son 971 y 1061, las cuatro raíces cuadradas son 44, 45, 46 y 1015. Si tan solo hubiera alguna conexión entre estos números...
0 votos
La conexión es que $2q-6,q+r-7,2r-6$ siempre son un trío de cuadrados consecutivos en los casos que he visto. Estoy escribiendo una respuesta sobre esto ahora, pero todavía hay algunos detalles por resolver.