Esta no es una prueba, pero como estás interesado en conexiones, tengo una generalización conjetural. Lo he verificado numéricamente en varios casos pequeños.
Sea $f(x,y)=ax^2+bxy+cy^2$ una forma cuadrática definida positiva con $a,b,c\in\mathbb{Z}$, y sea $A$ el área de la elipse $f(x,y) \leq 1$. Entonces $$ \sum (f(x_1,y_1)f(x_2,y_2)f(x_3,y_3))^{-1} = \frac{A^3}{\pi^2}, $$ donde la suma es sobre todos los conjuntos $\{(x_1,y_1),(x_2,y_2),(x_3,y_3)\}$ tales que $x_1+x_2+x_3=y_1+y_2+y_3=0$ y $\left|\det \begin{pmatrix} x_1 & x_2 \\ y_1 & y_2 \end{pmatrix}\right| = 1$ (lo que implica lo mismo para los otros dos pares).
La motivación para esto viene del topógrafo de Conway para formas cuadráticas. Los tres factores en cada término de la suma son los números en las tres caras que se encuentran en cada nodo del topógrafo para $f$. Ten en cuenta que cada vértice del topógrafo se cuenta dos veces, ya que contamos $(x_1,y_1),(x_2,y_2),(x_3,y_3)$ y $(-x_1,-y_1),(-x_2,-y_2),(-x_3,-y_3)$ por separado (en la terminología de Conway, la suma es sobre superbases estrictas, no superbases).
Probablemente esto se puede demostrar siguiendo las mismas líneas que la respuesta de David E Speyer, pero aún no he intentado hacerlo.
Actualización: Esta versión de tu fórmula fue publicada por Hurwitz en 1905 en un artículo titulado "Über eine Darstellung der Klassenzahl binärer quadratischer Formen durch unendliche Reihen" (ver §4, ecuación (8)). También se puede encontrar en Dickson, "History of the Theory of Numbers," Vol. III, página 167. La prueba que se da ahí es esencialmente la misma que la de David E Speyer. (De paso, su prueba se puede simplificar observando que la longitud de la arista que conecta las imágenes de $a/b$ y $c/d$ es $$ \frac{2}{\sqrt{(a^2+b^2)(c^2+d^2)}} $$ y luego aplicando la fórmula $K=\frac{abc}{4R}$ que menciona en los comentarios).
Encontré estas referencias buscando artículos que mencionen la suma sobre los vértices de un topógrafo. Esto me llevó a un preprint muy reciente de Cormac O'Sullivan, que contiene la fórmula de Hurwitz expresada en términos topográficos (Teorema 9.1). La fuente de O'Sullivan es este artículo de Duke, Imamoglu y Tóth.
Todas estas referencias contienen una serie de fórmulas relacionadas y conexiones con la teoría de formas cuadráticas (no solo definidas positivas, y no solo binarias) que podrían ser de tu interés.