Para matrices de orden $3$ uno se ocupa de tres vectores, cada uno en el cuadrante positivo del plano de coordenadas, en la esfera de radio $\sqrt{a}$. El hecho de que todos escalar productos son iguales (igual a $b$) dice que estos tres vectores de la forma esférica de un triángulo equilátero. Ahora, un triángulo con vértices sentado en los planos de coordenadas está totalmente determinado por un único vértice. Esto se deduce porque los lados de los triángulos son de máxima círculos en la esfera (también se puede escribir cuidadosamente un sistema de ecuaciones y resolver ellos). En cualquier caso, ya que sólo hay un triángulo como quería, la más obvia (la circulación de las coordenadas) debe ser. Vale la pena remarcar que no es necesario aquí la matriz a ser normal, solo la condicion del producto $A^TA$.
Además, después de algunos primaria de discusión, uno ve que dados los parámetros de $a,b>0$, hay un $3\times 3$ matriz $A$ $A^TA$ como quería, si y sólo si $a>2b$ y, a continuación, la matriz es circulantes y normal.
Este enfoque rompe en dimensiones superiores. La matriz
$$
\begin{pmatrix}
0&1/3&1/2&1/4\\ 1/3&0&1/4&1/2\\ 1/4&1/2&0&1/3\\ 1/2&1/4&1/3&0
\end{pmatrix}
$$
verifica las condiciones de con $a=61/144$ $b=1/4$ (esperanza no hay tonto error). Un ejemplo de esto viene de una gran cantidad de cálculos para entender el problema. A saber:
1) Buscar todos circulantes matrices de orden $4$ que comprobar la hipótesis.
Primero, uno puede suponer $a=1$ por la ampliación de la matriz completa. Entonces uno tiene algún sistema en tres indeterminates, pero termina con un cierto grado $4$ polinomio que debe tener un resultado positivo de la raíz. Sólo para el registro mis cálculos dar
$$
P(t)=16t^4+16(b-1)t^3+8b(3b-2)t^2+4b^2(b-1)t+b^4=0.
$$
Por tanto, recibió $b$ hay muy pocos ($\le 4$) circulantes matrices como quería.
2) Buscar no circulantes soluciones. Desde que cayó el circulantes condición de que el número de indeterminates en el problema pasa de 3 a 12 años, parece que hay más espacio para las soluciones a éste problema. En realidad se puede producir un monstruo como este
$$
\begin{pmatrix}
0&\frac{2b(x+y)}{2b+(x+y)^2}&\frac{x+y}{2}&\frac{2b-x^2+y^2}{2(x+y)}\\
\frac{2b(x+y)}{2b+(x+y)^2}&0&\frac{2b+x^2-y^2}{2(x+y)}&\frac{x+y}{2}\\
\frac{b}{x+y}&x&0&\frac{2b(x+y)}{2b+(x+y)^2}\\
y&\frac{b}{x+y}&\frac{2b(x+y)}{2b+(x+y)^2}&0
\end{pmatrix}.
$$
Se verifica la $A^TA$ condición de fuera de la diagonal (para $b$) y se mantiene a imponer las columnas y las filas que tengan la misma norma. Esta en la final da $x=y$. También, uno ve que la condición de la matriz a ser circulantes es $b=2x^2$ y, a continuación, todas las entradas fuera de la diagonal son $\equiv x$.
Aquí acabo de corto y buscar algún ejemplo concreto como en el anterior ( $x=y$ $b\ne2x^2$ ).
En cualquier caso, incluso si mis cálculos fallan, el problema en la dimensión $4$ deben ser abordados por soluciones explícitas de sistemas cuadráticos.
Espero que esto da una idea. Por ejemplo, todos los cálculos anteriores sugieren que, aunque no circulantes, todas las columnas deben ser permutaciones de la primera.
