Advertencia y notas: Escribí la respuesta para real matrices y transponer (\cdot)^t . Se puede adaptar simplemente para complejo matrices y transposición compleja conjugada . Sin embargo, las matrices complejas y la única transposición es una historia completamente distinta...
En la pregunta no está claro, si la condición es en (A,B) que es una fórmula lógica P(A,B) o la misma condición está en A y B que es una fórmula lógica P(A) \land P(B) . Para el segundo caso, no hay "solución" para n>1 (véase el comentario de @ErickWong a la pregunta).
Ahora los resultados...
Reclamación 1: La condición " A,B son simétricas y definidas" es suficiente para que AA^t = BB^t \implies A=B \lor A=-B Es cierto.
Prueba: Primero asuma A es positiva definida. Entonces, AA^t = BB^t implica I = A^{-1}B (A^{-1}B)^t Es decir M = A^{-1}B es ortogonal. Pero M es similar a RMR^{-1} = R^{-1}BR^{-1} que es definitivo. Es decir, M es I (en caso de que B es positiva definida), o -I (en caso de que B es negativa definida). Pero eso significa A = B o A = -B .
Ahora, supongamos que A es negativa definida. Entonces, \tilde A = -A es positiva definida. Así, por el párrafo anterior, tenemos -A = B o -A = -B .
Reclamación 2: Dejemos que M_0 = \{ A\in\mathbb R^{n\times n} : |\det A| = 1 \}, M_1 = \{ A\in M_0 : A \text{ symm. and definite} \}, y M_2 \subseteq M_0 que contiene M_1 con la propiedad \forall A,B\in M_2: [AA^t = BB^t \implies A = B \lor A=-B] .
Entonces, M_2 = M_1 .
Prueba: Dejemos que A\in M_2 . Desde \tilde A = (AA^t)^{1/2}\in M_1 \subseteq M_2 sigue A = \tilde A o A = -\tilde A . Es decir, A ya está en M_1 . (gracias a @ErickWong)