Entiendo la fórmula:
$cos\left(\right)=\frac{tr\left(AB^T\right)}{\sqrt{tr\left(AA^T\right)\cdot tr\left(BB^T\right)}}$
Sólo hay una cosa que no me queda clara, ¿el número que me sale es el propio ángulo?
¿O el número debe obtenerse mediante la función cos?
Voy a poner un ejemplo con números sencillos para que la pregunta quede más clara.
$A=\begin{pmatrix}1&2\\ 0&1\end{pmatrix} B=\begin{pmatrix}2&0\\ 0&2\end{pmatrix}$
$\frac{tr\left(\begin{pmatrix}1&2\\ 0&1\end{pmatrix}\cdot \begin{pmatrix}2&0\\ 0&2\end{pmatrix}^t\right)}{\sqrt{tr\left(\begin{pmatrix}1&2\\ 0&1\end{pmatrix}\cdot \begin{pmatrix}1&2\\ 0&1\end{pmatrix}^t\right)\cdot tr\left(\begin{pmatrix}2&0\\ 0&2\end{pmatrix}\cdot \begin{pmatrix}2&0\\ 0&2\end{pmatrix}^t\right)}}=\frac{1}{\sqrt{3}}$
Así que el ángulo es $\frac{1}{\sqrt{3}}(\approx 0.577)$ o $cos (\frac{1}{\sqrt{3}})\approx 0.837$ ?
¿De dónde procede la fórmula? y ¿qué relación tiene n con la fórmula?