Me temo que la ecuación
$\cos (\pi A) = E - 2A, \tag{1}$
donde $A$ es una matriz ortogonal, no puede sostenerse, al menos en la generalidad indicada. Para ver un contraejemplo, consideremos la matriz
$J = \begin{bmatrix} 0 & -1 \\ 1 & 0 \end{bmatrix}, \tag{2}$
y mira $\cos (\pi J)$ . Desde
$J^2 = -E, \tag{3}$
es fácil demostrar que, exactamente como en el caso de $e^{i \theta} = \cos \theta + i \sin \theta$ donde $\theta \in \Bbb R$ los números reales (y de hecho para $\theta$ complejo también), tenemos
$e^{\theta J} = (\cos \theta) E + (\sin \theta) J; \tag{4}$
de hecho la demostración de (4) se puede tener mediante la expansión en serie de potencias de $e^{\theta J}$ que, en virtud de (3), se parece terriblemente a la de $e^{i \theta}$ Una discusión más profunda de esta prueba puede encontrarse en mi respuesta a esta pregunta . En cualquier caso, teniendo (4) en la mano, y observando que $J$ es de hecho ortogonal, ya que $J^T = -J$ para que $J^TJ = -JJ = -J^2 = E$ vemos que
$e^{\pi J} = (\cos \pi) E= -E = \begin{bmatrix} -1 & 0\\ 0 & -1 \end{bmatrix}, \tag{5}$
pero
$E - 2J = \begin{bmatrix} 1 & 2 \\ -2 & 1 \end{bmatrix}, \tag{6}$
dando otro contraejemplo concreto, además del del usuario7530 en su respuesta a esta pregunta. Y, por supuesto, lo anterior es bastante similar en espíritu al comentario de Olivier Begasset, que proporcionó parte, pero no toda, la inspiración para mis esfuerzos aquí.
Espero que esto ayude. Adiós,
y como siempre,
¡¡Fiat Lux!!