Podemos multiplicar el dado de ecuaciones en diferentes órdenes a conseguir:
$T^3 = PABCP^{-1} = QBCAQ^{-1} = RCABR^{-1}$
Así, con el fin de buscar una solución para existir, necesitamos $ABC$, $BCA$, $CAB$, y $T^3$ a ser similar matrices.
Si ese es el caso, tenemos las siguientes:
$P(ABC) = T^3P$
$Q(BCA) = T^3Q$
$R(CAB) = T^3R$
Mediante la vectorización de la operación, estas ecuaciones son:
$((ABC)^T \otimes I - I \otimes T^3)\text{vec}(P) = 0$
$((BCA)^T \otimes I - I \otimes T^3)\text{vec}(Q) = 0$
$((CAB)^T \otimes I - I \otimes T^3)\text{vec}(R) = 0$
donde $\otimes$ denota el producto de Kronecker.
Esto le da un $9 \times 9$ sistema lineal para cada matriz $P,Q,R$. Cada sistema debe ser el rango deficiente, por lo que debe obtener al menos un unidimensional nullspace de soluciones para cada matriz. (Lo cual tiene sentido porque si $(P,Q,R)$ es una solución, por lo que es $(kP,kQ,kR)$ por el no-cero constante $k$).
Después de resolver una de estas ecuaciones para uno de $P$ o $Q$ o $R$, los otros dos se determina únicamente con el original de tres ecuaciones. La pregunta que queda es ¿se puede conseguir de dos (o más) dimensiones nullspace para todas estas ecuaciones, y qué hacer si eso sucede.