Una de las razones por las que no encuentras respuestas es que hay no es una respuesta en general. Algunas transformaciones afines (incluso sin una traducción, como éste): $$ \pmatrix{1 & 1 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1} $$ no puede como producto de cualquier escala y cualquier rotación. Así que ahí no hay solución.
Por otra parte, una matriz como $$ \pmatrix{-1 & 0 & 0 \\ 0 & -1 & 0 \\ 0 & 0 & 1} $$ puede escribirse como producto de una escala y una rotación en dos diferente maneras:
-
girar $180$ grados en la $xy$ -plano, escala $= (1, 1, 1)$
-
girar $0$ grados, escala $= (-1, -1, 1)$
De hecho, si tiene
rotación por $A$ grados en la $xy$ plano; escala por $(p, q, 1)$ ,
eso es siempre lo mismo que "girar por $A + 180$ grados, escala por $(-p, -q, 1)$ "por lo que la respuesta es nunca único. Incluso la transformación de identidad es a la vez "sin rotación, escala por $(1,1, 1)$ " y "girar 180 grados, escalar por $(-1, -1, 1)$ ."
Sé que no es la respuesta que querías, pero es la verdad, y puede que te ayude a dejar de buscar una respuesta que no existe. (O puede que te ayude a reformular tu pregunta a una que hace tener una respuesta).