1) La matriz de transformación es en general de 4x4:
\begin{equation}
\begin{bmatrix}
R&t\\
0&1\\
\end{bmatrix}
\end{equation}
con $R$ ser un 3x3 matriz de rotación y $t$ ser un vector de translación.
Deje $x_1,x_2,x_3\in\mathbb{R}^3$ ser el primer triángulo y $\bar{x}_1,\bar{x}_2,\bar{x}_3\in\mathbb{R}^3$ el segundo.
A continuación, las siguientes Arun et al. 1987, obtenemos:
\begin{equation}
c = \frac{1}{3}(x_1 + x_2 + x_3), \quad \bar{c} = \frac{1}{3}(\bar{x}_1 + \bar{x}_2 + \bar{x}_3), \quad\text{(calculate centroids)}
\end{equation}
\begin{equation}
y_i = x_i-c, \quad \bar{y}_i = \bar{x}_i-\bar{c}, \quad\text{(subtract centroids from points)}
\end{equation}
\begin{equation}
H = y_1\bar{y}_1^\top + y_2\bar{y}_2^\top +
y_3\bar{y}_3^\top, \quad
U\cdot\Sigma\cdot V^\top = H \quad\text{(singular value decomposition)}
\end{equation}
\begin{equation}
R = V U^\top, \quad t = c - R\bar{c}
\end{equation}
2) La solución anterior es un ajuste de mínimos cuadrados, por lo que si hay es una pequeña deformación
esto no debe afectar el resultado demasiado. Es difícil decir más acerca de ella,
si no sabemos qué tipo de deformación que estamos esperando (cambio de escala sólo, afín a la deformación, o algo más).