Ah, yo sólo ahora se dio cuenta de que la pregunta se hizo antes. Para expiar mi repost pecado, te voy a dar una respuesta que yo no había visto de todo y me parece probable que lo que el problema tiene como objetivo (inspirado por la sustitución propuesta en las otras respuestas), por favor, compruebe que es correcta:
El uso de la $(a+b)=x,(b+c)=y,(a+c)=z$ de sustitución, tenemos
$$
\begin{vmatrix}
y-x-z & x & z\\
x & z-x-y & y \\
z & y & x-y-z \\
\end{vmatrix}
$$
Ahora $R1=R1+R2+R3$:
$$
\begin{vmatrix}
y & z & x\\
x & z-x-y & y \\
z & y & x-y-z \\
\end{vmatrix}
$$
Ahora se multiplica la columna 1 por $xz$, la columna 2 por $xy$ y la columna 3 por $yz$, con el fin de hacer $xyz$ a través de la fila. Para compensar pones $\frac{1}{(xyz)^2}$ frente:
$$\frac{1}{(xyz)^2} \begin{vmatrix}
xyz & xyz & xyz\\
x^2z & xy(z-x-y) & y^2z \\
z^2x & xy^2 & yz(x-y-z) \\
\end{vmatrix}$$
Ahora usted saque $xyz$ desde la primera fila y hacer $C2=C2-C1$, $C3=C3-C1$, y se puede conseguir algo como:
$$\frac{1}{(xyz)} \begin{vmatrix}
1 & 0 & 0\\
... & ... & ... \\
... & ... & ... \\
\end{vmatrix}$$
Donde $...$ es polinomios verdad es que no quiero escribir, pero usted puede ver sólo una 2x2 determinante sobrevive, que cuando se expande debe ceder el deseado $4x^2y^2z^2$, que luego se divide por $xyz$ para obtener el resultado de la $4xyz$.