Presumiblemente $A,B,C$ son real matrices simétricas. Como $B$ es positiva definida, condición necesaria para que $A=CBC$ es que $A$ es semidefinido positivo. Supongamos que sí. Entonces $A$ puede ser diagonalizado ortogonalmente. Por lo tanto, WLOG, podemos suponer que $A=D\oplus0$ para alguna matriz diagonal real $D$ con positivo entradas diagonales. Como $D\oplus0=CBC$ , $B$ es positiva definida y $C$ es simétrica, $C$ debe ser de la forma $\tilde{C}\oplus0$ , donde $\tilde{C}$ es una matriz simétrica del mismo tamaño que $D$ . Así que, WLOG, podemos suponer además que $A=D$ es una matriz diagonal positiva. Ahora $A=CBC$ implica que $I = (A^{-1/2}CA^{-1/2})(A^{1/2}BA^{1/2})(A^{-1/2}CA^{-1/2})$ . Así que podemos suponer además que $A=I$ . Pero entonces $I=CBC$ significa $B=C^{-2}$ . Es decir, $C^{-1}$ es una raíz cuadrada simétrica de $B$ . Por lo tanto, si $B$ se puede diagonalizar ortogonalmente como $B=Q\Sigma Q^T$ entonces $C=Q\Sigma^{-1/2}\Lambda Q^T$ donde $\Lambda$ es cualquier matriz diagonal con cada entrada diagonal igual a $\pm1$ . En otras palabras, $C$ es nunca único en este caso reducido. Volviendo al caso original, vemos que una solución $C$ siempre existe si $A$ es semidefinida positiva y la solución no es única si $A\not=0$ .
Editar: Como las raíces cuadradas semidefinidas positivas de las matrices semidefinidas positivas son únicas, si $C$ se requiere que sea semidefinida positiva, el argumento anterior muestra que está determinada de forma única por $$C = A^{1/2} (A^{1/2}BA^{1/2})^{-1/2} A^{1/2},$$ donde todas las raíces cuadradas aquí son raíces cuadradas semidefinidas positivas. (La respuesta de achille hui da $C = \sqrt{B}^{-1} \sqrt{ \sqrt{B} A \sqrt{B} } \sqrt{B}^{-1}$ . Desde $C$ es única, las dos fórmulas producen en realidad la misma matriz).
Cuando la suposición de que $B$ es positivo (o negativo) se elimina la definición, las cosas se ponen más feas. Cuando $B$ es no singular e indefinido, $C$ puede no ser única aunque impongamos la condición de que $C$ es semidefinido positivo. Por ejemplo, $$ \begin{pmatrix}3&-1\\-1&3\end{pmatrix} \begin{pmatrix}1\\&-1\end{pmatrix} \begin{pmatrix}3&-1\\-1&3\end{pmatrix} = (\sqrt{8}I) \begin{pmatrix}1\\&-1\end{pmatrix} (\sqrt{8}I) $$ Cuando $B$ es singular, $C$ simplemente no puede ser único porque su restricción en el núcleo de $B$ puede tomarse como cualquier operador autoadjunto.