Presumiblemente $A$ y $B$ son reales. Su requisito es posible si y sólo si $1$ y $-1$ no son valores propios de $A$ .
Supongamos que $1$ (o $-1$ ) es un valor propio de $A$ y $x$ es un vector propio correspondiente. Entonces su requisito implica que $B\succ A^TBA$ lo cual es imposible porque $x^TBx=x^TA^TBAx$ .
Supongamos que $\pm1$ no son valores propios de $A$ . Mediante un cambio de base ( $B$ es una forma cuadrática y $A$ es una transformación lineal; por lo tanto, sufren el mismo cambio de base), podemos suponer que $A$ ya está en su forma real de Jordania . Dejemos que $B$ sea una matriz diagonal de bloques con tamaños de bloque conformes a $A$ 's. Podemos resolver el problema en el sentido de las agujas del reloj.
Para cada bloque de Jordan $A_0$ de $A$ con módulo de valor propio mayor que $1$ , establece el correspondiente subbloque diagonal de $B$ a la matriz definida negativa $B_0$ , donde $-B_0$ es la solución positiva definida de la Ecuación de Lyapunov $A_0^{-T}(-B_0)A_0^{-1} - (-B_0) - I = 0$ . Para cada bloque de Jordan $A_0$ con módulo de valor propio $\le1$ (el módulo puede ser $1$ es que los valores propios son un par conjugado de valores propios no reales en el círculo unitario), se establece el correspondiente subbloque diagonal de $B_0$ a una solución semidefinida positiva de $A_0^TB_0A_0 - B_0 = -I$ . Desde $\rho(A)>1$ , $B$ siempre posee un subbloque diagonal definido negativo. Por lo tanto, $B$ no es semidefinido positivo.