Esta es una manera de pensar en el problema. Si $AB+BA$ es siempre positiva definida, pasando $A$ hasta el límite, $AB+BA$ debe ser también semidefinida positiva cuando $A$ es una matriz semidefinida positiva de rango uno.
Así que, con tal $A$ si se puede construir un contraejemplo tal que $B\succ0$ pero $AB+BA$ es indefinida, entonces por un argumento de continuidad, se puede obtener un contraejemplo con una definida positiva $A$ .
Por ejemplo $AB+BA$ es indefinido cuando $A=\pmatrix{1&0\\ 0&0}$ y $B=\pmatrix{2&1\\ 1&1}$ . De ello se desprende que $AB+BA$ es indefinido cuando $A=\pmatrix{1\\ &t}$ y $t>0$ es lo suficientemente pequeño (el valor de $B$ aquí es realmente poco importante; siempre y cuando $B$ no es diagonal, obtenemos un contraejemplo). Multiplique $A$ por $\frac1t$ podemos elegir $A=\pmatrix{\frac1t\\ &1}$ también. Ahora nos encantan las matrices enteras. Así que vamos a poner $\frac1t=n$ para algún número entero positivo $n$ . Queda por encontrar un $n$ que realmente funciona. Desde $$ \det(AB+BA)=\det\pmatrix{4n&n+1\\ n+1&2}=8n-(n+1)^2=8-(n-3)^2, $$ cualquier $n>3+\sqrt{8}$ con hacer el trabajo. El menor número de enteros como $n$ es $6$ , que es el valor utilizado en la respuesta que has mencionado.