Queremos que las raíces de la cuártica siguiente sean reales y distintas, pero dos raíces deben ser iguales. Por ejemplo, las raíces deberían ser $a,b,c,c$ donde $a,b,c$ son Reales y distintas.
$$[x^2-2mx-4(m^2+1)][x^2-4x-2m(m^2+1)]$$
Tenemos que encontrar los valores de $m$ correspondientes a esta condición.
Observé que el discriminante del primer cuadrático es positivo, y el discriminante del segundo cuadrático es $0$ cuando $m=-1$. Pero cuando $m=-1$, ¡entonces los dos cuadráticos tienen una raíz en común! Así que las raíces son $-4,1,1,1$. Esto no es lo que se busca.
Ahora creo que si encontramos la raíz común restando los cuadráticos, obtendremos el valor deseado de $m$. Al restar los cuadráticos obtuve:
$$(m-2)x = (m^2+1)(m-2)$$
Lo cual significa que o bien $m=2$ o $x=m^2+1. Aún así, ninguno lleva a la respuesta.
La respuesta es $m=3$.