El libro dio la respuesta $12$.
Esta es la forma en que me acerqué a él:
Necesitamos los arreglos en el formulario
matemáticas - física - matemáticas - física - matemáticas
o bien dos libros de matemáticas será adyacentes. Así, elegimos $2$ posiciones de los dos libros de física para ser colocado y se multiplica por $2!$, desde cualquier posición puede tener cualquiera de los libros. A continuación, vemos que hay tres espacios restantes para los libros de matemáticas, así que varios por $3!$ nos da:
$$ 2 \times 2 \times 3 \times 2 \times 1 $$
Sin embargo, ya que hemos elegido las posiciones de una vez por la física de los libros, y luego otro para los libros de matemáticas, debemos dividir por $2$ , de modo que no se cuente dos veces. ¿Esto parece correcto?