Tu problema es que has asumido que la densidad es de 1 gramo/mL.
Recuerda que un molar se define como un mol de disolvente por litro de solución no disolvente . Normalmente, en las clases de introducción a la química, nos saltamos el hecho de que la adición de soluto a una solución aumenta su densidad, porque se complica la vida.
Sin embargo, como acabas de descubrir, a veces es necesario tener en cuenta el cambio de densidad que se produce al añadir el soluto. Esta página web afirma que la densidad de $12~\mathrm{M}$ ácido sulfúrico es de aproximadamente $1.634~\mathrm{g/mL}$ .
Utilizando este cálculo actualizado, seguimos teniendo el $1177~\mathrm{g}$ de ácido sulfúrico. Sin embargo, la masa de la solución es ahora $1000~\mathrm{mL}\cdot 1.634~\mathrm{g/mL} = 1634~\mathrm{g}$ . Finalmente, obtenemos que
$$ \frac{ 1177~\mathrm{g} \, \ce{H2SO4}}{1634~\mathrm{g} \, \mathrm{solution}} = 72.03\% \; \mathrm{w/w} $$
Una nota sobre este cálculo: es posible que estemos planteando la cuestión, ya que no sé qué valores de esa página enlazada son medidos y cuáles son calculados. Es posible que la densidad se haya calculado a partir de datos medidos. Sin embargo, lo importante aquí no es cómo se obtuvieron los datos, sino que la densidad de la solución cambia a medida que se añade más soluto, por lo que hay que cambiar la forma de calcular las cosas a partir de la molaridad.
