Independientemente de cómo decidas calcular la integral, aquí tienes una forma de hacerlo utilizando la formulación de la integral de superficie para que puedas comparar tu solución.
$$\iint_B(x^2+2y^2-3z^2)\,\mathrm dS$$
Parametrice $B$ por la función vectorial,
$$\mathbf s(u,v)=\langle\cos u\sin v,\sin u\sin v,\cos v\rangle$$
con $0\le u\le2\pi$ y $0\le v\le\pi$ . Entonces
$$\mathrm dS=\left\|\frac{\partial\mathbf s}{\partial u}\times\frac{\partial\mathbf s}{\partial v}\right\|\,\mathrm du\,\mathrm dv=\sin v\,\mathrm du\,\mathrm dv$$
La integral se convierte entonces en
$$\int_{v=0}^{v=\pi}\int_{u=0}^{u=2\pi}(\cos^2u\sin^2v+2\sin^2u\sin^2v-3\cos^2v)\sin v\,\mathrm du\,\mathrm dv=0$$