Usted realmente tiene que:
$$\int_a^b f(x) dx = b f(b) - a f(a) - \int_{f(a)}^{f(b)} f^{-1} (x) dx $$
Este es un gráfico:
El rectángulo $ObCB$ área $b\cdot f(b)$. El rectángulo $OaDA$ área $a \cdot f(a)$. La curva de trapecio $ADCB$ área $\int_{f(a)}^{f(b)} f^{-1} (x) dx $, por lo que se espera que:
$$\int_a^b f(x) dx = \mathcal{A}(ObCB) - \mathcal{A}(OaDA) - \mathcal{A}(ADCB)$$
$$\int_a^b f(x) dx = b f(b) - a f(a) - \int_{f(a)}^{f(b)} f^{-1} (x) dx $$
lo que es realmente cierto.
Recuerde que la función de arranque tiene que ser uno-a-uno y a la inversa para ser definido.
Se puede comprobar una prueba plena en Michael Spivak del Cálculo (aunque él quiere que lo haga, él proporciona los pasos necesarios para hacerlo).