Te sugeriría que eches un vistazo a esta respuesta donde he discutido el Teorema Fundamental del Cálculo para funciones que no necesariamente son continuas.
Luego, nota que el integrando aquí tiene una discontinuidad en $x=1$ y en cuanto al intervalo de integración, la discontinuidad es removible, por lo que simplemente la eliminamos cambiando el valor del integrando en $x=1$ a $0$. Hacer esto no tiene impacto en el valor de la integral (porque el valor de una integral de Riemann no depende del valor del integrando en un número finito de puntos en el intervalo considerado) y por lo tanto la integral deseada es igual a $\int_{1/2}^{1}0\,dx=0$.
En general, si tenemos que evaluar una integral de la forma $\int_{a} ^{b} f(x) \, dx$ donde $f$ tiene un número finito de discontinuidades en $x_{1},x_{2},\dots,x_{n}$ en $[a, b] $ con $$a\leq x_{1}\leq x_{2}\leq \dots\leq x_{n} \leq b$$ tal que los límites lateral izquierdo y derecho de $f$ existen en cada punto de discontinuidad entonces dividimos la integral de la siguiente manera $$\int_{a} ^{b} f(x) \, dx=\int_{a} ^{x_{1}}f(x)\,dx+\int_{x_{1}}^{x_{2}}f(x)\,dx+\cdots+\int_{x_{n-1}}^{x_{n}}f(x)\,dx+\int_{x_{n}}^{b}f(x)\,dx$$ Cada integral a la derecha se puede evaluar observando que el integrando tiene una discontinuidad removible en los puntos finales $x_{i}$ y el integrando se puede redefinir en estos puntos para hacerlo continuo en ese intervalo.
Puedes usar esta técnica para evaluar $\int_{1}^{2}[x^{2}]\,dx$ como $$\int_{1}^{2}[x^{2}]\,dx=\int_{1}^{\sqrt{2}}1\,dx+\int_{\sqrt{2}}^{\sqrt{3}}2\,dx+\int_{\sqrt{3}}^{2}3\,dx$$
También para responder tu pregunta sobre cómo evaluar la integral bajo consideración a través de la segunda parte del teorema fundamental del cálculo, nota que no hay una anti-derivada de $[x] $ en el intervalo $[1/2,1]$ (¿por qué? tal vez debas responder esto por ti mismo, pero avísame si sientes algún problema aquí) y por lo tanto no podemos usar el teorema fundamental del cálculo aquí.
También ten en cuenta que las funciones continuas tienen garantizada una anti-derivada, pero la continuidad no es necesaria. Hay funciones discontinuas que poseen una anti-derivada y si tenemos una función $f$ que es integrable de Riemann en $[a, b] $ y posee una anti-derivada $F$ (nota que la existencia de la anti-derivada no está garantizada y por lo tanto estamos asumiendo su existencia aquí como parte de las hipótesis) tal que $F'(x) =f(x) $ para todo $x\in[a, b] $ entonces tenemos $\int_{a}^{b}f(x)\,dx=F(b)-F(a)$.
0 votos
Se mantiene continuo en 1, pero no creo que aún podamos usar el FTC. Parece un poco sospechoso, pero buena pregunta.
0 votos
¿No crees que la función piso es continua por la derecha en 1?
2 votos
Bueno, sí, pero ciertamente no es continua bidireccional.
1 votos
Normalmente, los libros de cálculo presentan el Teorema Fundamental del cálculo solo para funciones continuas. Es genial que quieras saber si estos teoremas son válidos para funciones discontinuas o no +1. He proporcionado un enlace en mi respuesta que trata sobre el Teorema Fundamental general del cálculo que es aplicable para funciones integrables de Riemann.