En resumen: Incluso si su función es discontinuo en casi todas partes, todavía puede poseer un invariante de la medida.
Primero de todo, creo que en el fin de plantear su pregunta correctamente se necesita un espacio medible $(X,\Sigma)$, entonces uno puede preguntarse si una medida $\lambda : \Sigma \to [0,\infty] $ existe con
$$ \lambda(A) = \lambda(T^{-1}(A)) $$
para todos los $A \in \Sigma$.
Para el caso de que uno no tiene requisitos en $X$ $\Sigma$ no es pre-definida, uno puede simplemente establecer $\Sigma := \{ \emptyset, X\}$ y definir la medida $\lambda(\emptyset):=0$, $\lambda(X):=1$, este sería invariante para cualquier función de $T : X \to X$.
Para el caso de que $X=\mathbb{R}$ es dada con un $\sigma$-álgebra $\Sigma$ tal que $T(x) = 1_{\mathbb{Q}}(x)$ es medible, uno puede simplemente definir la medida de Dirac
$$ \lambda(A) = \begin{cases} 1,& \text{if }1 \in A, \\ 0,& \text{else}.\end{cases} $$
A ver de que esta medida es invariante conforme a $T$, ten en cuenta que
$$ T^{-1}(A) = \begin{cases} \mathbb{Q}, & 1 \in A, \, 0 \notin A, \\ \mathbb{R} \backslash \mathbb{Q}, & 1 \notin A, \, 0 \in A, \\
\mathbb{R}, & 1 \in A, \, 0 \in A, \\ \emptyset, & 1 \notin A, \, 0 \notin A, \\ \end{casos} $$ y por lo tanto
$$ \lambda(T^{-1}(A)) = \begin{cases} 1, & 1 \in A, \, 0 \notin A, \\ 0, & 1 \notin A, \, 0 \in A, \\
1, & 1 \in A, \, 0 \in A, \\ 0, & 1 \notin A, \, 0 \notin A, \\ \end{casos} = \begin{cases} 1,& \text{if }1 \in A, \\ 0,& \text{else}.\end{casos} = \lambda(A). $$
La solución es muy intuitivo: Si usted empieza en 1, entonces se quedan ahí.