Creo que esta pregunta podría ser bastante difícil para muchos principiantes, así que, publicaré una respuesta quizás más detallada que las que veo aquí.
Si sólo querías pistas para este problema, no busques más
Por lo demás, allá vamos:
Prueba: Si dejamos que $M = \{x \in X: f(x) \leq g(x)\}$ entonces basta con demostrar que $X - M$ está abierto. Si $X-M$ está vacío, entonces hemos terminado, así que supongamos que no. Dejemos que $x \in X-M$ . Entonces, debe ser el caso que $f(x) > g(x)$ . Ahora mostraremos la existencia de una vecindad $U_x$ y $V_x$ sobre $f(x)$ y $g(x)$ respectivamente, que no sólo son disjuntos sino que también satisfacen la propiedad de que cada elemento de $U_x$ es mayor que cada elemento de $V_x$ .
Caso 1: $Y$ no contiene ni el elemento más pequeño ni el más grande
En este caso, observamos que debe haber $a < g(x)$ y $b> f(x)$ . Si no hay $y \in Y$ satisfaciendo $g(x) < y < f(x)$ entonces $V_x = (a, f(x))$ y $U_x = (g(x), b)$ son conjuntos abiertos en $Y$ que satisface las propiedades señaladas anteriormente. Si existe tal $y \in Y$ entonces podemos simplemente dejar que $U_x = (y, b)$ y $V_x = (a, y)$ .
Caso 2: $Y$ contiene un elemento menor pero no un elemento mayor
Observaremos que este caso también cubrirá, mediante un argumento similar, el caso en el que $Y$ contiene un elemento mayor pero no uno menor. Si $g(x)$ no es el elemento más pequeño, entonces hay un elemento más pequeño $a_0$ en $Y$ con $a_0 < g(x)$ . Desde $Y$ no tiene ningún elemento mayor, entonces hay $b > f(x)$ . Si no hay $y \in Y$ satisfaciendo $g(x) < y < f(x)$ , entonces simplemente dejamos que $V_x = [a_0, f(x))$ y $U_x = (g(x), b)$ . Si hay tal $y$ , entonces dejemos que $U_x = (y,b)$ y $V_x = [a, y)$ . Ahora bien, si $g(x)$ es el elemento más pequeño de $Y$ , entonces si no hay $y$ con $g(x) < y < f(x)$ , dejemos que $V_x = [g(x), f(x))$ y que $U_x = (g(x), b)$ . Si hay tal $y$ , entonces simplemente dejamos que $V_x = [g(x), y)$ y $U_x = (y, b)$ .
Caso 3: $Y$ contiene un elemento mayor y otro menor
Si ninguno de los dos $g(x)$ ni $f(x)$ son el elemento mayor o menor, entonces se puede proceder, como en el caso 1, a encontrar $U_x$ y $V_x$ . Si cualquiera de los dos $g(x)$ o $f(x)$ pero no ambos es un elemento más pequeño/más grande, entonces se puede proceder como en el caso 2. Así, consideramos el caso en el que $g(x)$ es el elemento más pequeño y $f(x)$ es el elemento más grande. Si hay $y$ satisfaciendo $g(x) < y < f(x)$ , entonces simplemente dejamos que $U_x = (y, f(x)]$ y podemos dejar que $V_x = [g(x), y)$ . Si no hay tal $y$ existe, entonces deja que $U_x = (f(x), g(x)]$ y que $V_x = [f(x), g(x))$ .
Como hemos demostrado que los barrios $U_x$ y $V_x$ de $f(x)$ y $g(x)$ respectivamente, existe tal que cada elemento de $U_x$ es mayor que cada elemento de $V_x$ vemos por la continuidad de $f$ y $g$ que $f^{-1}(U_x)$ y $g^{-1}(V_x)$ están abiertas en $X$ . Así, $f^{-1}(U_x) \cap g^{-1}(V_x)$ está abierto en $X$ . Si $m \in f^{-1}(U_x) \cap g^{-1}(V_x)$ entonces $f(m) \in U_x$ y $g(m) \in V_x$ Así que $f(m) > g(m)$ Así que $m \in X-M \implies f^{-1}(U_x) \cap g^{-1}(V_x) \subseteq X-M$ . Desde $x \in X-M$ era arbitraria, esto nos muestra que para cada elemento $x$ de $X-M$ hay un vecindario $B_x$ de $x$ contenida en $X-M$ . Así, $$X-M = \bigcup_{x \in X-M} B_x$$ Así que, $X-M$ está abierto, como se desea.
Como nota al margen, tal vez las personas con más experiencia vean que en medio de la prueba, también demostramos que todo conjunto ordenado $Y$ equipado con la topología de orden es Hausdorff.