Pareces algo confundido. Tenemos $f: (0,1) \rightarrow \mathbb{R}^2$, que es continua y biyectiva (porque $0$ y $1$ no son parte del dominio). No es sobreyectiva (no todos los puntos del plano están en su imagen), por lo que por esa razón $f$ no es un homeomorfismo.
Podría entonces ser una incrustación. Consideramos la misma función $f$ como un mapa entre $(0,1)$ y $f[(0,1)]$, que es por definición sobreyectiva (realmente debería tener un nombre diferente para evitar confusiones, pero es común usar la misma letra para ambos). $f$ es una incrustación siempre que este mapa restringido (restringido en la imagen) sea un homeomorfismo. (Esta es la esencia de la definición de una incrustación). Esto haría que $(0,1)$ y $f[(0,1)]$ fueran homeomórficos, y este último sería una "copia" incrustada (topológicamente) del primero.
Sin embargo, en ese caso la función inversa $f^{-1}: f[(0,1)] \rightarrow (0,1)$ también tendría que ser continua. Pero considera $x_n = (0,\frac{1}{n}) = f(1-\frac{1}{3n})$, que converge en el plano (y en $f[(0,1)]$) a $(0,0) = f(\frac{1}{6})$. Entonces $x_n \rightarrow (0,0)$ en $f[(0,1)]$, pero $f^{-1}(x_n) = 1 - \frac{1}{3n}$ no converge a $f^{-1}(0,0) = \frac{1}{6}$ en $(0,1)$. Por lo tanto, $f^{-1}$ no preserva las secuencias convergentes y no puede ser continua.
Intuitivamente, es claro que la imagen de $f$ no se parece a un intervalo, debido a su punto de "triple encuentro" $(0,0)$. Por ejemplo, en $(0,1)$, al quitar cualquier punto el resto queda desconectado, mientras que podemos quitar $(1,0)$ de $f[(0,1)]$ y tener un resto conectado. Argumentos como este también se pueden utilizar para mostrar que $(0,1)$ y su imagen bajo $f$ no son homeomórficos, por lo que $f$ no es una incrustación.