Su fórmula no es del todo correcta, necesita valores absolutos alrededor de $x_1$ y $x_2$ en el denominador.
El proceso de pensamiento para llegar a una fórmula comienza dibujando una imagen: el disco unitario, que denotaré como $D$, está inscrito en el cuadrado $S = [-1,1] \times [-1,1]$, tangente al punto medio de cada uno de los cuatro lados de ese cuadrado.
Ahora considera cualquier rayo en el plano euclidiano con base en el origen, denotado como $R$. En $R$ hay dos puntos especiales: el punto $D(R)$ que es el último punto de $R$ en $D$, es decir, el punto donde $R$ interseca el círculo unitario; y el punto $S(R)$ es el último punto de $R$ en $S$, que es el último punto donde $R$ interseca el borde del cuadrado $S$.
Entonces, la idea del homeomorfismo es: mapear el origen $\mathcal O$ a sí mismo; y luego para cada rayo $R$, mapear el punto $D(R)$ al punto $S(R)$, y luego extender esto a un mapa del segmento $\overline{\mathcal O D(R)}$ al segmento $\overline{\mathcal O S(R)}$. Para definir esa extensión, simplemente escala el primer segmento (cuya longitud es igual a $1$) al segundo segmento (cuya longitud es igual a la norma $\|S(R)\|$) multiplicando por un escalar igual a $\|S(R)\|$.
Ahora viene la parte complicada: dado $x=(x_1,x_2) \in D$, debo determinar el escalar correcto para multiplicar, así que debo pensar en el rayo $R_x$ que parte del origen, luego pasa por $x$, y luego por $D(R_x)$, y luego por $S(R_x)$, y luego debo calcular la norma de $S(R_x)$. Un poco de reflexión muestra que
$$S(R_x) = \frac{x}{\text{max}\{|x_1|,|x_2|\}} $$ que tiene norma $$\|S(R_x)\| = \frac{\|x\|}{\text{max}\{|x_1|,|x_2|\}} $$ y así la fórmula final para el mapa deseado es $$x \mapsto \|S(R_x)\| \, x = \frac{\|x\| \, x}{\text{max}\{|x_1|,|x_2|\}} $$ Tomando $y$ como el punto imagen con coordenadas $y=(y_1,y_2)$ entonces puedes escribir esta fórmula como $$y_i = \frac{\|x\| \, x_i}{\text{max}\{|x_1|,|x_2|\}} $$