Si define \lim_{\langle x,y\rangle\to\langle a,b\rangle}f(x,y)\tag{1} de tal manera que sólo existe cuando la función está definida en alguna bola abierta centrada en \langle a,b\rangle entonces lo que has escrito es correcto. Esto es análogo a definir \lim_{x\to a}f(x) sólo cuando f(x) se define en algún intervalo abierto centrado en a . Sin embargo, al igual que podemos hablar de límites unilaterales en la línea real, tiene perfecto sentido hablar de (1) siempre que f(x,y) se define en puntos arbitrariamente cercanos a \langle a,b\rangle . En ese caso se entiende que sólo miramos el límite a lo largo de "caminos" dentro del dominio de f . En ese sentido \lim_{\langle x,y\rangle\to\langle 0,0\rangle}\frac{x^3+y^3}{x^2-y^2} todavía no existe, pero por una razón más fundamental.
Supongamos que te acercas al origen a lo largo de la curva y=\sin x . Entonces por la regla de l'Hospital tienes
\begin{align*} \lim_{\langle x,y\rangle\to\langle 0,0\rangle}\frac{x^3+\sin^3x}{x^2-\sin^2x}&=\lim_{\langle x,y\rangle\to\langle 0,0\rangle}\frac{3x^2+3\sin^2x\cos x}{2x-2\sin x\cos x}\\\\ &=\lim_{\langle x,y\rangle\to\langle 0,0\rangle}\frac{3x^2+\frac32\sin2x\cos x}{2x-\sin2x}\\\\ &=\lim_{\langle x,y\rangle\to\langle 0,0\rangle}\frac{6x-\frac32\sin2x\sin x+3\cos2x\cos x}{2-2\cos2x} \end{align*}
que no existe: el numerador se aproxima 3 y el denominador, 0 . El problema es que este camino, aunque se mantiene dentro del dominio de la función, se acerca a la línea y=x tan rápido al acercarse al origen que el denominador se aproxima 0 mucho más rápido que el numerador, por lo que la función se infla al acercarnos al origen por este camino.