Afirmamos que todo número entero $z \geq 49x^2y^2$ está en $S_{x,y}$ . Desde $\gcd(x,y)=1$ existe $u,v\in\mathbb{Z}$ tal que $ux-vy=1$ . Podemos suponer que $0< u\leq y$ y $0\leq v < x$ . Ahora bien, obsérvese que el intervalo $I:=\left(\frac{zv}{x},\frac{zu}{y}\right)$ es de medida $$\frac{zu}{y}-\frac{zv}{x}=\frac{z}{xy}(ux-vy)=\frac{z}{xy}\geq 7\sqrt{z}>1+6\sqrt{z}\,.$$ En consecuencia, $I$ contiene al menos $\lceil6\sqrt{z}\rceil$ enteros consecutivos, por lo que $I$ contiene un número entero $p$ tal que $\gcd(p,z)=1$ por el siguiente lema. Nótese que $\frac{zv}{x}<p<\frac{zu}{y}$ .
Para resolver $n_1x+n_2y=z$ para $n_1,n_2\in\mathbb{N}$ consideramos las soluciones $n_1=zu-p y>0$ y $n_2=px-zv>0$ . Afirmamos que $\gcd\left(n_1,n_2\right)=1$ . En primer lugar, a partir de la suposición de que $\gcd(p,z)=1$ Hay $\mu,\nu\in\mathbb{Z}$ tal que $p\mu+z\nu=1$ . Ahora, toma $a:=\mu v+\nu x$ y $b:=\mu u+\nu y$ . Vemos que $$\begin{align} an_1+bn_2 &=(\mu v+\nu x)\big(zu-py\big)+(\mu u+\nu y)\big(px-zv\big) \\ &=z\big(u(\mu v+\nu x)-v(\mu u+\nu y)\big)+p\big(x(\mu u+\nu y)-y(\mu v+\nu x)\big) \\ &=\nu(ux-vy)z+\mu(ux-vy)p=\mu p +\nu z=1\,, \end{align}$$ lo que implica que $\gcd\left(n_1,n_2\right)=1$ . Por lo tanto, $z\in S_{x,y}$ .
Lema: Para cada número entero positivo $N$ , un conjunto $L$ compuesto por enteros consecutivos tales que $|L|\geq\lceil6\sqrt{N}\rceil$ debe contener un número entero $t$ que es coprima de $N$ .
(El lema se puede generalizar. Por cada $\epsilon>0$ existe una constante $\kappa_\epsilon>0$ para lo cual se cumple lo siguiente: para cualquier $N \in \mathbb{N}$ , $d\in\mathbb{N}$ y $r\in\mathbb{Z}$ tal que $\gcd(N,d)=1$ , un conjunto $L$ compuesto por elementos consecutivos de la progresión aritmética $\big\{nd+r\big\}_{n\in\mathbb{Z}}$ con $|L| \geq \left\lceil \kappa_\epsilon N^\epsilon\right\rceil$ tiene un elemento $t\in L$ tal que $\gcd(t,N)=1$ . Si $\epsilon \geq 1$ entonces trivialmente, $\kappa_\epsilon$ puede tomarse como $1$ . Una prueba para esta versión generalizada con $0<\epsilon<1$ se hace de forma similar a la que se da a continuación).
Prueba: Supongamos que $N$ tiene factores primos (distintos entre sí) $p_1,p_2,\ldots,p_r \in\mathbb{N}$ . Dejemos que $L$ sea un conjunto compuesto por $l$ enteros consecutivos, donde $l\geq \lceil 6\sqrt{N}\rceil$ .
Dejemos que $[r]:=\{1,2,\ldots,r\}$ . Para cada subconjunto $T$ de $[r]$ , defina $f_L(T)$ para ser el número de elementos de $L$ divisible por $p_j$ para todos $j\in T$ . Obviamente, $\left\lfloor \frac{l}{\prod_{\lambda \in T} p_\lambda}\right\rfloor \leq f_L(T) \leq \left\lceil \frac{l}{\prod_{\lambda \in T} p_\lambda}\right\rceil$ . Por lo tanto, el número de elementos de $L$ que son coprimos a $N$ viene dada por $$K_L:=\sum_{T\subseteq[r]}\,(-1)^{|T|}f_L(T)\,,$$ donde hemos utilizado el Principio de Inclusión y Exclusión.
Si $T\subseteq[r]$ es tal que $|T|$ está en paz, $$f_L(T)> \frac{l}{\prod_{\lambda \in T} p_\lambda}-1=\frac{l}{\prod_{\lambda \in T} p_\lambda}-(-1)^{|T|}\,,$$ si $T\subseteq[r]$ es tal que $|T|$ es impar, $$f_L(T)<\frac{l}{\prod_{\lambda \in T} p_\lambda}+1=\frac{l}{\prod_{\lambda \in T} p_\lambda}-(-1)^{|T|}\,.$$ Esto significa que $$ \begin{align} K_L &>\sum_{T\subseteq[r]}\,\left(\frac{(-1)^{|T|}l}{\prod_{\lambda \in T} p_\lambda}-1\right)=l\,\sum_{T\subseteq[r]}\frac{(-1)^{|T|}}{\prod_{\lambda\in T} p_\lambda}-\sum_{T\subseteq[r]}1 \\ &=l\,\prod_{j=1}^r\,\left(1-\frac{1}{p_j}\right)-2^r \geq 6\sqrt{N}\,\prod_{j=1}^r\,\left(1-\frac{1}{p_j}\right)-2^r \\ & \geq 6\sqrt{\prod_{j=1}^r\,p_j}\,\prod_{j=1}^r\,\left(1-\frac{1}{p_j}\right)-2^r=6\,\prod_{j=1}^r\,\left(\frac{p_j-1}{\sqrt{p_j}}\right)-2^r\,. \end{align}$$
Si ordenamos los primos positivos como $q_1<q_2<q_3<\ldots$ entonces $$6\,\prod_{j=1}^r\,\left(\frac{p_j-1}{\sqrt{p_j}}\right) \geq 6\,\prod_{j=1}^r\,\left(\frac{q_j-1}{\sqrt{q_j}}\right)\,.$$ Obsérvese que, para un número entero $j \geq 4$ , $\frac{q_j-1}{\sqrt{q_j}}>2$ . Por inducción en $r$ (donde los casos base $r=1,2,3$ debe comprobarse manualmente), concluimos que $6\,\prod_{j=1}^r\,\left(\frac{q_j-1}{\sqrt{q_j}}\right)>2^r$ por cada $r \in \mathbb{N}$ . Así, $$K_L > 6\,\prod_{j=1}^r\,\left(\frac{p_j-1}{\sqrt{p_j}}\right)-2^r \geq 6\,\prod_{j=1}^r\,\left(\frac{q_j-1}{\sqrt{q_j}}\right)-2^r > 0\,.$$ Ergo, $L$ contiene un elemento $t$ tal que $\gcd(t,N)=1$ .
P.D. Creo que el mayor número entero $m(x,y)$ que no está en $S_{x,y}$ satisface $m(x,y) \in \Theta(xy)$ . Lo que sé es que $m(x,y)\in\Omega(xy)$ y $m(x,y) \in O\left((xy)^{1+\varepsilon}\right)$ para todos $\varepsilon>0$ . Sin embargo, parece un problema extremadamente difícil encontrar una fórmula explícita o asintótica para $m(x,y)$ .
EDIT: Después de algunos experimentos, parece que $m(x,y)\in\Theta\big((xy)\,\ln(xy)\big)$ . A continuación se presenta un gráfico para ilustrar esta conjetura. Aquí, $x,y\in\{1,2,\ldots,50\}$ . El gráfico disperso en azul es el actual $xy$ frente a $m(x,y)$ . La curva roja es la estimación $m(x,y)=(xy)\,\ln(xy)$ . Si tiene una forma eficiente de escribir un código para determinar la relación entre $xy$ y $m(x,y)$ por favor, compártalo con nosotros. Mi código tarda bastante en ejecutarse.