La relación de $1:k$ significa, en particular, que si $\alpha$ es el volumen total de las bolas originalmente en el cuadro, a continuación, $k\alpha$ es el volumen total del espacio vacío que los rodea en el cuadro. En general, si $V_t$ es el volumen total de las pelotas de tenis y $V_b$ es el volumen total de la caja, entonces el volumen total de espacio vacío que rodea las pelotas de tenis en la caja es $V_b-V_t.$ (Esto no tiene nada que ver con la forma de la caja. Simplemente necesitamos la casilla de ser lo suficientemente grande que puede contener todas las pelotas de tenis originalmente en él, y aún así ser cerrado). Lo que esto significa es que el volumen total de la caja (que no se cambia) es $\alpha+k\alpha=(1+k)\alpha.$
Ahora, supongamos que hay $n$ bolas en la caja originalmente, y ya que todos ellos son pelotas de tenis, entonces podemos asumir que todos ellos tienen el mismo volumen. (De hecho, si tenían diferentes volúmenes, no habría manera de hacer el problema, por lo que necesita para asumir.) Decir que el volumen de una pelota de tenis individual es $\beta.$ $\alpha=n\beta,$ por lo que el volumen de la caja es $(1+k)n\beta.$
A continuación, se nos quite un primer número de bolas de la caja, decir $p,$, de modo que ahora hay $n-p$ bolas en la caja, por lo que el volumen total de las pelotas de tenis restante es $(n-p)\beta.$ El volumen total de la caja es de $(1+k)n\beta,$, de modo que el volumen total del espacio vacío alrededor el resto de pelotas de tenis en la caja es $$(1+k)n\beta-(n-p)\beta=n\beta+kn\beta-n\beta+p\beta=(kn+p)\beta.$$ By assumption, then, the ratio $1:k^2$ is the same as the ratio $(n-p)\beta:(kn+p)\beta,$ which is clearly the same as $n-p:kn+p.$ This means that $$kn+p=k^2(n-p)\\kn+p=k^2n-k^2p\\k^2p+p=k^2n-kn\\(k^2+1)p=(k^2-k)n.$$ Now, note that since we removed a prime (so non-zero) number of balls from the box, then our new ratio cannot be the same as our old one--that is, $k^2\ne k$--so we may divide by $k^2-k$ to get $$n=\frac{k^2+1}{k^2-k}p.$$ At this point, I don't think there's much more we can say, unless there's some additional information about $k,p,$ or $n$ that you haven't shared. We can conclude readily that $\frac{k^2+1}{k^2-k}$ is a rational number greater than $1,$ but that doesn't really help to determine what $n$ tiene que ser (al menos, no tan lejos como puedo ver).
Oops! Me he perdido la condición de que $k$ era un entero! Ignorar "Ahora, tenga en cuenta que desde que se retira...por lo que puedo ver)."
Ahora, desde la $k$ es un número entero, entonces $k^2+1$ $k^2-k$ son enteros. En particular, desde la $$(k^2+1)p=k(k-1)n,$$ then $k\mid(k^2+1)p,$ so since $k$ and $k^2+1$ are relatively prime, then we must have that $k\mid p.$ Since $p$ is prime and $k$ is an integer greater than $1,$ it then follows that $k=p,$ so we have $$(k^2+1)p=(k-1)np\\k^2+1=(k-1)n\\k^2+1=kn-n\\k^2-kn+n+1=0.$$ This gives us a quadratic in $k,$ whose solutions are $$\begin{align}k &= \frac{n\pm\sqrt{n^2-4(n+1)}}2\\ &= \frac{n\pm\sqrt{n^2-4n-4}}2.\end{align}$$ Since $k$ is an integer, then we require $\sqrt{n^2-4n-4}$ to be rational, which means it must be a positive integer, say $m.$ Hence, $$n^2-4n-4=m^2\\n^2-4n+4-8=m^2\\(n-2)^2-8=m^2\\(n-2)^2-m^2=8\\\bigl((n-2)+m\bigr)\bigl((n-2)-m\bigr)=8\\(n-2+m)(n-2-m)=8.$$ Since $m$ is a positive integer, then we can conclude that $m=1,$ whence $n=5.$ (Se los dejo a ustedes para mostrar esto.)