Nota: esta respuesta ha sido editada para poner el remate primero para que el resto esté más motivado)
El chiste Creo que la definición que te han dado es mala, ya que normalmente se empieza el estudio de los anillos de enteros (cuadráticos o no) con condiciones como " integralmente cerrado Nötherian dominio en el que todo ideal primo es maximal", o "todo ideal es un factor único en ideales primos", o algo más conceptual o basado en propiedades. Después de eso, se suele hacer un trabajo (a menudo muy duro) para determinar la descripción explícita. En tu caso, se te da la descripción explícita (para el caso cuadrático) de entrada, y la falta de simetría -como has observado- puede ser bastante sorprendente, hasta que te das cuenta de que hay una buena razón para ello. En tu caso, el problema es que los conjuntos que sugieres que tienen más sentido no satisfacen esa parte "integralmente cerrada" de la definición, por ejemplo $\Bbb Z[\sqrt{5}]$ es no integralmente cerrado. La razón más probable es que estés en una clase básica en la que todavía no se han enseñado los conceptos relacionados con los anillos de enteros, pero como son un caso tan básico, te están dando algo de práctica sin la motivación (una práctica confusa, pero útil si su objetivo es prepararte para eventualmente estudiar el tema más a fondo).
Dado que el cierre integral se trata de cosas en su campo que satisfacen polinomios mónicos, usted hace algunos cálculos para obtener la descripción que se le dio como definición.
Los cálculos detrás de la definición que se le dio
$$\mathcal{O}_K=\left\{\alpha=a+b\sqrt{D} : a,b\in\Bbb Q, \exists \text{ monic } p(x)\in\Bbb Z[x]\text{ s.t. } p(\alpha)=0\right\}.$$
Observamos que el polinomio mínimo para $a+b\sqrt{D}$ , suponiendo que $b\ne 0$ es sólo
$$p_{\alpha}(x)=x^2-2ax+(a^2-Db^2)$$
porque es mónico, y tiene $a+b\sqrt{D}$ como raíz por inspección (la otra raíz es $a-b\sqrt{D}$ ). Para que esto sea integral, necesitamos $2a\in\Bbb Z$ y $a^2-Db^2\in\Bbb Z$ y nada más.
si $2a=2j+1$ es impar, entonces calculamos
$$a^2-Db^2 = {4j^2+4j+1-4Db^2\over 4}$$
Si $b\in\Bbb Z$ no es un número entero, ya que $4j^2+4j-4Db^2+1\equiv 1\mod 4$ por lo que el numerador no es divisible por el denominador, por lo que debe ser que $2b=2k+1$ por lo que tenemos
$$a^2-Db^2={4(j^2+j-Dk^2-Dk)+1-D\over 4}$$
y para que sea un número entero, es necesario y suficiente que $D\equiv 1\mod 4$ . Vemos entonces que $\mathcal{O}_K$ es el anillo de enteros exactamente como en su definición, ya que en todos los demás casos $a,b\in\Bbb Z$ --recuerda, la única manera $2a\in\Bbb Z$ pero $a\not\in\Bbb Z$ fue en el caso en el que concluimos $2b\in\Bbb Z, b\not\in\Bbb Z$ y $D\equiv 1\mod 4$ .
Para el estudiante ambicioso
Por qué nos importa el cierre integral
La razón más esencial es que se obtiene el ( generalizado ) teorema fundamental de la aritmética . Sin cierre integral, no se puede garantizar la factorización única porque los ideales primos no son siempre máximos, es decir, sin cierre integral su anillo no es un Dominio de Krull . No podemos tomar cualquier anillo que parezca natural, tenemos que hacer el que las definiciones matemáticas nos lleven. (De nuevo, las definiciones generales, no la muy específica que tienes en este caso).