¿Cómo se aprende esto correctamente?
En realidad es una pregunta bastante difícil y subjetiva, porque algunos métodos de aprendizaje funcionan mejor para unos que para otros.
Mi opinión personal es que no basta con leer un libro sobre un determinado tema, sino que también hay que hacer los ejercicios. Esto puede parecer trivial para la mayoría de los lectores, pero recuerdo que como principiante es fácil pensar que "con leer es suficiente". Cuando eres capaz de probar la mayoría de los ejercicios de un libro, excepto algunos, puede valer la pena buscarlos aquí en MSE, y preguntarlos si nadie lo hizo.
Ahora, una parte de mí lee su pregunta citada anteriormente como
¿Cómo se aprende esto con rigor?
Mizar es un asistente de pruebas que se puede utilizar para que tus pruebas sean verificadas por un ordenador, allí tienes que hacerlo de forma realmente rigurosa y no puedes marcar algo como "obvio", el verificador se quejaría. Podrías aprender Mizar y trabajar con él para aprender a buscar los detalles, si eso ayuda. La Biblioteca Matemática de Mizar ya contiene muchos teoremas relacionados con tu tema en los que podrías verificarlos con más detalle, si quieres. El inconveniente es que se necesita algún tiempo para aprender Mizar y acostumbrarse a él. La teoría de la Gran Oh-Notación comienza aquí . Los resultados incluyen $\mathcal O(\log_2 n)\subsetneq\mathcal O(\sqrt{n})$ , $\mathcal O(n\log_2 n)\subsetneq \mathcal O(n^{1+\varepsilon})$ , $\mathcal O(n^{\log_2 n})\subsetneq \mathcal O(n^\sqrt{n})$ , $k\leq m \implies \mathcal O(n^k)\subsetneq\mathcal O(n^m)$ por nombrar algunos. Mi investigación actual no tiene mucho que ver con los límites, así que me temo que no puedo ofrecer una guía de la Biblioteca Matemática Mizar en este sentido (todavía), pero al menos podría indicarte por dónde empezar a buscar.
En una nota del sitio, con respecto a Big $\mathcal O$ -Notación: se puede definir así
$$g\in\mathcal O(f) :\iff \lim_{n\to\infty}\frac{f(n)}{g(n)}=c\in\mathbb R$$
Así que obtenemos $g\prec f \iff g\in\mathcal O(f) \land f\notin\mathcal O(g)$ , si lo comparas la respuesta de Markus .