$O(g(x))$ es una clase de funciones - piense en ello como una "propiedad" de las funciones que puede tener. Por el literal interpretación del signo igual, "$f(x) = O(g(x))$" debe interpretarse como "$f$ es literalmente igual a una cierta clase de funciones." Pero las funciones y las clases de funciones son diferentes tipo de cosas - incluso si esto era lo que quería decir, es como decir que un particular, apple es igual a una cesta de manzanas. Pero, ¿qué nos referimos cuando decimos "$f(x) = O(g(x))$" es que $f$ pertenece a la clase de funciones $O(g(x))$ - lo, $f(x) \in O(g(x))$.
La razón por la que el uso de $=$ en lugar de $\in$ es debido a que, dada la particular de los usos de la grande -$O$ (notación y poco-$o$ notación, si usted está familiarizado con eso) $=$ es enormemente más conveniente. Decimos cosas como $x^3 + O(x) = O(x^3)$, por ejemplo; no queremos decir que $O(x)$ es un objeto que puede ser añadido a $x^3$, o que, cuando la adición se hace realmente hacemos la clase de funciones $O(x^3)$, acabamos de decir que para cualquier función de $f \in O(x)$, la función de $x^3 + f(x)$ es un miembro de $O(x^3)$. Pero si yo quería escribir que en más estándar de notación, yo tendría que decir algo como $\{x^3 + f(x) \mid f(x) \in O(x)\} \subseteq O(x^3)$. Este es un inconveniente para escribir y difícil de leer, así que prefiero el "resbaladizo" la notación $x^3 + O(x) = O(x^3)$.
Sin embargo, no estoy seguro de que me diría que frases como $f(x) = O(g(x))$ están mal. Por convención, son perfectamente correctas - es sólo que cuando una expresión incluye $O$ (o $o$), $=$ no significa lo que significa. Eso está bien.