Si entiendes la noción de funciones acotadas, no es un salto demasiado grande. Por ejemplo, $x\mapsto \sin x$ está acotado. Ahora, sustituya $\Bbb R$ con un cierto espacio de funciones, y llamar a las funciones que actúan sobre ese espacio "operadores" (podríamos seguir llamándolas funciones pero por razones obvias sería confuso).
Un operador acotado es uno de esos operadores cuyo "tamaño" o "longitud" de las imágenes, pero más técnicamente norma no se permite que crezca demasiado (en cuanto a cómo definir un concepto de "longitud" para los elementos de un espacio de funciones, eso es para otra discusión).
La única distinción que hay que hacer es que no pedimos constantes globales, como es $1$ para la función seno; una constante diferente para diferentes subconjuntos del espacio es suficiente. Un ejemplo de esto en los reales sería $x\mapsto 2x$ que no está acotado globalmente, sino en cada $[x-\varepsilon,x+\varepsilon]$ lo es.
Hay algunas particularidades más, como que "operador acotado" sólo se refiere a lineal operadores en la mayoría de los casos. Además, bueno, debería ser obvio que he presentado algo que está lejos de ser preciso o riguroso. Pretendo que sea un esbozo. Tampoco tengo ni idea de mecánica cuántica ni de cómo se relaciona esto con ella.
Ah, y un sin límites es sólo un operador que no está necesariamente acotado :)