Aquí tienes dos caminos.
Primero: Supongamos que $f$ está limitada
Al hacer eso, usted tiene agradable, real $\sup$ y $\inf$ de la función.
No es tan difícil demostrar, mediante el teorema del valor intermedio, que una función continua inyectiva en un intervalo es estrictamente decreciente o estrictamente decreciente. WLOG, podemos suponer que es creciente, y entonces es fácil demostrar que $\lim\limits_{x \to b}f(x)=\sup\limits_{x \in (a,b) } f$ y $\lim\limits_{x \to a} f(x)=\inf\limits_{x \in (a,b) } f$ .
Segundo: Amplíe su codominio
Si se considera la ampliación de $f$ a la recta numérica ampliada, es decir, $f:(a,b) \rightarrow [-\infty,\infty]$ entonces $\sup$ y $\inf$ existirá, independientemente de $f$ estar delimitado o no. Y puede ampliar $f$ a una función continua en $[a,b]$ cualquier caso, teniendo en cuenta que puede acabar teniendo $f(a)$ o $f(b)$ en $\infty$ o $-\infty$ .
Ahora, respondiendo directamente a su pregunta: Los límites pueden no existir si $f$ no está acotada. Si lo está, lo están, por lo que dije en "Primero". Si $f$ no está acotado, puede que no existan, pero se puede "arreglar" el problema utilizando lo que he dicho en "Segundo".