$\left\lceil \frac{n}{k} \right\rceil - \left\lfloor \frac{n}{k} \right\rfloor$ es igual a $0$ o $1$ dependiendo de si $k$ o no se dividen $n$. En otras palabras,
$$\prod_{k=2}^{ \lceil \sqrt{n} \rceil} \left( \left\lceil \frac{n}{k} \right\rceil - \left\lfloor \frac{n}{k} \right\rfloor \right)$$
es igual a $0$ o $1$ dependiendo de si $n$ es compuesto o prime. Así que la función está tratando de describir es la primer función de conteo. Realmente no hay manera más sencilla de describir que "la primer función de conteo," a pesar de que se sabe mucho acerca de su comportamiento asintótico.
Edit: Para funciones como la primer función de conteo, se debe reemplazar la noción de "buena fórmula" con "algoritmo rápido" (el primero es un caso especial de la segunda). La fórmula que usted escribió es equivalente a una muy lenta algoritmo: usar el método de prueba de la división para probar la primalidad de todos los enteros en su rango. Hay mucho más rápido primalidad pruebas que se traduce en mucho más rápido algoritmos para calcular $\pi(n)$, incluso a pesar de que estas pruebas no se traduce fácilmente en apariencia familiar fórmulas.
Edición #2: Como Shreevatsar menciona en los comentarios, tamiz teoría también es relevante para contar o estimar el $\pi(n)$ más directamente, sin tener que hacer todas las pruebas de primalidad.