El truco que esbozaste en la pregunta tiene algunos inconvenientes como ya muestra el ejemplo de los números naturales: considera las dos fórmulas $$\varphi_1(z) \equiv \forall x\ s(x) \ne z$$ $$\varphi_2(z) \equiv \forall x\ x+z = x$$ sabemos que $\{\varphi_1(0),\varphi_2(0)\}$ es una subteoría de la PA, si tratas de reemplazar estos dos axiomas de la manera que describiste, obtienes la teoría con axiomas $$\exists z\ \varphi_1(x) \land \forall y\ \varphi_1(y) \rightarrow y=z$$ $$\exists z\ \varphi_2(x) \land \forall y\ \varphi_1(y) \rightarrow y=z$$ que no es equivalente a la anterior, eso es porque se podrían tener modelos de esta teoría con dos elementos distintos que satisfagan por separado los dos axiomas.
Podrías resolver este problema tomando el axioma $$\exists z \varphi_1(z) \land \varphi_2(z) \land \dots$$ pero esto no ayuda cuando tienes infinitas fórmulas $\varphi_i(z)$ .
Aunque no tengo una prueba por el momento, me temo que no se pueden eliminar las constantes del lenguaje a menos que se añadan al lenguaje símbolos unario-predicados con algunos axiomas que permitan obtener una teoría equivalente.
Por otro lado las constantes son increíblemente útiles porque permiten construir las teorías de Henkin que son teorías $T$ es tal que para cada fórmula $\varphi(x)$ si $T \vdash \exists \varphi(x)$ entonces hay una constante $c$ de tal manera que $T \vdash \varphi(c)$ .
Estas teorías son el instrumento clave para probar el teorema de la integridad: de hecho, es fácil demostrar que para una teoría coherente de Henkin el modelo de términos, es decir, la estructura construida a partir de los términos cotizados hasta una igualdad demostrable, es en realidad un modelo de la teoría.
Pero eso no es todo, muchas construcciones en la teoría de modelos hacen uso de constantes. Por ejemplo, para cada estructura $M$ en un idioma determinado $L$ es posible definir el diagrama elemental que es una teoría en un idioma $L'$ obtenido por $L$ añadiendo una constante para cada elemento en $M$ los modelos de esta teoría son básicamente los mismos que los de la extensiones elementales de $M$ .
Hay otras aplicaciones de las constantes dentro de la lógica, pero espero que estos ejemplos le hayan dado una idea de por qué las constantes materia.