Sospecho que parte del punto podría ser que en el lado derecho, $n$ no aparece dentro de los valores de $\chi$, y donde $n$ aparece podría ser un número real, por lo que esta ecuación puede servir como una forma de definir $\chi(n)$ cuando $n$ es un número real.
Compara con la ecuación $$ n! = \int_0^\infty x^ne^{-x}\,dx $$ para $n \geq 0$ en $\mathbf Z$. En el lado derecho, $n$ puede ser un número real no negativo, por lo que podemos usar el lado derecho para definir $n!$ cuando $n$ es un número real no negativo, por ejemplo, $(1/2)! := \int_0^\infty \sqrt{x}e^{-x}\,dx$.
EDIT: Miré en el Capítulo 9 de Davenport, y explica directamente en el segundo párrafo de ese capítulo por qué quiere una fórmula como esa para $\chi(n)$:
Necesitamos la expresión de $\chi(n)$ como una combinación lineal de exponenciales imaginarias $e_q(mn)$, que usamos anteriormente en §1 [(4) y (5)]
La fórmula por la que preguntas fue derivada cuando $(n,q) = 1$, pero Davenport muestra inmediatamente después que cuando $\chi$ es primitiva esa fórmula es también verdadera cuando $(n,q) > 1$: es verdadera para todos los enteros $n$, sin importar cuál sea $(n,q)$. En las pp. 66-67, Davenport usa esa fórmula para mostrar que la suma de Gauss de cada carácter primitivo módulo $q$ tiene valor absoluto $\sqrt{q}$, y en las siguientes páginas utiliza esta fórmula para $\chi(n)$ para todos los $n$ (cuando $\chi$ es primitiva) para obtener la ecuación funcional de la función $L$ de Dirichlet de $\chi$.
En resumen, la respuesta a tu pregunta es: ten paciencia. ¡Simplemente sigue leyendo, presta mucha atención, y verás la fórmula para $\chi(n)$ utilizada!