Voy a intentarlo. Dado que esta es una configuración de muchas partículas, tenemos que [q_i, q_j] = 0 y [p_i, p_j]=0 y [q_i, p_j] = i \delta_{ij} donde los índices etiquetan las partículas. Por lo tanto, la integral se volverá separable. Es decir, tenemos que
\begin{align*} &\tilde{\mathrm{tr}}\left\{f(\mathbf {\hat q}, \mathbf {\hat p})\right\}\equiv\int_{\mathbb{R}^N} \mathrm d\mathbf {\hat q} \left\langle\mathbf q\middle|f\left(\mathbf {\hat q} ,-i\frac{\partial}{\partial {\mathbf {\hat q} }}\right) \middle|\mathbf q\right\rangle\\ &=\int dq_1\cdots\int d q_N \langle q_1|\langle q_2| \cdots\langle q_N| \left(\hat q_1^{n_1}\cdots \hat q_N^{n_N}\left(-i\frac{\partial}{\partial \hat q_1}\right)^{m_1}\cdots \left(-i\frac{\partial}{\partial \hat q_N}\right)^{m_N} | q_1 \rangle |q_2\rangle \cdots |q_N\rangle \right) \end{align*}
donde he hecho uso de la definición del producto directo en un espacio de Hilbert para N partículas.
Dadas nuestras relaciones de conmutación, estas integrales son separables. Es decir,
\begin{align*} &\tilde{\mathrm{tr}}\left\{f(\mathbf {\hat q}, \mathbf {\hat p})\right\}=\prod_{i=1}^N \int dq_i \langle q_i| \hat{q}_i^{n_i}\hat{p}_i^{m_i}|q_i\rangle \end{align*}
Ahora podemos ocuparnos de esto. primero recordemos que \langle q_i| \hat{q}_i = \langle q_i| q_i entonces
\begin{align*} &\tilde{\mathrm{tr}}\left\{f(\mathbf {\hat q}, \mathbf {\hat p})\right\}=\prod_{i=1}^N \int dq_i \int dp_i \langle q_i| q_i^{n_i}\hat{p}_i^{m_i}|q_i\rangle \end{align*}
Para ocuparnos del momento, insertamos la unidad resuelta en la base de momento de la partícula i de modo que
\begin{align*} &\tilde{\mathrm{tr}}\left\{f(\mathbf {\hat q}, \mathbf {\hat p})\right\}=\prod_{i=1}^N \int dq_i \int dp_i \langle q_i| q_i^{n_i}\hat{p}_i^{m_i}|p_i \rangle \underbrace{\langle p_i|q_i\rangle}_{\frac{e^{-iq_ip_i}}{\sqrt{2\pi}}}\\ &=\frac{1}{(2\pi)^{\frac{N}{2}}}\prod_{i=1}^N \int dq_i \int dp_i q_i^{n_i} p_i^{m_i} \langle q_i|p_i \rangle e^{-ip_i q_i}\\ &=\frac{1}{(2\pi)^{\frac{N}{2}}}\prod_{i=1}^N \int dq_i \int dp_i q_i^{n_i} p_i^{m_i} e^{ip_i q_i} e^{-ip_i q_i}\\ &=\frac{1}{(2\pi)^{\frac{N}{2}}}\prod_{i=1}^N \left(\int_{\mathbb{R}} dq_i q_i^{n_i}\right)\left( \int_{\mathbb{R}} dp_i p_i^{m_i} \right) \end{align*}
entonces parece que a menos que impongamos un límite al momento y nos restrinjamos a una región finita del espacio, lo que tenemos es simplemente un gran producto de divergencias, y por lo tanto no es un mapa bien definido de \mathcal{H}\to \mathbb{R}.
En cuanto a tu pregunta sobre el factor de ponderación del hamiltoniano, creo que la respuesta debería depender de cuál sea el hamiltoniano real, pero si crees que eso es incorrecto, puedo reconsiderarlo e intentar abordarlo para \hat{H} general.