Escribir fracciones como $\frac{1}{3} \pmod{8}$ es lo mismo que escribir $3^{-1} \pmod{8}$ que es el inverso de $3$ módulo $8$.
En otras palabras, cuando escribes $\frac{a}{b} \pmod{n}$ te estás refiriendo a un número $k$ tal que $bk \equiv a \pmod {n}$ pero debes prestar atención a que esta fracción está definida si y solo si $\gcd(b,n)=1$. En otras palabras, el denominador debe ser coprimo al módulo.
Para encontrar a qué número módulo $n$ representa esta fracción, necesitas evaluar $b^{-1}$. Puedes hacerlo usando el algoritmo de Euclides para resolver la ecuación de Bézout $bx + ny = 1$. El $x$ en esta ecuación te dará $b^{-1}$. Si conoces la factorización de $n$ también puedes usar la función totient de Euler notando que $b^{-1} \equiv b^{\varphi(n)-1} \pmod{n}$. Después de saber cuál es $b^{-1}$ verás que $k \equiv a \dot b^{-1} \pmod {n}$.