Formar la matriz de coeficientes extendida y aplicar la reducción de Gauss en la medida de lo posible.
Para empezar, si $\,p=5\,$ entonces la primera ecuación es $\,3y=4\Longrightarrow y=4\cdot 3^{-1}=4\cdot 2=3\,$ y sustituyendo en la ecuación 2 obtenemos $\,3x+3=1\Longrightarrow 3x=-2=3\Longrightarrow x=1\,$ , por lo que hay una solución única: $\,(1,3)\,$
Si $\,p\neq5\,$ obtenemos
$$\begin{pmatrix}5&3&4\\3&6&1\end{pmatrix}\stackrel{R_1/5}\longrightarrow \begin{pmatrix}1&3/5&4/5\\3&6&1\end{pmatrix}\stackrel{R_2-3R_1}\longrightarrow \begin{pmatrix}1&3/5&4/5\\0&21/5&-7/5\end{pmatrix}$$
De aquí obtenemos
$$R_2\Longrightarrow \frac{21}{5}y=-\frac{7}{5}\Longrightarrow 21y=-7\stackrel{\text{if}\,\,p\neq 3}\Longrightarrow y=-\frac{7}{21}=-\frac{1}{3}$$
y luego
$$R_1\Longrightarrow x+\frac{3}{5}y=\frac{4}{5}\Longrightarrow x=\frac{4}{5}+\frac{3}{5}\frac{1}{3}=1$$
y la solución para $\,p\neq 3,5\,$ es $\,\displaystyle{\left(1\,,\,-\frac{1}{3}\right)}\,$
Cuando $\,p=3\,$ el sistema es claramente incoherente (¡cuidado con la segunda ecuación!), mientras que para $\,p=7\,$ como muestra el proceso de reducción que hemos llevado a cabo al final en la segunda fila $\,(0\,,\,0\,,\,0)\,$ obtenemos una única ecuación (linealmente independiente) en dos incógnitas y, por tanto, hay varias soluciones: cada par de la forma
$$\left(x\,,\,y\right)\,\,\,,\,\,s.t.\,\,\,5x+3y=4\pmod 7$$