De una manera, pero tal vez no la más iluminadora manera, es sólo para calcular el $\phi(g)$ por cada $g \in C_8 = \langle x\rangle$.
Así:
$\phi(e) = \phi(x^0) = (y^3)^0 = y^0 = e'\\
\phi(x) = y^3\\
\phi(x^2) = [\phi(x)]^2 = (y^3)^2 = y^6 = e'\\
\phi(x^3) = (y^3)^3 = y^9 = y^6y^3 = y^3\\
\phi(x^4) = (y^3)^4 = y^{12} = (y^6)^2 = (e')^2 = e'\\
\phi(x^5) = (y^3)^5 = y^{15} = y^{12}y^3 = y^3\\
\phi(x^6) = (y^3)^6 = y^{18} = (y^6)^3 = (e')^3 = e'\\
\phi(x^7) = (y^3)^7 = y^{21} = y^{18}y^3 = y^3.$
Esto deja claro que el $\text{ker }\phi = \{e,x^2,x^4,x^6\}$, e $\text{im }\phi = \{e',y^3\}$. Así que la respuesta nos la da, pero no te da ninguna pista de cómo nos podríamos encontrar la respuesta con diferentes grupos cíclicos.
Si intentamos usar tu enfoque para encontrar el kernel, tenemos:
$\phi(x^k) = e' \implies y^{3k} = e' \implies 6|3k$.
Así que esto nos da $2|k$, $k$ debe ser par. Pero eso es sólo la mitad de la historia: a pesar de que ahora sabemos con seguridad:
$\text{ker }\phi \subseteq \{e,x^2,x^4,x^6\}$, no hemos establecido que el kernel no es en realidad más pequeño de este conjunto.
Sin embargo, si sabemos que un núcleo es un subgrupo de (que debe saber), y que cualquier subgrupo de un grupo cíclico es también cíclica, tenemos tres opciones para el kernel:
$\{e\} (= \langle e\rangle)\\
\{e,x^4\} (= \langle x^4\rangle)\\
\{e,x^2,x^4,x^6\} = (\langle x^2\rangle).$
Prudentemente ha eliminado la primera posibilidad, señalando $\phi$ no es inyectiva (desde $8 > 6$). La respuesta anterior muestra $x^2 \in \text{ker }\phi$, que luego se arregla el asunto.
Desde nuestra determinación de los kernel, sabemos exactamente la mitad de los elementos de $C_8$ se asignan a la identidad de $C_6$. De modo que la imagen (que es un subgrupo de $C_6$) tiene al menos dos elementos, y por lo tanto es:
$\{e',y^3\} = \langle y^3\rangle$, $\{e',y^2,y^4\} = \langle y^2\rangle$, o $C_6$.
Desde $y^3 = \phi(x) \in \text{im }\phi$, la segunda opción. Ya podemos escribir , para cualquier extraño $k$, $k = 2t+1$,
está claro que para un extraño $k$:
$\phi(x^k) = \phi(x^{2t+1}) = \phi(x^{2t})\phi(x) = \phi((x^2)^t)\phi(x) = [\phi(x^2)]^t\phi(x) = (e')^t\phi(x) = \phi(x) = y^3$.
Tenga en cuenta que:
$|\text{im }\phi| = 2 = \dfrac{8}{4} = \dfrac{|C_8|}{|\text{ker }\phi|}$. Esto no es un accidente. También es casualidad que $C_8$ se divide perfectamente en aquellos elementos que se asignan a $e'$, y aquellos que se asignan a $y^3$ (y que cada conjunto tiene exactamente el mismo tamaño, ya que estos son cosets).