Creo que mi respuesta será bastante similar a la de Mark, pero me parece algo más elemental.
Como dijo Mark, la abelianización de $G$ es el grupo abeliano generado por dos elementos conmutables de orden 3 $A$ y $B$ (y, obviamente, el mapa de abelianización envía $a$ a $A$ y $b$ a $B$ ). Esto le da una lista completa de $1$ -representaciones irreducibles: hay nueve de ellas, y verás en tu tabla de caracteres la tabla de caracteres de $C_3\times C_3$ .
Por cierto, su lista de clases de conjugación es ahora fácil de entender. Los elementos conjugados son mapeados al mismo elemento en el grupo abelianizado. Como el mapa de abelianización es de 3 a 1 y el número de elementos de una clase de conjugación debe dividir el orden del grupo, las clases de conjugación tienen 1 o 3 elementos.
Un elemento $g$ está solo en su clase de conjugación si está en el centro de $G$ : sólo hay tres elementos de este tipo (puedes comprobarlo a mano o puedes utilizar ejercicios de teoría de grupos pequeños: el centro de $G$ tiene que ser no trivial porque $G$ es un $3$ -y no puede tener más de $3$ elementos porque, si no, $G/ZG$ sería cíclico, lo que obliga a $G$ para ser abeliano). Así que el centro de $G$ tiene tres elementos: $\mathrm{id}$ , $a^3$ y $a^6$ y las otras clases de conjugación son los conjuntos de 3 elementos que son enviados al mismo elemento (no trivial) en la abelianización: $c_{i,j} = \{a^i b^j, a^{i+3} b^j, a^{i+6} b^j\}$ . Tenemos entonces tres clases de un elemento y ocho de tres elementos.
A continuación, puede utilizar el $\sum_\chi (\dim \chi)^2 = |G|$ fórmula para obtener que el $11 - 9 = 2$ las representaciones restantes tienen dimensiones $n_1, n_2 > 1$ tal que $n_1^2 + n_2^2 = 27 - 9 = 18$ . La única solución es $n_1 = n_2 = 3$ .
Ahora, demostraré que los caracteres correspondientes a estos $3$ -representan a la dimensión que se desvanece en el $3$ -clases de conjugación de elementos. En efecto, supongamos que para una de estas clases, $\chi_\rho(c) = z \neq 0$ . Entonces puedo usar una representación unidimensional $\lambda$ para torcer $\rho$ : Obtengo una representación irreducible $\rho \otimes \lambda$ tal que $$\chi_{\rho \otimes \lambda}(c) = \lambda(c) \chi_{\rho}(c).$$ Como estas clases de conjugación de tres elementos son enviadas a un elemento no trivial del grupo abelianizado, puedo encontrar dos representaciones unidimensionales tales que $\lambda_1(c) = j$ y $\lambda_2(c) = j^2$ . Los tres $3$ -representaciones irreducibles de dimensiones $\rho$ , $\rho \otimes \lambda_1$ y $\rho \otimes \lambda_2$ entonces tienen que ser diferentes (sus caracteres toman valores diferentes en la clase de conjugación $c$ ), pero eso es absurdo, porque sólo hay dos $3$ -representaciones irreducibles. (También se puede demostrar este resultado utilizando las condiciones de ortogonalidad).
Todavía tenemos cuatro entradas indeterminadas (los valores de los dos caracteres tridimensionales en las dos clases de conjugación centrales no triviales), pero las condiciones de ortonormalidad son ahora suficientes para determinarlas.
Si $\alpha = 3 e^{\frac{2 \pi i}3}$ y $\alpha' = \overline{\alpha}$ , obtenemos entonces la tabla de caracteres completa (donde $\mathrm{III}_k$ son las ocho clases de conjugación de 3 elementos).
$$\begin{array}{c||ccc|ccc|ccc|cc} &\{\mathrm{id}\} & \mathrm{III}_1 & \mathrm{III}_2 & \mathrm{III}_3 & \mathrm{III}_4 & \mathrm{III}_5 & \mathrm{III}_6 & \mathrm{III}_7 & \mathrm{III}_8 & \{a^3\} & \{a^6\}\\ \hline \hline 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \\ \lambda_1 & 1 & 1 & 1 & j & j & j & j^2 & j^2 & j^2 & 1 & 1 \\ \lambda_2 & 1 & 1 & 1 & j^2 & j^2 & j^2 & j & j & j & 1 & 1 \\ \hline \lambda_3 & 1 & j & j^2 & 1 & j & j^2 & 1 & j & j^2 & 1 & 1\\ \lambda_4 & 1 & j & j^2 & j & j^2 & 1 & j^2 & 1 & j & 1 & 1 \\ \lambda_5 & 1 & j & j^2 & j^2 & 1 & j & j & j^2 & 1 & 1 & 1 \\ \hline \lambda_6 & 1 & j^2 & j & 1 & j^2 & j & 1 & j^2 & j & 1 & 1\\ \lambda_7 & 1 & j^2 & j & j & 1 & j^2 & j^2 & j & 1 & 1 & 1 \\ \lambda_8 & 1 & j^2 & j & j^2 & j & 1 & j & 1 & j^2 & 1 & 1 \\ \hline \rho_1 & 3 & 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 & \alpha & \alpha' \\ \rho_2 & 3 & 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 & \alpha' & \alpha \\ \end{array}.$$ He elegido este extraño orden para las clases de conjugación para que el principal $8 \times 8$ -submatriz es la tabla de caracteres de $C_3 \times C_3$ . Las líneas simples están ahí sólo para enfatizar la estructura de esta mesa.
Debo decir que todavía no estoy satisfecho... He pasado algún tiempo intentando encontrar una definición elegante de la esquiva (¡pero fiel!) representación tridimensional (digo "la", porque las dos representaciones están conjugadas por un elemento del grupo de Galois, así que son "esencialmente" la misma) pero no tengo mucho que mostrar.
La única manifestación "concreta" que he encontrado es que $G$ es el subgrupo de $$\mathrm{Aff}_1(\mathbb Z/9) = \left\{ x \mapsto m x + p \middle| m \in (\mathbb Z/9)^\times, p\in \mathbb Z/9 \right\}$$ correspondiente al subgrupo (índice dos) de $(\mathbb Z/9)^\times$ generado por $4$ (con este isomorfismo, $a$ es $t\mapsto t+1$ y $b$ es $t\mapsto 4t$ ) y que la representación de la permutación en el conjunto de 9 elementos $\mathbb Z/9$ inducido por esta definición se divide como $$\lambda_1 \oplus \lambda_2 \oplus \lambda_3 \oplus \rho_1 \oplus \rho_2,$$ en la que los tres 1-dimensionales $\lambda_i$ son los que se desvanecen en $a$ .
(Tenga en cuenta que como $\alpha$ no es un número entero, no hay esperanza de encontrar $\rho_1$ y $\rho_2$ como representaciones de permutación. Creo que es probable que aparezcan como algo teórico de los números, quizás en relación con el campo ciclotómico $\mathbb Q(\zeta_9)$ pero hasta ahora mis intentos han sido bastante frustrados).