Tengo representaciones unitarias de un grupo infinito (pero finitamente generado) sobre un espacio de Hilbert de dimensión infinita. Me gustaría demostrar que dos representaciones no son equivalentes. Supongo que tendría que encontrar alguna propiedad invariante de una representación y luego demostrar que las dos representaciones no comparten la misma propiedad invariante. Sin embargo, después de mucho buscar en Internet, no pude encontrar ningún invariante que se aplique a las representaciones de un grupo infinito. Todo lo que pude encontrar fueron invariantes de representaciones de grupos finitos.
¿Existen invariantes de representaciones de grupos infinitos? ¿Existen otros métodos para demostrar que dos representaciones no son equivalentes? También en general, me gustaría aprender más sobre representaciones de grupos infinitos. ¿Podrías recomendarme algunos recursos que pueda consultar?