Primero:
Sé cómo demostrar que si $f,g,h$ $F$ $F$ es asociativa
Esa frase no tiene sentido. La conclusión, "$F$ es asociativa" está desconectada de la premisa, "si $f,g,h$$F$." El hecho de que la premisa introduce la notación para tres cosas que nunca más se mencionó ($f$, $g$, y $h$) debería decirte que hay algo muy malo con esa frase.
Por otra parte, "asociativo" es una propiedad de las operaciones binarias, no de conjuntos. Por lo $F$, que no es una operación, no puede "ser asociativa."
Lo que hay que mostrar es que la función de la composición es asociativa; es decir, se necesita demostrar que si $f$, $g$, y $h$ son funciones que pueden ser compuestos, a continuación, $(f\circ g)\circ h = f\circ (g\circ h)$ como funciones.
Entonces usted necesita mostrar que $F$ es cerrado bajo la función de composición; es decir, que si $f$ $g$ son elementos de $F$, entonces podemos calcular $f\circ g$ e $f\circ g$ también estará en $F$.
Esas dos cosas va a mostrar que $F$ es semigroup en la función de la composición.
Si su definición de "semigroup" requiere su conjunto a no vacío, entonces usted también puede querer mostrar que $F$ es no vacío de manera explícita que muestra un elemento de $F$.
Segundo:
Puedo mostrar que $F$ tiene un elemento de identidad con $g=x$ tal que $f(x)(g)=(g)((f(x))=f(x)$.
De nuevo, esto está bastante mal escrito hasta el punto de la ininteligibilidad (aunque uno puede adivinar lo que quería escribir, lo que usted escribió es una tontería). $g=x$ no describe una función. Si queremos describir una función, usted querrá decir "la función de $g\colon \mathbb{R}\to\mathbb{R}$ definido por la regla $g(x)=x$ todos los $x\in \mathbb{R}$" o palabras a ese efecto. También, "$f(x)(g)$" es una tontería como escrito, como es $(g)(f(x))=f(x)$. En su lugar, lo que hay que mostrar es que el $f\circ g = f$ $g\circ f = f$ todos los $f\in F$. Que equivale a mostrar que para cada $x\in\mathbb{R}$ $(f\circ g)(x) = f(x)$ y $(g\circ f)(x) = f(x)$.
En tercer lugar: suponiendo que usted ha hecho con éxito que, a continuación, piensa en lo que significaría para una función $f$ a tiene un inverso. Inversa de qué tipo? Inversa con respecto a su composición. Así, una función de $f\colon\mathbb{R}\to\mathbb{R}$ tiene una inversa en $(F,\circ)$ si y sólo si existe $h\colon\mathbb{R}\to\mathbb{R}$ tal que
$$h\circ f = g = \mathrm{id}_{\mathbb{R}}\quad\text{and}\quad f\circ h = g = \mathrm{id}_{\mathbb{R}}.$$
Ahora, ¿conoces alguna de las propiedades que una función debe satisfacer para tener una relación inversa en el sentido de la composición? Se puede producir una función de $\mathbb{R}$ que hace no tienen esas propiedades, y por lo tanto no es invertible? Si es así, ¿qué concluyes?