Ambos. A la temperatura $T$ (temperatura absoluta en kelvins), cada "grado de libertad" lleva una cantidad de energía igual a $kT/2$ en promedio. Por grado de libertad se entiende una coordenada cartesiana de un átomo -u otra partícula efectivamente "libre"- o una coordenada angular de un objeto en rotación cuyas rotaciones pueden distinguirse realmente del resto.
En el caso de los gases, esta energía se almacena principalmente en la energía cinética de las moléculas individuales (o átomos). Cuanto más caliente está el gas, más se mueven, $mv^2/2\sim kT$ en promedio. En el caso de los líquidos, es similar, salvo que las moléculas chocan constantemente con otras. En el caso de los sólidos, la energía se almacena en las vibraciones de los átomos o las moléculas, pero éstas vibran sobre todo en las proximidades de las posiciones prescritas, como una especie de osciladores armónicos.
En el mismo momento, a la temperatura $T$ todos los objetos -sólidos, líquidos, gases, etc. - también irradian (un gran número de) fotones y cualquier otra radiación correspondiente a esta temperatura. Bueno, eso es cierto para los cuerpos negros: la emisividad puede verse afectada por una función dependiente de la frecuencia para los cuerpos "coloridos" o "brillantes" o "reflectantes".
Siempre que la energía se almacene sólo en una de las vibraciones o radiaciones de los tipos enumerados anteriormente (o cualquier otra forma de energía que pueda tener un sistema), significa que el sistema no está en equilibrio térmico, pero hará todo lo posible para alcanzar el equilibrio, por lo que la energía (calor) se desviará de los grados de libertad que llevan mayor energía que otros, hacia estos otros.