Estoy totalmente de acuerdo con los que ya han sugerido que se utilicen las abreviaturas estándar (utilizadas en MathSciNet y Zentralblatt Math.), que es lo que sugieren/requieren explícitamente varias revistas de matemáticas (aunque creo que no siempre se cumple).
Algunas razones (adicionales).
a. Mientras que es seguro asumir que todos los humanos que quieran leer su artículo entenderán lo que significa "Trans. de AMS", esto es mucho menos claro para los "lectores no humanos" que podrían conocer sólo la abreviatura oficial "Trans. Amer. Math. Soc.". Por ejemplo, en MathSciNet las listas de referencias están (en parte) incluidas y cruzadas; también lo hacen algunas revistas, y luego están los proveedores de estadísticas de citas (que, mientras existan y se utilicen, deberían ser al menos precisas). Tengo entendido que todo esto se hace automáticamente, en la medida de lo posible. El uso de diferentes abreviaturas dificulta considerablemente esta tarea.
b. Como se ha dicho para su ejemplo concreto "Trans. de AMS" creo que hay poco riesgo de confusión. Incluso, si se da un paso más y se escribe simplemente "TAMS", lo más probable es que la gente lo entienda. Sin embargo, en el caso de las revistas menos conocidas universalmente, las cosas empiezan a ser menos claras, e incluso entonces puede ser confuso. Una vez me costó entender que "CPC" se refiere a "Combinatorics, Probability and Computing" con la abreviatura oficial "Combin. Probab. Comput.". No habría tenido ningún problema. (Y, cuando tuve ese problema, era muy consciente de la existencia de esta revista, sólo que no podía relacionarla instantáneamente con "CPC").
c. ¿Por qué, entonces, no los nombres completos? No tengo ninguna opinión firme en contra. Pero i. no es lo que piden las revistas. ii. pueden ser muy largos. iii. algunas revistas no son tan conocidas con su nombre completo. De nuevo una anécdota personal: En una lista de revistas (de todo tipo de temas, pero una lista incompleta) buscaba la revista "Combinatorica", lo que encontré fue el nombre completo "Combinatorica. An International Journal on Combinatorics and the Theory of Computing". Antes de comparar el número ISSN no sabía si era la revista que buscaba o era otra cosa. (Bueno, podría y debería haber sabido el nombre completo, pero nunca me había fijado en él).
d. Una revista que es muy conocida ahora, y por lo tanto será reconocida por una abreviatura ad-hoc, puede dejar de existir o ser renombrada. Entonces, tal vez, en varias décadas (y esto no es un tiempo excesivamente largo para un artículo matemático) esta revista ya no será conocida, y una abreviatura informal causará problemas. (Con una oficial, uno siempre puede buscarla).
e. Algunas revistas sólo tienen un ligero cambio de nombre, diferentes series y similares. Peor aún, diferentes revistas tienen nombres similares. O, a la inversa, aunque se cambie el nombre de la revista, se mantiene la misma abreviatura (por continuidad). Si no se tiene cuidado, se pueden pasar por alto estas pequeñas diferencias a la hora de confeccionar las propias abreviaturas.
Por poner un ejemplo: "Archiv der Mathematik" se abrevia oficialmente como "Arch. Math. (Basilea)'. Archivum Mathematicum (Brno)" es la abreviatura oficial de "Arch. Math. (Brno)". En caso de que sólo se conozca uno de ellos, "Arch. Math.' podría parecer la abreviatura natural para cualquiera de ellas. (Esto último es también un ejemplo para otra cosa mencionada en este punto y también en el c.: el nombre que he dado fue el nombre oficial (largo) desde 88-90; antes era 'Spisy Prírodovedecké Fakulty University J. E. Purkyne v Brne. Archivum Mathematicum' y ahora es 'Universitatis Masarykianae Brunensis. Facultas Scientiarum Naturalium. Archivum Mathematicum")
Así que, en resumen, también sugiero utilizar las abreviaturas estándar.
En cuanto a los enlaces arXiv: Número arXiv y mathscinet tiene cierta relación (no con la pregunta en sí, sino con el debate posterior).