Bajo los axiomas habituales de la teoría de conjuntos, la respuesta es negativa. La razón es que uno de estos axiomas, el axioma de fundación, nos permite asignar a cada conjunto una jerarquía $\alpha$ (un número ordinal) que indica en qué etapa de la construcción transfinita del universo apareció el conjunto. Los ordinales tienen la propiedad de que cualquier colección no vacía de ellos tiene un primer elemento, y si un conjunto $x$ pertenece a un conjunto $y$, entonces la jerarquía de $x$ es estrictamente menor que la de $y$ (intuitivamente, un conjunto no puede ser construido hasta que todos sus elementos estén presentes).
Ahora, si $A$ no está vacío, sea $a\in A$ un elemento de menor jerarquía. Entonces no podemos tener $a=(b,c)$ para algunos $b,c\in A$, ya que $(b,c)=\{\{b\},\{b,c\}\}$, por lo que tanto $b$ como $c$ tendrían que tener una jerarquía menor que la de $a$, lo que contradice su minimalidad. Esto muestra que $A$ no puede ser un subconjunto de $A\times A.
El argumento funciona para casi cualquier definición razonable de par ordenado, no solo la habitual.
Sin embargo, la otra contención $A\times A\subset A$ es posible y puede ser fácilmente dispuesta mediante una construcción recursiva: Comienza con cualquier conjunto $A_0$. Deja que $A_1=A_0\cup(A_0\times A_0)$, $A_2=A_1\cup(A_1\times A_1)$, etc. Luego, $A_\omega=\bigcup_n A_n$ satisface que $A_\omega\times A_\omega\subset A_\omega.
(De hecho, en la construcción transfinita del universo de conjuntos, para cualquier etapa límite $\alpha$ tenemos que $V_\alpha\times V_\alpha \subset V_\alpha.)
Por otro lado, es consistente con la negación del axioma de fundación que existan conjuntos $\Omega$ tales que $\Omega=\{\Omega\}$, y esto implica que $\Omega=\Omega\times\Omega.