Vivir en un mundo contradictorio: ¿categorías o conjuntos?
En la actualidad, la ambición de ofrecer unos fundamentos globales para las matemáticas, libres de ambigüedades y contradicciones, que abarquen todo el espectro de las actividades matemáticas, se ha visto cuestionada por los conocidos fallos inducidos por el uso y el abuso de las "grandes" categorías. A menos que estemos dispuestos a abandonar una gran parte de las tendencias fructíferas de la investigación matemática, tenemos que enfrentarnos de frente a la realidad (o pesadilla) de unas matemáticas contradictorias. Sugiero una posible salida utilizando una teoría de tipos para formalizar las pruebas de la teoría de categorías.
El fantasma de la contradicción
En su artículo pionero sobre "Transformaciones naturales", Eilenberg y Mac Lane destacaron la importancia de un nuevo tipo de construcciones, ahora conocidas como funtores. Hasta ahora las construcciones conocidas en geometría asociaban dos clases elemento a elemento, por ejemplo un círculo en un plano y su centro. Los ejemplos procedentes de la topología eran de un tipo diferente, asociando globalmente a un espacio otro espacio (como el espacio de bucles) o invariantes algebraicos (como la homotopía o los grupos de homología). También se planteó la cuestión de la naturalidad de algunas transformaciones, como la identificación de un espacio vectorial de dimensión finita con su dual (no natural) o su bidual (natural). La insistencia en las transformaciones conduce a un estilo de demostración "sin puntos". De nuevo, en su descripción axiomática de los grupos de homología de un grupo (o de un álgebra de Lie), tal como la dio en el Seminario de Cartan de 1950, Eilenberg considera una "construcción" que a un grupo G asocia los grupos de homología Hi(G;Z), por ejemplo. Pero no es explícito sobre cómo expresar tal construcción en el paradigma aceptado de la teoría de conjuntos. En el libro de Cartan-Eilenberg también hay una descripción "sin puntos" de la suma directa de dos módulos. Así que, en la mente de los padres fundadores de la teoría de categorías, esta teoría era una especie de superestructura sobre la matemática existente, más bien al nivel de la metamatemática.
En su documento Tohoku, que marcó una época, Grothendieck invirtió esta tendencia. Inspirado por el trabajo de Cartan y sus colaboradores sobre las gavillas y su cohomología, Grothendieck introdujo la cabeza en los métodos infinitos en la teoría de categorías. Su propósito era utilizar los límites directos para definir los tallos de las gavillas de forma categórica, ya que se conocían ya muchos ejemplos de gavillas en una categoría, como gavillas de grupos, de anillos, etc. También uno de los mayores descubrimientos de Grothendieck en este trabajo es la existencia de objetos inyectivos en una categoría razonable (que satisface el axioma AB 5*). Volviendo a este nivel abstracto, uno puede utilizar libremente las gavillas inyectivas, simplificando así en gran medida la teoría general de las gavillas.
Con ello, Grothendieck combinaba dos líneas de pensamiento: los métodos más bien metamatemáticos (por tanto, finitos) de Eilenberg y Mac Lane, con los métodos infinitos de la topología y el álgebra de Bourbaki, centrados en los límites infinitos (directos o inversos) y los problemas universales. Este matrimonio fue extraordinariamente fructífero para las matemáticas, pero hubo que pagar un precio. El razonamiento categórico era "pruebas sin puntos", pero los nuevos métodos exigían considerar las totalidades reales (no potenciales) de todos los espacios, o todas las transformaciones continuas entre espacios. Inmediatamente resurgieron los viejos fantasmas de las paradojas de la teoría de conjuntos, como la antinomia Burali-Forti del conjunto de todos los conjuntos, o la antinomia de Richard relativa a los objetos definibles. Un desarrollo natural condujo a nociones fundamentales, como límite de un funtor, funtor representable y lema de Yoneda, par adjunto de funtores. Pero la enfermedad lógica permaneció, conduciendo, por ejemplo, a una prueba cuestionable de la existencia general de un funtor adjunto.
Si la teoría de categorías puede formularse fácilmente en un marco de lógica de primer orden (y esto llevó a Lawvere a formular la teoría de conjuntos con este espíritu), y si la teoría de conjuntos recibió una axiomatización adecuada como el sistema Zermelo-Frenkel, la combinación de ambos resultó explosiva. Se intentaron algunos remedios, como el uso de universos por parte de Grothendieck y Gabriel-Demazure. Pero esto es muy artificial, como todos los métodos que utilizan un dominio universal, y nos lleva a los difíciles (e irrelevantes) problemas de los grandes cardinales en la teoría de conjuntos.
Por el momento, la situación no es muy diferente a la que prevalecía en el siglo XVIII en el cálculo infinitesimal. Todo el mundo sabía que la existencia de cantidades infinitesimales era cuestionable y que su uso conducía fácilmente a contradicciones. Hoy en día, conocemos los puntos peligrosos, en los que no hay que nadar, y tratamos de mantenernos alejados mientras continuamos nuestra exploración.
Un posible exorcismo de fantasmas
Me gustaría sugerir una posible salida a este impasse. Me parece que el pecado inicial es la opinión predominante sobre la ontología subyacente de las matemáticas. Desde un punto de vista técnico, la propuesta de Hilbert de codificar todo objeto matemático como un conjunto ha sido extremadamente exitosa. Después de la exitosa aritmetización del análisis, representando (de varias maneras: cortes de Dedekind,...) un número real como una colección (o conjunto) de enteros, o pares de enteros, ..., todo tipo de construcciones matemáticas cedieron al paradigma de la teoría de conjuntos. Pero en la forma de pensamiento aceptada, un conjunto sólo se define después de haber creado y puesto bajo control todos sus elementos. Así, hablar del conjunto de los gatos (enteros) significa que se podría llamar al conjunto de todos los gatos (enteros). Así, cuando hablamos de la categoría de los grupos, deben estar presentes todos los grupos imaginables. Este es el punto de vista de los infinitos reales en sentido extensional. La indecidibilidad de la hipótesis del continuo representa para mí una mancha ineludible de este punto de vista "realista" sobre el infinito.
El nuevo enfoque debe basarse en un esquema de comprensión. Es decir, un conjunto se describe por la propiedad característica de sus elementos: el conjunto de gatos se define por la propiedad de ser un gato, descrita con la mayor precisión posible, sin ninguna afirmación sobre la totalidad de los gatos existentes. Esta es una práctica habitual en los lenguajes tipados de la informática. Normalmente, un programa comienza con instrucciones como
x : real
n : número entero
t : booleano
... ... ...
declarando variables de varios tipos (o clases). Un lenguaje de este tipo incorpora reglas para crear nuevos tipos a partir de los antiguos, por ejemplo el tipo
entero → real
es el tipo de secuencias de números reales. Normalmente, también se dispone de un principio de abstracción, en forma de operación λ
λx.t
para describir una función que asocia a x el valor t (descrito por una fórmula que contiene a x). Por tanto, el marco es un λ-calculus tipificado .
Recientemente se han producido avances en la informática teórica, en forma de diversos asistentes de pruebas (HOL Light, Mizar, Coq, Isabelle,...). Son capaces de crear pruebas completamente formalizadas de las matemáticas "reales", como el teorema de los números primos, y comprobar y garantizar su corrección.
Planteo el reto de traducir las pruebas habituales de la teoría de categorías dentro de un sistema así. Lo que debería requerirse es la existencia de tipos como cat (= categorías), func (= funtores),... Así que una frase estándar como "Sea C una categoría" debería ser codificada por una declaración como:
C : gato .
No es necesario pensar en la totalidad de las categorías posibles. Por supuesto, un tipo como conjunto encarnaría la categoría de conjuntos.
Por supuesto, la estrategia implícita es la de Russell cuando inventó la teoría de tipos para curar las enfermedades de la teoría de conjuntos, como el conjunto de todos los conjuntos. . . También me gustaría mencionar que la lógica interna de un topos se parece mucho, así que quizás podríamos formalizar grandes segmentos de la teoría de categorías dentro de un topos universal definido sintácticamente .