Hay algunos conceptos matemáticos especulativos que me vienen a la mente, como el campo de un elemento o motivos aunque quizás sean más clasificables como "matemáticas futuras en potencia" que como "no matemáticas en absoluto", y ciertamente estos temas especulativos tienen al menos inspirado la creación de matemáticas convencionales y comúnmente aceptadas (teoremas rigurosos, aplicaciones a otros campos de las matemáticas, conjeturas precisas, reelaboraciones conceptuales de teorías existentes, etc.). [Y los motivos pueden estar actualmente en transición de las "matemáticas potenciales del futuro" a las "matemáticas reales"; dejaré que los expertos en la materia opinen más a fondo al respecto].
Un ejemplo más controvertido podría ser teoría interuniversal de Teichmüller donde existe un auténtico debate sobre si se trata de "matemáticas reales", "matemáticas potenciales del futuro" o "no son matemáticas en absoluto".
Si pasamos de los subcampos de las matemáticas a las modalidades de las matemáticas, en el pasado reciente se han producido algunos debates sobre si matemáticas experimentales o pruebas asistidas por ordenador se consideran matemáticas "reales", pero creo que el consenso predominante hoy en día (me refiero a la última década) es que, en términos generales, entran dentro del ámbito de las matemáticas. (Aunque quizá estos debates puedan reavivarse en los próximos años si las conjeturas generadas por IA y/o las demostraciones generadas por IA de nuevos teoremas matemáticos se convierten en algo habitual). Si nos remontamos aún más atrás en el tiempo, tenemos, por supuesto, algunos debates venerables sobre el uso de métodos no constructivos (cf. Cita de Gordan en que la prueba de Hilbert de su teorema de la base es teología y no matemáticas), los infinitos de la teoría de conjuntos, la geometría no euclidiana, los números complejos, etc., aunque de nuevo el consenso moderno es muy favorable a clasificar todos estos métodos y conceptos como parte del campo de las matemáticas. (cf. la cita posterior de Gordan -recogida por Klein- sobre haberse convencido de que la teología tiene sus ventajas).
Por último, en la década de 1990, el tema de la Códigos bíblicos / códigos de la Torá atrajo brevemente cierto interés matemático académico (y controversia), pero sería exagerado considerarlo un "campo de las matemáticas académicas" en la actualidad.
EDIT: a la inversa, no cabe duda de que hay disciplinas que suelen alojarse fuera de los departamentos académicos de matemáticas y que tienen muchas posibilidades de ser consideradas de naturaleza principalmente matemática. Informática teórica es un ejemplo que me viene a la mente; puede haber otros.
SEGUNDA EDICIÓN: Sección 19 (Educación Matemática y Divulgación de las Matemáticas) y Sección 20 (Historia de las Matemáticas) del (2022) Congreso Internacional de Matemáticos. están ambos dedicados a campos que, ciertamente, se podría argumentar que no tienen el estatus epistémico de las matemáticas, pero que siguen siendo campos perfectamente válidos de estudio académico, y que son los intereses principales o secundarios de un número no trivial de profesores en los departamentos de matemáticas. Sin embargo, la calificación de "campos de las matemáticas académicas" depende de las definiciones de cada cual.
TERCERA EDICIÓN: El Enciclopedia en línea de secuencias de números enteros (OEIS) no es, estrictamente hablando, un campo, pero cuenta con una comunidad activa de matemáticos profesionales y aficionados que contribuyen a él, y se utiliza ampliamente en la comunidad matemática académica. Se podría plantear la cuestión filosófica de si contribuir a la OEIS es una actividad a la que se puede atribuir el estatus epistémico de "matemáticas". Se podrían plantear preguntas similares para las comunidades centradas en el desarrollo de software matemático, como por ejemplo ayudantes de pruebas . Sin embargo, mi opinión personal es que hay que inclinarse por una visión "amplia" de las matemáticas y que un excesivo control de lo que se considera "auténticas" matemáticas podría ser perjudicial para el progreso en este campo.