He encontrado esta página independiente de vuur y se encontró a esta pregunta, así que bien podría responder a ella. Específicamente,
El más antiguo conocido en el uso de la m de la pendiente aparece en Vincenzo Riccati de las memorias De methodo Hermanni ad locos geometricos resolvendos, que es el capítulo XII de la primera parte de su libro Vincentii Riccati Opusculorum ad res Physica, Y Mathematicas pertinentium (1757):
Propositio prima. Aequationes primi gradus construere. Ut Hermanni methodo utamor, danda est aequationi hujusmodi forma y = mx + n, quod semper posse fieri certum est. (p. 151)
La latina simplemente indica que esta es la forma general de una ecuación lineal, y Riccati no algún comentario sobre el uso de $m$.
Curiosamente, Traite Elementaire D'Arithmetique, Al Usage De L'Ecole Centrale des Quatre-Naciones: Par S. F. LaCroix, Dix-Huitieme Edición, publicada en 1830 hace uso de $a$ en lugar de $m$ (a pesar de que, obviamente, no fue escrito por Riccati).
Como DavidK señaló, George Salmón también se utiliza $a$ en su trabajo en el siglo 19. Yo hubiera omitido que a partir de mi respuesta original debido a que se utiliza una forma diferente,
$$\frac{x}{a}+\frac{y}{b}=1$$
pero aún así, es pertinente su uso.