Lo que sigue es sólo mi opinión. Te felicito por intentar ampliar la educación de tus hermanos, pero yo tendría cuidado de hasta dónde llegas y en qué orden. En mi experiencia, tendemos a olvidar las cosas que sabíamos antes de aprender cosas más difíciles. Dado que tu hermano está preguntando sobre algo de notación, puede ser que no entienda realmente por qué estás haciendo algo de matemáticas para empezar (especialmente si no ha sido introducido a la notación de funciones todavía).
Dependiendo de lo que tu hermano ya sepa, yo sugeriría lo siguiente:
1) Enséñale a conocer las funciones lineales y a graficarlas. Esta suele ser la primera introducción al concepto de pendiente (especialmente utilizando la forma gradiente-intercepto). Espero que tu hermano ya sepa hacerlo.
2) Sería útil que supiera graficar cuadráticas (y cúbicas, etc., si es posible). Esto le proporcionará una gama más amplia de funciones con las que podrá dar ejemplos (y, por lo tanto, dar imágenes para ayudar a su discusión de las tasas de cambio instantáneas).
3) Introduce algunos ejemplos físicos (por ejemplo, el movimiento bajo aceleración constante) para mostrar por qué nos interesan las tasas de cambio.
Si tu hermano ya puede manejar este tipo de problemas, tal vez sólo tengas que utilizar algunos de ellos de forma más explícita para mostrarle en qué consiste la búsqueda de derivados. Si aún no conoce los tres puntos anteriores, éstos pueden ser mejores puntos de partida para ampliar sus conocimientos. Esperemos que todo esto te permita explicar que la razón por la que utilizas $\frac{dy}{dx}$ es porque está interesado en la tasa de cambio de $y$ con respecto a $x$ (en lugar de la tasa de cambio de $x$ con respecto a $y$ ). En un entorno físico, por ejemplo, se suele estar interesado en la tasa de cambio de la distancia con respecto al tiempo, en lugar de la tasa de cambio del tiempo con respecto a la distancia. De ahí que hablemos de velocidad, que es $\frac{dx}{dt}$ pero no hay un nombre para $\frac{dt}{dx}$ .