En cuanto a tu pregunta (básicamente sólo diciendo lo mismo que Pascal):
Si $Y \not \in \tau$, entonces $Y \subset Y$ no sería abierto, lo cual es un axioma para una topología. Por lo tanto, tenemos que definir la topología de subespacio de una manera que no dependa de las propiedades del subconjunto.
La idea de la definición es la siguiente:
Si tenemos un espacio topológico $(X,\tau)$ y un subconjunto $Y \subset X$, entonces queremos que la función de inclusión $i \colon Y \rightarrow X$ sea continua. Esto significa que para cada conjunto abierto $U \subset X$ necesitamos que la preimagen bajo la función de inclusión $i^{-1}(U) = U \cap Y$ sea abierto en $Y$. Ahora tomamos la topología más pequeña tal que esto se cumpla (que es simplemente tomar esto como definición de conjuntos abiertos) y así es como se define la topología de subespacio.
2 votos
¿Tiene sentido siquiera $\tau\cap H$ aquí? $\tau$ es una familia de subconjuntos de $S$ mientras que $H$ es una familia de puntos en $S$. En la mayoría de situaciones, eso haría $\tau\cap H=\varnothing$.
0 votos
Si la topología en $S$ se deriva de una métrica $d$, entonces tomando la métrica $d' = d\restriction_{H \times H}$ para $H$ (la misma métrica, pero solo para puntos de $H$), entonces la topología inducida por $d'$ en $H$ se convierte en $\tau_H$.
0 votos
@AndreasBlass +1 ¡Buen trabajo al darte cuenta de eso! He revisado mi pregunta para reflejar mejor lo que originalmente quería decir. (¿Por qué no definir $_H$ como el conjunto de conjuntos "abiertos" que están contenidos en $H$?)