No hay tal cosa como un "oficial de la notación matemática". Hay un montón de convenciones básicas que la mayoría de los autores sigue, y cada campo tiene su propia manera de expresar las cosas. El mejor consejo es seguir lo que otras personas en su campo están haciendo. I. e., si hay publicaciones que tratan con algoritmos similares a las que has escrito, me gustaría comprobar para ver lo que la notación de los que lo utilizan.
Si no hay ningún precedente de que se puede seguir, intenta elegir una notación que es fácil de entender y no poner carga innecesaria en el lector. Por ejemplo, si bien es correcto que la mediana de $\{0,x,1\}$ $x$ fija a $[0,1]$, la mayoría de la gente probablemente va a mirar lo que por un tiempo antes de darse cuenta de lo que está pasando. $\max(0,\min(x,1))$ es mucho mejor que la mayoría de la gente va a reconocer al instante que, como la sujeción de la operación.
Si utiliza una operación en particular como de sujeción mucho, probablemente estaría mejor simplemente definir su propia sintaxis para expresar en él. Una idea podría ser la sobrecarga de la sintaxis que se utiliza para restringir las funciones a un determinado subconjunto de su dominio, que es $\left.f\right|_D$. Usted podría asimismo definir $\left.x\right|_{[a,b]}$ a la media de $x$ restringida al $[a,b]$. Si usted hace esto, asegúrese de que a pesar de que lo defina cleary al principio, y tal vez repetir la definición de las primeras veces que lo use.