Al parecer, no hay una definición acordada de sentido horario en el espacio 3D, pero sí un claro acuerdo sobre el significado en un plano "visto desde arriba"
Al comenzar a responder, no tengo idea de cuál es la respuesta correcta, si es que hay alguna. Es el "si es que hay alguna" lo que me lleva a iniciar este tema. Ciertamente no soy un experto, nunca pude distinguir mi izquierda de mi derecha, especialmente después de tener clases de física, pero estoy buscando la evidencia disponible.
Para ser honesto, me confundí bastante con las respuestas de John Rennie, porque no vi la necesidad de introducir otro dispositivo, que hay que orientar como el primero, pero no tan naturalmente... Al menos hay solo un tipo de relojes (excepto por los souvenirs divertidos), mientras que hay dos tipos de manecillas para agregar a la confusión. También solo hay una forma natural de mirar un reloj, mientras que no hay una forma específica o normalizada de mirar tu mano, aunque tener el pulgar primero es la posición natural...!
La palabra "sentido horario" se usa más de 800 veces en physics.stackexchange.com según las cifras muy aproximadas de Google (utilicé: sentido horario sitio:physics.stackexchange.com). Este adverbio debe tener alguna relevancia para la física.
Al buscar en la web, o en Wikipedia, una definición formal de sentido (anti)horario en 3D, parece que no se encuentra ninguna. La respuesta de @Emilio se acerca a la mía ya que parece considerar que el adverbio "sentido horario" tiene un significado bien definido sin más precisiones.
Siendo Internet un lugar demasiado grande para mí, examiné los usos de este adverbio en physics.stackexchange.com. Incluso me limité a las primeras veinte respuestas de Google, ya que esto toma mucho tiempo. Siéntase libre de hacer más.
Muchos usos son simplemente informales. ¿En qué dirección gira esto o aquello cuando se desenrosca o se mira su rotación (como un reloj)? Los pedales de bicicleta son un buen ejemplo. En muchos otros casos, solo se usa para indicar cambios en el signo de la velocidad angular, con cambios correspondientes en el signo de otras cantidades, sin ninguna información quiral precisa. Nota, por ejemplo, que al hablar de huracanes, siempre es rotación vista desde arriba, como un reloj visto desde el frente.
En Naturaleza vectorial de la velocidad angular, el uso es claramente en un plano 2D, sobre un plano visto desde arriba. El vector considerado sigue la regla de la mano derecha. Pero no se interpreta como una definición de rotación en sentido horario en 3D.
Lo mismo ocurre en Átomo alcalino en campo electromagnético oscilante. De hecho, habla de rotación en sentido antihorario al mirar la mano derecha desde el extremo del pulgar.
En la respuesta a la pregunta ¿Qué es aceleración angular negativa?, las cosas están un poco confusas ya que menciona la regla de la mano derecha, pero parece describir lo contrario. Luego también define el sentido horario como la rotación positiva, aunque generalmente se considera negativa en matemáticas (bueno, así lo hacía en mis tiempos de escuela, pero no sabría las tendencias actuales). Nuevamente, esto no se interpreta como una definición de sentido horario en 3D.
La pregunta Ley de Lenz versus $-\frac{d\Omega}{dt}$ utiliza "sentido horario (usando notación de la mano derecha)". La respuesta también hace referencia explícita a la regla de la mano derecha para definir sentido horario.
Una respuesta a Aplicando la regla de la mano derecha para fuerzas magnéticas utiliza explícitamente la regla de la mano derecha, y explica que es útil porque la dirección es "en sentido contrario a las manecillas del reloj o sentido horario dependiendo de qué lado del plano estés mirando".
Una cosa en común en todos los usos donde importa es que los autores no parecen pensar que hay una definición acordada de (anti)horario en 3D en la que puedan basarse para una comunicación inequívoca.
La otra cosa en común (excepto quizás para el tercero) es que todos parecen entender el sentido horario como "como un reloj visto desde arriba", cuando se utiliza la regla de la mano derecha para interpretar lo que se dice.
Basándome en esta evidencia, que claramente necesita más investigación, mi propia conclusión provisional es que, a menos que alguien pueda señalar una definición "oficial" y acordada del concepto de rotación en sentido horario en 3D, probablemente no sea apropiado asumir tal definición.
La otra conclusión es que hay un claro consenso de que sentido horario significa, en un plano, como las manecillas de un reloj en el mismo plano asumiendo que el reloj te está mirando.
Un aspecto interesante es que la palabra (anti)horario parece ser muy utilizada porque tiene un significado intuitivo, aparentemente más que la regla de la mano derecha. Pero a veces debe ser definida de manera más precisa, por la regla de la mano derecha u otros medios equivalentes (miras un reloj en el plano XY desde el Z positivo...).
Otra conclusión clara, al menos para mí, es que es una pregunta apropiada y debería recibir votos positivos. Puede que no sea física en el sentido más básico, pero obviamente es una herramienta para el físico, y sin herramientas adecuadas los técnicos no pueden trabajar.