El ánodo es el electrodo donde tiene lugar la reacción de oxidación
\begin{align} \ce{Red -> Ox + e-} \end{align}
mientras que el cátodo es el electrodo donde tiene lugar la reacción de reducción
\begin{align} \ce{Ox + e- -> Red} \end{align}
Así es como se definen el cátodo y el ánodo.
Celda galvánica
Ahora, en una celda galvánica la reacción procede sin una potencial externo. Dado que en el ánodo tienes la reacción de oxidación que produce electrones, se produce una acumulación de carga negativa en el curso de la reacción hasta que se alcanza el equilibrio electroquímico. Por lo tanto, el ánodo es negativo.
En el cátodo, por otro lado, tienes la reacción de reducción que consume electrones (dejando iones positivos (metales) en el electrodo) y conduce a una acumulación de carga positiva en el curso de la reacción hasta que se alcanza el equilibrio electroquímico. Por lo tanto, el cátodo es positivo.
Celda electrolítica
En una celda electrolítica, se aplica un potencial externo para forzar que la reacción vaya en la dirección opuesta. Ahora, el razonamiento se invierte. En el electrodo negativo, donde has producido un alto potencial de electrones a través de una fuente de voltaje externa, los electrones son "empujados" fuera del electrodo, reduciendo así la especie oxidada $\ce{Ox}$, porque el nivel de energía de electrones dentro del electrodo (nivel de Fermi) es mayor que el nivel de energía del LUMO de $\ce{Ox}$ y los electrones pueden reducir su energía ocupando este orbital, tienes electrones muy reactivos por así decirlo. Por lo tanto, el electrodo negativo será donde tendrá lugar la reacción de reducción y por lo tanto será el cátodo.
En el electrodo positivo donde has producido un bajo potencial de electrones a través de una fuente de voltaje externa, los electrones son "atraídos" hacia el electrodo dejando atrás la especie reducida $\ce{Red}$ porque el nivel de energía de electrones dentro del electrodo (nivel de Fermi) es menor que el nivel de energía del HOMO de $\ce{Red}$. Así que el electrodo positivo será donde tenga lugar la reacción de oxidación y, por lo tanto, será el ánodo.
Un cuento de electrones y cascadas
Dado que hay algo de confusión acerca de los principios en los que funciona una electrólisis, intentaré una metáfora para explicarlo. Los electrones fluyen de una región de alto potencial a una región de bajo potencial, al igual que el agua cae por una cascada o fluye por una pendiente inclinada. La razón es la misma: tanto el agua como los electrones pueden reducir su energía de esta manera. Ahora, la fuente de voltaje externo actúa como dos grandes ríos conectados a cascadas: uno en una gran altitud que conduce hacia una cascada, que sería el polo negativo, y otro en una baja altitud que se aleja de una cascada, que sería el polo positivo. Los electrodos serían como los puntos del río justo antes o después de las cascadas en esta imagen: el cátodo es como el borde de una cascada donde el agua cae y el ánodo es como el punto donde el agua cae en ella.
¿Qué pasa en la reacción de electrólisis? En el cátodo, tienes la situación de alta altitud. Entonces, los electrones fluyen al "borde de su cascada". Quieren "caer" porque detrás de ellos el río empuja hacia el borde ejerciendo una especie de "presión". ¿Pero a dónde pueden caer? El otro electrodo está separado de ellos por la solución y generalmente un diafragma. Pero hay moléculas de $\ce{Ox}$ que tienen estados vacíos que yacen energéticamente por debajo del electrodo. Esos estados vacíos son como pequeños estanques que yacen en una altitud más baja donde un poco del agua del río puede caer. Así que cada vez que una molécula de $\ce{Ox}$ se acerca al electrodo, un electrón aprovecha la oportunidad para saltar a ella y reducirla a $\ce{Red}$. Pero eso no significa que el electrodo se quede repentinamente sin un electrón porque el río reemplaza inmediatamente el electrón "expulsado". Y la fuente de voltaje (la fuente del río) no puede quedarse sin electrones porque obtiene sus electrones del enchufe de corriente.
Ahora el ánodo: en el ánodo, tienes la situación de baja altitud. Por lo tanto, aquí el río yace más bajo que todo lo demás. Ahora puedes imaginarte los estados HOMO de las moléculas de $\ce{Red}$ como pequeños lagos de barrera que yacen en una altitud más alta que nuestro río. Cuando una molécula de $\ce{Red}$ se acerca al electrodo, es como si alguien abriera las compuertas de la presa del lago de la barrera. Los electrones fluyen desde el HOMO hacia el electrodo, creando así una molécula de $\ce{Ox}$. Pero los electrones no se quedan en el electrodo, por así decirlo, son llevados por el río. Y dado que el río es una entidad tan vasta (con mucha agua) y generalmente fluye hacia un océano, el pequeño "agua" que se le añade no cambia mucho al río. Permanece igual, sin alteraciones, por lo que cada vez que se abre una compuerta, el agua del lago de barrera caerá la misma distancia.