Una simple bombilla puede funcionar directamente con, por ejemplo, 3V, 5V, 12V (depende de la que se adquiera). Un LED es diferente, requiere que pase una cierta cantidad de corriente antes de que se encienda. Como un LED es una especie de diodo (el símbolo lo muestra), el voltaje permanece casi constante cuando está conduciendo. Aumentará un poco, pero es casi insignificante.
Un LED típico requiere un mínimo de 1 o 2mA para encenderse. La mayoría tiene un máximo de unos 20mA. El voltaje depende del color y a veces del tipo de LED que tengas. Digamos que tienes un simple LED rojo. Lo normal es que diga "2V de caída a 20mA". Eso significa que si pasas 20mA por él, habrá una caída de voltaje de 2V (NO al revés - esto puede ser un poco difícil de entender al principio). Pero, tenemos un suministro de 5V, ¿verdad? Así que si le ponemos 5V, el LED conducirá mucho más de 20mA y se fundirá. Lo que queremos es hacer un circuito que la resistencia tome 3V, y 20mA fluyan a través de la resistencia y el LED (porque están en serie).
Podemos hacerlo con la ley de Ohm. Describe la relación entre la corriente y la tensión de una resistencia: R=U/I En este caso queremos U 3V (la tensión a través de la resistencia) e I de 20mA. Así que lo completamos: R=3V/20mA = 3V / 0,02A = 150 ohmios.
Ahora, debido a que el LED está funcionando de un Arduino, el microcontrolador puede no ser capaz de entregar 20mA. Además, no sé las especificaciones exactas del LED, que puede ser diferente. Así que asumo que han calculado sus 560 ohmios sobre una buena base.
Por qué obviamente no es 20k o 2 ohmios bueno. Si pones los 5V completos en una resistencia de 20k, solo obtendrás 0,25mA de corriente. Asumiendo que el LED tomará un poco, casi no habrá ninguna luz. Si tomas 2 ohmios vas a reventar el LED. Habrá tanta corriente fluyendo que el LED está frito.
En cuanto al arduino; Un arduino contiene un chip microcontrolador. Son dispositivos inteligentes que pueden cambiar la salida de un pin. Puede hacer que un pin sea alto (que sea 5V), o bajo (que sea 0V). Podemos programarlo por software. Si haces el pin alto, sólo pondrá 5V en tu LED y resistencia. La corriente fluirá, el LED se encenderá, etc. Si lo pones bajo, pondrá 0V en el LED y la resistencia. Eso no hará mucho, y el LED estará apagado.
Los circuitos siempre requieren un bucle, de hecho, pero el microcontrolador tiene hardware dentro de él para arreglar eso. Piensa que hay interruptores en su interior que conectan la alimentación de 5V al pin 13, o GND (si su estado es bajo). El LED y la resistencia se conectan a tierra por lo que se completa ese circuito. También podríamos haberlo hecho al revés, pero entonces el LED estará encendido si haces que el pin esté bajo (0V) y apagado si haces que el pin esté alto (5V).