¿hay sólo un peso y un sesgo correctos para la red neuronal?

Question

He resuelto el problema xor usando una red neuronal... pero estoy muy confundido

mi estructura de red neuronal se parece a esto

el primer resultado fue como...

y el segundo resultado fue como...

¿podría haber múltiples respuestas en los pesos y el sesgo en la red neuronal? o es sólo por el mínimo local... (los dos resultados tienen MUY pequeño coste)

Utilicé el método GA para optimizar la función de coste.. Yo esto podría ser la razón por la que tengo dos respuestas totalmente diferentes lo que significa que los resultados podrían ser atrapados en el mínimo local pero por favor, considere que ambos resultados tiene super pequeño costo

Answer 1

Sí, hay múltiples soluciones para resolver el problema XOR utilizando una red neuronal con la estructura que muestras. Con un entrenamiento de retropropagación estándar o con un AG, la solución que se encuentre dependerá de los conjuntos iniciales de pesos y de cómo se ajusten los pesos a lo largo del entrenamiento/evolución.

Sin embargo, si lo ejecutas varias veces, lo que empezarás a notar son patrones consistentes en los signos de los pesos y los sesgos. Haciendo muchas comparaciones también notarás una simetría entre esos patrones.

En cuanto a que el coste sea pequeño pero no nulo, si utilizas una función sigmoidea para la última capa, la salida nunca puede ser realmente 0 o 1, pero sí muy cercana, por lo que tu coste siempre será mayor que cero.