22 votos

¿Por qué necesitamos autocodificadores?

Recientemente, he estado estudiando los autocodificadores. Si he entendido bien, un autocodificador es una red neuronal en la que la capa de entrada es idéntica a la de salida. Así, la red neuronal intenta predecir la salida utilizando la entrada como patrón de oro.

¿Cuál es la utilidad de este modelo? ¿Qué ventajas tiene intentar reconstruir algunos elementos de salida, haciéndolos lo más iguales posible a los elementos de entrada? ¿Por qué hay que utilizar toda esta maquinaria para llegar al mismo punto de partida?

21voto

orip Puntos 28225

Los codificadores automáticos tienen una capa de entrada, una capa oculta y una capa de salida. La entrada tiene que ser idéntica a la salida, así que lo que nos interesa es la capa oculta.

La capa oculta forma una especie de codificación de la entrada. "El objetivo de un autocodificador es aprender una representación comprimida y distribuida (codificación) para un conjunto de datos". Si la entrada es un vector de 100 dimensiones, y tienes 60 neuronas en la capa oculta, entonces el algoritmo del autocodificador replicará la entrada como un vector de 100 dimensiones en la capa de salida, dándote en el proceso un vector de 60 dimensiones que codifica tu entrada.

Así pues, la finalidad de los codificadores automáticos es reducción dimensional entre muchos otros.

7voto

Pavel Horal Puntos 128

También puede modelar su población de modo que cuando introduzca un nuevo vector, pueda comprobar lo diferente que es la salida de la entrada. Si son "bastante" iguales, puede asumir que la entrada coincide con la población. Si son "bastante" diferentes, entonces la entrada probablemente no pertenece a la población que has modelado.

Yo lo veo como una especie de "regresión por redes neuronales" en la que intentas tener una función que describa tus datos: su salida es la misma que la entrada.

5voto

optronik Puntos 334

Quizás estas fotos te den alguna intuición. Como ha dicho un comentarista más arriba, los codificadores automáticos intentan extraer algunas características de alto nivel de los ejemplos de entrenamiento. En la segunda imagen se puede ver cómo se utiliza el algoritmo de pronóstico para entrenar cada nivel oculto por separado para la NN profunda.

enter image description here

enter image description here

Las imágenes están tomadas de la wikipedia rusa.

0voto

user1234 Puntos 21

En términos de ML, las características son oro. Las características aprendidas que utilizan la menor cantidad posible de datos pero contienen la mayor cantidad posible de información nos permiten realizar muchas tareas. La autocodificación es útil en el sentido de que nos permite comprimir los datos de una forma óptima (que puede utilizarse realmente para representar los datos de entrada, como observa la capa de descodificación).

Ahora que tenemos estas características, podemos realizar muchas tareas diferentes; por ejemplo, podemos utilizarlo como un muy buen punto de partida para tareas de aprendizaje supervisado.

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X