1 votos

¿es este gráfico de función de pérdida o de distribución de datos de entrada?

He estado mirando la normalización por lotes y me he confundido. enter image description here

https://www.google.com/search? q=cómo+dibujar+la+optimización+no+convexa+de+la+función+de+pérdida+en+un+gráfico&newwindow=1&tbm=isch&source=iu&ictx=1&fir=p9jTQ-nE7iJyfM%252CVwHlY7V21gHQFM%252C_&vet=1&usg=AI4_- kQQK_-BeVyvG8Co4iKdUS4oB9rzxQ&sa=X&ved=2ahUKEwjApZaGjIbrAhVkFqYKHf-aCUAQ9QEwAnoECAoQBQ&biw=2077&bih=1065#imgrc=En2uJKnp9l7i7M

He visto este tipo de gráfico no convexo o convexo cuando se aprende el aprendizaje profundo.
entonces

1. is this graph of loss function? 
2.How they graph this because we do not know the entire loss function graph. 
3. is normalizing change the graph of loss function? 
4. for batch normalization. is it same thing as normalizing the input data. between deep learning layers? then it also change the loss function graph?

0voto

mclaughlinj Puntos 1099

Este parece ser la fuente original.

  1. En el contexto del documento sí.
  2. Casi siempre conocemos la función de pérdida exacta para un modelo determinado. El problema típico es que la función de pérdida se encuentra en un espacio de varios millones/millones de dimensiones, lo que dificulta su visualización. Existen técnicas para evitarlo, véase Visualización del panorama de pérdidas de las redes neuronales -- pero eso no quiere decir que así es como esta figura en particular fue creada

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X