¿Este vector de polarización Tensorflow tiene la forma correcta?

Question

En el texto que he leído lo siguiente:

Estoy confundido sobre las dimensiones de la parcialidad de vector. ¿Cómo se puede añadir un(m,1) vector a un(1, p) vector? Es w0 forma correctamente? O debe w1 ser en forma de (n, P) a cuenta P clases, y la hemos transmitido w0?

Nota: asumo w1 debe (n, P) , de modo que nuestro multiplicación de la matriz de los rendimientos de una fila de no normalizados logits para cada clase de predicción para cada observación. Entonces ¿tiene sentido agregar por un sesgo de clase y de difusión que para el número de muestras en nuestros datos?

Me siento como un tonto por preguntar siquiera, pero caminando por el ejemplo que yo no podía conciliar...

Answer 1

Vamos a caminar a través de la matriz de la aritmética. La matriz-vector producto $Xw_1$ forma $(m,n)(n,1)$, por lo que el resultado tiene la forma $(m,1)$. Podemos pensar en esto, ya que cada fila de X que se asigna a un escalar. Esto no coincide con el texto de la descripción: la intención parece ser la de tener una salida para cada clase, es decir, la regresión logística multinomial. Para que esto sea regresión logística multinomial, necesitaríamos tener w_1 con forma de $(n,P)$.

No recuerdo TF de radiodifusión de las reglas, pero si este código se ejecuta sin aumentar de forma relacionados con excepciones, es probablemente porque de detrás de las escenas de la radiodifusión. Este debe ser lo suficientemente fácil para validar: suministro de ciertos datos y comprobar si existe una diferencia constante entre cada valor de Y_hat.

Errores como estos son la razón por la que abogan para escribir pruebas unitarias para los modelos de red neuronal, como lo hago aquí: ¿Qué debo hacer cuando mi red neuronal no aprende?