"Declaración IF" en una red neuronal

Question

En los problemas de clasificación, es frecuente tener clases con propiedades diferentes. Por ejemplo, me encontré con un problema en el que necesitaba clasificar las siguientes imágenes en un solo red:

• Tazas blancas
• Tazas negras
• Tazas azules
• Gafas

A medida que mi enfoque se hacía más complejo, la precisión entre glass vs mugs (debido a las luces) estaba aumentando, pero después de mirar la matriz de confusión, black vs blue vs white parecía que se ajustaba demasiado. Asimismo, a medida que mi modelo se iba simplificando, el cristal se confundía con el blanco y el azul con el negro y el negro con el blanco.

¿Cómo puedo escribir un NN como:

Si se trata de una taza, entonces clasifique sólo las tazas, si no es un vaso.

Si este concepto tiene algún sentido (dejando de lado el tema del sobremuestreo de la taza), agradecería cualquier referencia a artículos o cómo se puede implementar esto en teoría.

Answer 1

Puede hacer que su red sea consciente de que las altas probabilidades de tener un vaso deberían perjudicar las probabilidades de salida de los colores de la taza, una declaración IF suave implementada con un mecanismo de compuerta.

Al final de su red $\mathcal N$ podrías añadir dos ramas: $\mathcal G$ (para el vidrio) & $\mathcal M$ (para la taza).

• $\mathcal G$ emite una probabilidad que decide si la imagen contiene o no gafas.
• $\mathcal M$ produce tres probabilidades, que pertenecen a los colores de las tazas.
• $\mathcal M$ las probabilidades se multiplican por $(1 -\mathcal G)$ probabilidades, haciéndole saber si dicho objeto no es, de hecho, una taza.

Al final tienes que optimizar dos pérdidas: la entropía cruzada binaria de vaso-vs-taza y la entropía cruzada categórica de tazas blancas-vs-negras-azules. Por supuesto, puede fusionarlas en una sola entropía cruzada categórica con las probabilidades: $\mathcal M_{\text White}, \mathcal M_{\text Black}, \mathcal M_{\text Blue}, \mathcal G$ manteniendo el resto de las ramas intactas.