Este es un problema difícil de cubrir en un par de cientos de palabras, así que esto será breve y tendrás que investigar por tu cuenta. Pero intentaré resumirlo lo suficiente para que al menos sepas qué investigar.
Tienes que saber sobre la impedancia de la traza, la terminación de la señal, las vías de retorno de la señal y los tapones de derivación/desacople. Si todo esto es absolutamente correcto, no habrá problemas de compatibilidad electromagnética. Conseguir que sea 100% perfecto es imposible, pero puedes acercarte mucho más de lo que estás ahora.
En primer lugar, veamos las vías de retorno de la señal... Para cada señal debe haber un camino de retorno. Normalmente el retorno está en el plano de potencia o de tierra, pero también podría estar en otro lugar. En tu PCB, el retorno está en un plano. El camino de retorno va desde el receptor hasta el controlador. El área de bucle es el bucle físico creado por la señal más el camino de retorno. Normalmente, las leyes de la física hacen que el área de bucle sea lo más pequeña posible, pero el trazado de la placa de circuito impreso quiere estropearlo.
Cuanto mayor sea el área del bucle, más problemas de RF tendrá. No sólo emitirá más RF de la deseada, sino que también recibirá más RF.
Las señales de la capa inferior (azul) querrán que su camino de retorno esté en el plano adyacente de la siguiente capa (cian), ya que eso hace que el área del bucle sea lo más pequeña posible. Las señales de la capa superior (roja) tendrán su camino de retorno en la capa dorada.
Si una señal comienza en la capa superior y luego pasa por una vía a la capa inferior, la ruta de retorno de la señal querrá cambiar de las capas de oro a las de cian, en el punto de la vía. Esta es una de las principales funciones de las tapas de desacoplamiento. Normalmente un plano sería GND y el otro sería VCC. Una ruta de retorno de la señal puede pasar por la tapa de desacoplamiento cuando se cambia entre planos. Por eso es importante tener tapas entre los planos incluso cuando no es obviamente necesario por razones de potencia.
Sin una tapa de desacoplamiento entre los planos, la ruta de retorno no puede tomar una ruta más directa, por lo que el área del bucle aumenta de tamaño - y los problemas de EMC aumentan.
Pero los vacíos/las fisuras en los planos pueden ser aún más problemáticos. Tu capa dorada tiene planos divididos, y trazos de señal, que crean problemas. Si comparas las capas roja y dorada verás cómo las señales cruzan los huecos en los planos. Cada vez que una señal cruza un vacío en el plano entonces algo va a ir mal. La corriente de retorno va a estar en el plano, pero no puede seguir la traza a través del vacío por lo que tiene que tomar un desvío importante. Esto aumenta el área del bucle y sus problemas de EMC.
Puedes colocar una tapa en el vacío, justo donde se cruzan las señales. Pero un mejor enfoque sería redirigir las cosas para evitar esto en primer lugar.
Otra forma en la que se puede crear el mismo problema es cuando se tienen varias vías que están muy juntas. El espacio libre entre las vías y el plano puede crear ranuras en los planos. Disminuya el espacio libre, o extienda las vías para que no se forme una ranura.
Ok, entonces ese es el mayor problema de tu tabla. Una vez que entiendas eso, tienes que mirar la terminación de la señal y controlar la impedancia de la traza. Después de eso, usted tiene que mirar a los problemas de blindaje y GND del chasis con su conexión Ethernet (no hay suficiente información en el Q para comentar con precisión).
Espero que eso ayude. Realmente pasé por encima de los problemas, pero eso debería hacer que te pongas en marcha.