Experimentar con estructuras modelo

Acabas de realizar un experimento en el que has comparado dos redes idénticas, salvo que la 2ª red tenía una capa oculta adicional. Ves que esta 2ª red (la red más profunda) tenía mejor rendimiento. Teniendo esto en cuenta, ¿cuál de los siguientes sería un buen experimento a realizar a continuación para obtener un rendimiento aún mejor?