ComenzarEmpieza gratis

Implementación de la búsqueda aleatoria

La búsqueda de hiperparámetros es un método costoso desde el punto de vista computacional para experimentar con diferentes valores de hiperparámetros. Sin embargo, puede mejorar el rendimiento. En este ejercicio, implementarás un algoritmo de búsqueda aleatoria.

Muestrearás aleatoriamente 10 valores de la tasa de aprendizaje y el impulso a partir de la distribución uniforme. Para ello, utilizarás la función np.random.uniform().

Ya se ha importado numpy como np y se ha creado una función plot_hyperparameter_search() para visualizar tus resultados.

Este ejercicio forma parte del curso

Introducción al aprendizaje profundo con PyTorch

Ver curso

Instrucciones del ejercicio

  • Muestrea aleatoriamente un factor de tasa de aprendizaje entre 2 y 4 para que la tasa de aprendizaje (lr) esté acotada entre \(10^{-2}\) y \(10^{-4}\).
  • Muestrea aleatoriamente un impulso entre 0,85 y 0,99.

Ejercicio interactivo práctico

Prueba este ejercicio completando el código de muestra.

values = []
for idx in range(10):
    # Randomly sample a learning rate factor between 2 and 4
    factor = ____
    lr = 10 ** -factor
    
    # Randomly select a momentum between 0.85 and 0.99
    momentum = ____
    
    values.append((lr, momentum))
       
plot_hyperparameter_search(values)
Editar y ejecutar código