¿Qué optimizador es?

Estás empezando un nuevo proyecto y necesitas elegir un optimizador para entrenar tu modelo. Para ayudarte a decidir, revisa cada optimizador para comprender las ventajas y desventajas. ¿Puedes describir cada optimizador?