Modificarea dimensiunii batch-ului
Ai văzut că modelele sunt antrenate de obicei în batch-uri de dimensiune fixă. Cu cât dimensiunea batch-ului este mai mică, cu atât sunt mai multe actualizări ale ponderilor per epocă, dar cu prețul unui gradient descent mai instabil – mai ales dacă batch-ul este prea mic și nu este reprezentativ pentru întregul set de antrenament.
Hai să vedem cum influențează diferite dimensiuni ale batch-ului acuratețea unui model simplu de clasificare binară, care separă punctele roșii de cele albastre.
Vei folosi un batch de dimensiunea 1, actualizând ponderile o dată per eșantion din setul de antrenament, pentru fiecare epocă. Apoi vei folosi întregul set de date, actualizând ponderile o singură dată per epocă.
Acest exercițiu face parte din cursul
Introducere în Deep Learning cu Keras
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Get a fresh new model with get_model
model = ____
# Train your model for 5 epochs with a batch size of 1
model.fit(X_train, y_train, epochs=____, ____=____)
print("\n The accuracy when using a batch of size 1 is: ",
model.evaluate(X_test, y_test)[1])