Konfigurowanie argumentów treningowych
Po tokenizacji interakcji z obsługą klienta musisz skonfigurować argumenty treningowe, zanim przystąpisz do dostrajania wstępnie wytrenowanego modelu.
TrainingArguments zostało już załadowane.
To ćwiczenie jest częścią kursu
Wprowadzenie do LLM w Pythonie
Instrukcje do ćwiczenia
- Utwórz instancję
TrainingArguments(). - Ustaw strategię ewaluacji na
"epoch". - Określ trzy epoki treningowe.
- Ustaw rozmiary partii dla trenowania i ewaluacji na trzy.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Set up an instance of TrainingArguments
training_args = ____(
output_dir="./finetuned",
# Set the evaluation strategy
____,
# Specify the number of epochs
____=3,
learning_rate=2e-5,
# Set the batch sizes
____=3,
____=3,
weight_decay=0.01
)