Pregătește un model pentru antrenarea distribuită

Ai decis să folosești biblioteca Accelerator de la Hugging Face pentru a antrena modelul tău de traducere a limbajului. A venit momentul să pregătești modelul pentru antrenarea distribuită!

Unele date au fost pre-încărcate:

accelerator este o instanță a clasei Accelerator
model, optimizer, train_dataloader și lr_scheduler au fost definite

Acest exercițiu face parte din cursul

Antrenament eficient al modelelor AI cu PyTorch

Vezi cursul

Instrucțiuni pentru exercițiu

Apelează o metodă pentru a pregăti obiectele în vederea antrenării distribuite.
Transmite obiectele de antrenare ca argumente poziționale metodei accelerator.prepare(), respectând ordinea rezultatelor.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Prepare objects for distributed training
model, optimizer, train_dataloader, lr_scheduler = ____.____(
    # Pass in the training objects matching the order of the output
    ____,
    ____,
    ____,
    ____)

Editează și rulează codul