Automatyczne przypisywanie urządzeń z Accelerator
Twój konwersacyjny model AI wymaga trenowania na ogromnym zbiorze danych, dlatego postanowiono przenieść go na GPU. Do automatycznego przypisywania urządzeń używasz biblioteki Accelerator. Zwróć uwagę, że to ćwiczenie faktycznie działa na CPU, ale kod pozostaje taki sam jak w przypadku GPU.
Model oparty na BERT został wstępnie załadowany jako model.
To ćwiczenie jest częścią kursu
Efektywne trenowanie modeli AI z PyTorch
Instrukcje do ćwiczenia
- Zadeklaruj obiekt
accelerator, tworząc instancję odpowiedniej klasy. - Użyj obiektu
accelerator, aby przygotować model do trenowania rozproszonego z użyciem GPU.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)