Automatické umístění na zařízení pomocí Acceleratoru
Tvůj konverzační model AI potřebuje trénovat na obrovské datové sadě, a proto jsi se rozhodl/a přesunout model na GPU. K automatickému umístění na zařízení využíváš Accelerator. Toto cvičení ve skutečnosti běží na CPU, ale kód zůstává stejný i pro spuštění na GPU.
Model založený na BERTu je předem načten jako model.
Toto cvičení je součástí kurzu
Efficient AI Model Training with PyTorch
Pokyny k cvičení
- Deklaruj objekt
acceleratorvytvořením instance příslušné třídy. - Pomocí objektu
acceleratorpřiprav model na distribuované trénování s GPU.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)