Automatische Gerätezuordnung mit Accelerator
Dein Conversational-AI-Modell muss auf einem riesigen Datensatz trainieren, daher hast du beschlossen, das Modell auf eine GPU zu verschieben. Du nutzt Accelerator für die automatische Gerätezuordnung. Beachte: Diese Übung läuft tatsächlich auf der CPU, aber der Code ist derselbe wie für die Ausführung auf der GPU.
Ein BERT-basiertes Modell wurde als model vorgeladen.
Diese Übung ist Teil des Kurses
Effizientes KI-Modelltraining mit PyTorch
Anleitung zur Übung
- Deklariere ein
accelerator-Objekt, indem du die entsprechende Klasse instanziierst. - Verwende das
accelerator-Objekt, um das Modell für verteiltes Training mit GPU vorzubereiten.
Interaktive Übung
Vervollständige den Beispielcode, um diese Übung erfolgreich abzuschließen.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)