Inferenzdienste
In manchen Fällen fehlt dir die Hardware, um die Modelle von Hugging Face lokal auszuführen. Vor allem LLMs mit vielen Parametern sowie Modelle zur Bild- und Videogenerierung benötigen häufig Graphics Processing Units (GPUs), um Berechnungen zu parallelisieren. Hugging Face bietet Inferenzdienste an, um diese Hardware an Drittanbieter auszulagern.
Diese Übung ist Teil des Kurses
Arbeiten mit Hugging Face
Interaktive Übung
In dieser interaktiven Übung kannst du die Theorie in die Praxis umsetzen.
Übung starten