Inferenzdienste
In manchen Fällen fehlt dir die Hardware, um die Modelle von Hugging Face lokal auszuführen. Vor allem LLMs mit vielen Parametern sowie Modelle zur Bild- und Videogenerierung benötigen häufig Graphics Processing Units (GPUs), um Berechnungen zu parallelisieren. Hugging Face bietet Inferenzdienste an, um diese Hardware an Drittanbieter auszulagern.
Diese Übung ist Teil des Kurses
<Kurs>Arbeiten mit Hugging Face</Kurs>Interaktive praktische Übung
Verwandle Theorie mit einer unserer interaktiven Übungen in die Praxis
Übung starten