Fournisseurs d’inférence

Dans certains cas, vous n’avez pas le matériel nécessaire pour exécuter localement des modèles Hugging Face. Les LLMs avec de nombreux paramètres, ainsi que les modèles de génération d’images et de vidéos, nécessitent souvent des unités de traitement graphique (GPU) pour paralléliser les calculs. Hugging Face propose des fournisseurs d’inférence pour externaliser ce matériel auprès de partenaires tiers.