Inference providers

कुछ स्थितियों में आपके पास Hugging Face मॉडल्स को लोकली चलाने के लिए आवश्यक हार्डवेयर नहीं होता. बड़े-पैरामीटर वाले LLMs और विशेषकर इमेज व वीडियो जनरेशन मॉडल्स को अक्सर गणनाओं को पैरेललाइज़ करने के लिए Graphics Processing Units (GPUs) की ज़रूरत पड़ती है. Hugging Face inference providers देता है ताकि यह हार्डवेयर थर्ड-पार्टी पार्टनर्स से उपलब्ध कराया जा सके.