Provedores de inferência

Em alguns casos, você pode não ter o hardware necessário para rodar os modelos do Hugging Face localmente. LLMs com parâmetros grandes e, em particular, modelos de geração de imagens e vídeos, muitas vezes precisam de Unidades de Processamento Gráfico (GPUs) para fazer os cálculos em paralelo. A Hugging Face oferece provedores de inferência pra terceirizar esse hardware pra parceiros externos.