推理服务提供方
在某些情况下,您可能没有本地运行 Hugging Face 模型所需的硬件。参数量很大的 LLM,以及图像和视频生成模型,通常需要图形处理器(GPU)来并行计算。Hugging Face 提供了推理服务提供方,可将这类硬件外包给第三方合作伙伴。
本练习是课程的一部分
在某些情况下,您可能没有本地运行 Hugging Face 模型所需的硬件。参数量很大的 LLM,以及图像和视频生成模型,通常需要图形处理器(GPU)来并行计算。Hugging Face 提供了推理服务提供方,可将这类硬件外包给第三方合作伙伴。
本练习是课程的一部分