设想您已经在自己的环境中部署了一个经过微调的 LLM,并将其托管在一个容器中。现在您可以选择对该容器进行水平或垂直扩展。请选择合适的策略。
本练习是课程的一部分
通过我们的互动练习之一,将理论转化为实践
本章介绍 LLMOps 及 LLM 应用开发的构思阶段。内容包括 LLMOps 基础、LLM 的生命周期各阶段,以及构思阶段的关键活动,例如数据获取与在开源 LLM 和专有 LLM 之间的选择。
本章聚焦 LLM 应用的开发阶段。主要涵盖提示工程、智能体与链、RAG 与微调的取舍,以及测试方法。
本章聚焦 LLM 应用的部署与运维阶段。我们将讨论 CI/CD 等部署策略、扩展技术、监控与可观测性实践、成本管理策略,以及治理与安全考量。掌握这些概念将帮助您在生产环境中高效管理 LLM 应用。
当前练习