or
本练习是课程的一部分
大语言模型领域发展迅猛,而 Llama 表现突出。随着 Llama 3 的发布,应用可能性大幅提升。您将探索其能力,学习结合 llama-cpp-python 使用它,并通过调整参数与分配特定角色来引导对话,从而更好地控制模型行为。
语言模型不仅能生成文本,还可以被引导产出结构化且具备上下文意识的回答。在本章中,您将学习如何利用 llama-cpp-python 以特定格式生成输出,包括便于数据集成的 JSON 兼容响应。您还将通过提示词技巧优化 Llama 的输出,使回答与不同任务保持一致。最后,您将构建能在多轮交互中保持上下文的对话,从而实现更自然的交流。
当前练习