控制模型成本的高效策略

您正在为公司开发一款由商业 LLM 驱动的 AI 代码生成工具的原型。在一次评审会议上，您的经理对该工具的长期运行成本表示担忧。TA 尤其担心，随着更多开发者开始使用，token 使用量会迅速增长，以及费用可能变得难以预测。

为确保后续工作更稳妥，请从以下选项中找出一项在保持可接受性能的同时，最能有效控制 token 成本的策略。