控制模型成本的有效策略

你正在為公司開發一個以商用 LLM 為基礎的 AI 程式碼產生工具原型。在檢討會議上，主管對長期執行成本表示擔憂。他特別擔心，隨著越來越多開發者開始使用，權杖（token）用量會快速成長，以及費用可能變得難以預測。

為了審慎推進，請從下列選項中找出一個最有效的策略，在維持可接受效能的同時，控制權杖成本。