プロンプト圧縮は、プロンプト最適化というより広いカテゴリーに属する戦略です。あなたの目標は、できるだけ良い回答を保ちつつ、コストを削減することです。あなたが使っているLLMはトークン数に基づいて料金を請求します。シミュレーターで試すことができる2つの異なるプロンプトの選択肢があります。どちらを選ぶでしょうか?
この演習はコースの一部です
理論を実践に変える、インタラクティブな演習のひとつをお試しください
この章では、LLMOps の概要と LLM アプリケーション開発におけるアイデア創出フェーズを紹介します。LLMOps の基礎を説明し、LLM のライフサイクルの各ステージを概観したうえで、データの調達やオープンソース LLM と独自 LLM の選択など、アイデア創出フェーズの主要な活動について取り上げます。
この章はLLMアプリケーション作成の開発フェーズに焦点を当てています。プロンプトエンジニアリング、エージェントとチェーン、RAGとファインチューニングの技術、テスト方法を扱います。
この章では、LLM アプリケーションのデプロイと管理の運用フェーズに焦点を当てます。CI/CD などのデプロイ戦略、スケーリング技術、モニタリングの実践、コスト管理戦略、そしてガバナンスとセキュリティの考慮事項を取り上げます。これらの概念を習得することで、運用環境での LLM アプリケーション管理を効率的に行えるようになります。
現在の演習
