プロンプト圧縮は、プロンプト最適化という大きなカテゴリに含まれる手法です。目標は、回答の品質を維持しながらコストを削減することです。使用するLLMはトークン数に基づいて課金されます。シミュレーターで試せる2種類のプロンプトが用意されています。どちらを選びますか？
この演習はコースの一部です
理論を実践に変える、インタラクティブな演習のひとつをお試しください
この章では、LLMOps の概要と LLM アプリケーション開発におけるアイデア創出フェーズを紹介します。LLMOps の基礎を説明し、LLM のライフサイクルの各ステージを概観したうえで、データの調達やオープンソース LLM と独自 LLM の選択など、アイデア創出フェーズの主要な活動について取り上げます。
この章はLLMアプリケーション作成の開発フェーズに焦点を当てています。プロンプトエンジニアリング、エージェントとチェーン、RAGとファインチューニングの技術、テスト方法を扱います。
この章では、LLM アプリケーションのデプロイと管理の運用フェーズに焦点を当てます。CI/CD などのデプロイ戦略、スケーリング技術、モニタリングの実践、コスト管理戦略、そしてガバナンスとセキュリティの考慮事項を取り上げます。これらの概念を習得することで、運用環境での LLM アプリケーション管理を効率的に行えるようになります。
現在の演習
