RAG 質問応答関数
もう一息です!RAG ワークフローの最後のステップは、取得したドキュメントを質問応答モデルに統合することです。
prompt_with_context_builder() 関数はすでに定義済みで利用できます。この関数は Pinecone のインデックスから取得したドキュメントを受け取り、質問応答モデルが取り込めるプロンプトに組み込みます。
def prompt_with_context_builder(query, docs):
delim = '\n\n---\n\n'
prompt_start = 'Answer the question based on the context below.\n\nContext:\n'
prompt_end = f'\n\nQuestion: {query}\nAnswer:'
prompt = prompt_start + delim.join(docs) + prompt_end
return prompt
これから question_answering() 関数を実装します。OpenAI の言語モデル gpt-4o-mini に対し、質問に答えるための追加コンテキストと出典を提供します。
この演習はコースの一部です
Pineconeを使ったAIアプリケーション開発
演習の手順
- OpenAI クライアントは
clientとして用意されています。Pinecone クライアントを API キーで初期化してください。 'youtube_rag_dataset'namespace から、queryテキストに最も近いドキュメントを3件取得します。chat_model引数で指定された OpenAI の'gpt-4o-mini'モデルを使い、与えられたpromptとsys_promptに対する応答を生成してください。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Initialize the Pinecone client
pc = Pinecone(api_key="____")
index = pc.Index('pinecone-datacamp')
query = "How to build next-level Q&A with OpenAI"
# Retrieve the top three most similar documents and their sources
documents, sources = retrieve(____, top_k=____, namespace='____', emb_model="text-embedding-3-small")
prompt_with_context = prompt_with_context_builder(query, documents)
print(prompt_with_context)
def question_answering(prompt, sources, chat_model):
sys_prompt = "You are a helpful assistant that always answers questions."
# Use OpenAI chat completions to generate a response
res = ____(
model=____,
messages=[
{"role": "system", "content": ____},
{"role": "user", "content": ____}
],
temperature=0
)
answer = res.choices[0].message.content.strip()
answer += "\n\nSources:"
for source in sources:
answer += "\n" + source[0] + ": " + source[1]
return answer
answer = question_answering(
prompt=prompt_with_context,
sources=sources,
chat_model='gpt-4o-mini')
print(answer)