使用正確的模型結構
問答任務可以是可抽取式或生成式,兩者在正確處理輸入與輸出時需要不同的 transformer 結構。
它們分別使用:
- 僅有 encoder 的模型,例如
"distilbert-base-uncased-distilled-squad" - 僅有 decoder 的模型,例如
"gpt2"
根據你對常見模型與特定任務的了解,選擇合適的模型。已載入 pipeline,並提供了有關蒙娜麗莎的文字內容。
本練習屬於課程
Python 的 LLM 入門
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])