開始使用免費開始

使用正確的模型結構

問答任務可以是可抽取式或生成式,兩者在正確處理輸入與輸出時需要不同的 transformer 結構。

它們分別使用:

  • 僅有 encoder 的模型,例如 "distilbert-base-uncased-distilled-squad"
  • 僅有 decoder 的模型,例如 "gpt2"

根據你對常見模型與特定任務的了解,選擇合適的模型。已載入 pipeline,並提供了有關蒙娜麗莎的文字內容。

本練習屬於課程

Python 的 LLM 入門

檢視課程

動手互動練習

試著完成這個範例程式碼,體驗一下這個練習。

question = "Who painted the Mona Lisa?"

# Define the appropriate model
qa = pipeline(task="question-answering", model=____)

output = qa(question=question, context=text)
print(output['answer'])
編輯並執行程式碼