Menggunakan struktur model yang tepat
Question-answering dapat bersifat ekstraktif atau generatif, masing-masing memerlukan struktur transformer yang berbeda agar input dan output diproses dengan benar.
Mereka menggunakan salah satu dari:
- Model hanya-encoder seperti
"distilbert-base-uncased-distilled-squad" - Model hanya-decoder seperti
"gpt2"
Gunakan pengetahuan Anda tentang model umum untuk tugas tertentu guna memilih yang sesuai. pipeline telah dimuat, begitu juga teks tentang Mona Lisa.
Latihan ini adalah bagian dari kursus
Pengantar LLM di Python
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])