सही मॉडल संरचना का उपयोग
Question-answering एक्स्ट्रैक्टिव या जेनरेटिव दोनों हो सकता है, और हर एक को इनपुट और आउटपुट को सही तरह से प्रोसेस करने के लिए अलग ट्रांसफॉर्मर संरचना चाहिए।
ये आम तौर पर उपयोग करते हैं:
- केवल-एन्कोडर (encoder-only) मॉडल, जैसे
"distilbert-base-uncased-distilled-squad" - केवल-डीकोडर (decoder-only) मॉडल, जैसे
"gpt2"
विशिष्ट कार्यों के लिए आम मॉडलों के अपने ज्ञान का उपयोग करके उपयुक्त मॉडल चुनें। pipeline लोड किया गया है, और Mona Lisa पर टेक्स्ट भी उपलब्ध है.
यह अभ्यास पाठ्यक्रम का हिस्सा है
Python में LLMs का परिचय
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])