Välja rätt modellstruktur
Frågesvarssystem kan antingen vara extraktiva eller generativa – och varje typ kräver en annan transformatorstruktur för att hantera in- och utdata korrekt.
De använder antingen:
- Encoder-only-modeller som
"distilbert-base-uncased-distilled-squad" - Decoder-only-modeller som
"gpt2"
Använd dina kunskaper om vanliga modeller för specifika uppgifter och välj rätt modell. pipeline är redan laddad, liksom text om Mona Lisa.
Den här övningen är en del av kursen
Introduktion till LLM:er i Python
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])