De juiste modelstructuur gebruiken
Vraag-antwoord kan extractief of generatief zijn, en elk type vereist een andere transformer-structuur om invoer en uitvoer correct te verwerken.
Ze gebruiken ofwel:
- Alleen-encoder-modellen zoals
"distilbert-base-uncased-distilled-squad" - Alleen-decoder-modellen zoals
"gpt2"
Gebruik je kennis van gangbare modellen voor specifieke taken om de juiste te kiezen. Er is een pipeline geladen, evenals tekst over de Mona Lisa.
Deze oefening maakt deel uit van de cursus
Introductie tot LLM’s in Python
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])