Alegerea structurii de model corecte
Răspunsul la întrebări poate fi extractiv sau generativ, fiecare necesitând o structură diferită de transformer pentru a procesa corect intrările și ieșirile.
Acestea folosesc fie:
- Modele de tip encoder-only, precum
"distilbert-base-uncased-distilled-squad" - Modele de tip decoder-only, precum
"gpt2"
Folosește-ți cunoștințele despre modelele comune pentru sarcini specifice și selectează-l pe cel potrivit. pipeline este deja încărcat, împreună cu un text despre Mona Lisa.
Acest exercițiu face parte din cursul
Introducere în LLM-uri cu Python
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])