Výběr správné struktury modelu
Zodpovídání otázek může být buď extraktivní, nebo generativní – každý přístup vyžaduje jinou strukturu transformeru pro správné zpracování vstupu i výstupu.
Používají se buď:
- Modely typu encoder-only, například
"distilbert-base-uncased-distilled-squad" - Modely typu decoder-only, například
"gpt2"
Využij své znalosti běžných modelů pro konkrétní úlohy a vyber ten správný. Pipeline je již načtený, stejně jako text o Mona Lise.
Toto cvičení je součástí kurzu
Úvod do LLMs v Pythonu
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])