Usare la struttura di modello corretta
Il question-answering può essere estrattivo o generativo, e ciascuno richiede una diversa struttura di transformer per elaborare correttamente input e output.
Usano rispettivamente:
- Modelli solo encoder come
"distilbert-base-uncased-distilled-squad" - Modelli solo decoder come
"gpt2"
Usa la tua conoscenza dei modelli più comuni per compiti specifici per selezionare quello appropriato. La pipeline è già caricata, così come il testo sulla Gioconda.
Questo esercizio fa parte del corso
Introduzione agli LLM in Python
esercizio interattivo pratico
Prova questo esercizio completando questo codice di esempio.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])