Utilisation de la structure de modèle appropriée
La réponse aux questions peut être soit extractive, soit générative, chacune nécessitant une structure de transformer différente pour traiter correctement les entrées et les sorties.
Ils utilisent soit :
- Les modèles comprenant uniquement un encodeur, tels que
"distilbert-base-uncased-distilled-squad" - Les modèles comprenant uniquement un décodeur, tels que
"gpt2"
Utilisez vos connaissances des modèles courants pour des tâches spécifiques afin de sélectionner celui qui convient. pipeline est chargé, ainsi que le texte sur la Joconde.
Cet exercice fait partie du cours
Introduction aux LLM en Python
Exercice interactif pratique
Essayez cet exercice en complétant cet exemple de code.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])