Utiliser la bonne structure de modèle
La réponse aux questions peut être extractive ou générative, chacune nécessitant une structure de transformation différente pour traiter correctement l'entrée et la sortie.
Ils utilisent l'un ou l'autre :
- Modèles avec encodeur uniquement, tels que
"distilbert-base-uncased-distilled-squad" - Modèles de décodeurs uniquement, tels que
"gpt2"
Utilisez votre connaissance des modèles courants pour des tâches spécifiques afin de sélectionner le modèle approprié. Le pipeline est chargé, ainsi que le texte sur la Joconde.
Cet exercice fait partie du cours
Introduction aux LLM en Python
Exercice interactif pratique
Essayez cet exercice en complétant cet exemple de code.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])