Utiliser la structure de modèle appropriée
La réponse à des questions peut être extractive ou générative, et chacune nécessite une structure de transformeur différente pour traiter correctement l'entrée et la sortie.
Elles utilisent soit :
- Des modèles à encodeur seulement, comme
"distilbert-base-uncased-distilled-squad" - Des modèles à décodeur seulement, comme
"gpt2"
Mettez à profit vos connaissances des modèles courants selon les tâches pour choisir le modèle approprié. Le pipeline est chargé, ainsi qu'un texte sur la Joconde.
Cette activité fait partie du cours
Introduction aux LLM avec Python
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])