Usando a estrutura correta do modelo
A resposta a perguntas pode ser extrativa ou geradora, cada uma exigindo uma estrutura de transformação diferente para processar corretamente a entrada e a saída.
Eles usam um ou outro:
- Modelos somente de codificador, como
"distilbert-base-uncased-distilled-squad" - Modelos somente de decodificador, como
"gpt2"
Use seu conhecimento de modelos comuns para tarefas específicas para selecionar o modelo apropriado. O pipeline é carregado, assim como o texto sobre a Mona Lisa.
Este exercício faz parte do curso
Introdução aos LLMs em Python
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
question = "Who painted the Mona Lisa?"
# Define the appropriate model
qa = pipeline(task="question-answering", model=____)
output = qa(question=question, context=text)
print(output['answer'])