Gerando textos criativos
Você está desenvolvendo um assistente de conteúdo com IA para a equipe de marketing de um SaaS. A equipe precisa automatizar posts de redes sociais sobre as últimas atualizações do software, e você precisa ajustar a diversidade das respostas para que várias chamadas ao modelo gerem variações diferentes.
Você recebeu a instância da classe Llama na variável llm e o código para chamar a completion. Também foi fornecido um prompt de exemplo para você testar.
Este exercício faz parte do curso
Trabalhando com Llama 3
Instruções do exercício
- Ajuste o parâmetro top-p para um valor na metade superior de sua faixa para gerar respostas mais variadas.
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
output = llm(
"Write a tweet announcing a new analytics dashboard feature for enterprise users.",
max_tokens=15,
# Set top-p to a value in the upper range for more varied responses
top_p=____
)
print(output['choices'][0]['text'])