Генерация креативных текстов
Вы разрабатываете контент-ассистента на базе ИИ для маркетинговой команды SaaS-компании. Команде нужно автоматизировать публикации в социальных сетях о последних обновлениях программного обеспечения, а вам — настроить разнообразие ответов так, чтобы при нескольких обращениях к модели она возвращала разные варианты текста.
Вам предоставлен экземпляр класса Llama в переменной llm и код для вызова завершения. Также дан пример промпта для тестирования.
Это упражнение является частью курса
Работа с Llama 3
Инструкции к упражнению
- Установите значение параметра top-p в верхней половине его диапазона, чтобы модель генерировала более разнообразные ответы.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
output = llm(
"Write a tweet announcing a new analytics dashboard feature for enterprise users.",
max_tokens=15,
# Set top-p to a value in the upper range for more varied responses
top_p=____
)
print(output['choices'][0]['text'])