Генерация текста
Большие языковые модели обладают множеством возможностей, и генерация текста — одна из самых востребованных.
Вам нужно сгенерировать ответ на отзыв клиента, сохранённый в переменной text; он содержит тот же отзыв об отеле Riverview, который вы уже видели ранее.
Модуль pipeline уже загружен для вас.
Это упражнение является частью курса
Введение в LLM на Python
Инструкции к упражнению
- Создайте экземпляр пайплайна
generator, указав подходящую задачу для генерации текста. - Дополните переменную
prompt, включив в f-строкуtextиresponse. - Завершите настройку пайплайна модели, указав максимальную длину в 150 токенов и задав
pad_token_idравным токену конца последовательности.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])