Генерування тексту
LLM мають багато можливостей, і генерування тексту — одна з найпопулярніших.
Вам потрібно згенерувати відповідь на відгук клієнта, що зберігається в text; це той самий відгук про Riverview Hotel, який ви вже бачили.
Модуль pipeline вже імпортовано для вас.
Ця вправа є частиною курсу
Вступ до LLM у Python
Інструкції до вправи
- Створіть конвеєр
generator, вказавши відповідне завдання для генерування тексту. - Доповніть
prompt, включившиtextіresponseу f-рядок. - Завершіть налаштування конвеєра моделі, вказавши максимальну довжину 150 токенів і встановивши
pad_token_idяк токен завершення послідовності.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])