텍스트 생성하기
LLM은 다양한 기능을 갖고 있으며, 그중에서도 텍스트 생성이 가장 널리 사용됩니다.
text에 있는 고객 리뷰에 대한 답변을 생성해야 합니다. 여기에는 앞서 보았던 Riverview Hotel의 고객 리뷰가 동일하게 포함되어 있습니다.
pipeline 모듈은 미리 로드되어 있습니다.
이 연습은 강의의 일부입니다
Python으로 배우는 LLM 입문
연습 안내
- 텍스트 생성을 위한 적절한 작업을 지정하여
generator파이프라인을 초기화하세요. - f-string에서
text와response를 포함해prompt를 완성하세요. - 최대 길이를 토큰 150개로 지정하고,
pad_token_id를 시퀀스 종료 토큰으로 설정하여 모델 파이프라인을 완성하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])