고객 지원 응답 유도하기
여러분은 이커머스 회사에서 근무하며 Llama를 고객 지원 도우미에 통합하고 있어요. 이 도우미는 자주 묻는 질문에 답하지만, 응답이 너무 반복적이라는 점을 발견했어요.
응답의 유익함은 유지하면서도 표현을 더 다양하게 만들도록 디코딩 매개변수를 조정해야 해요.
모델은 이미 llama_cpp를 사용해 초기화되었고 llm에 저장되어 있어요.
이 연습은 강의의 일부입니다
Llama 3 다루기
연습 안내
- 응답이 덜 반복적이고 더 역동적이 되도록
temperature매개변수를 설정하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])