1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Làm việc với Llama 3
Connected

Bài tập

Đảm bảo phản hồi an toàn

Bạn đang cấu hình một chatbot nội bộ cho đội ngũ y tế. Để đảm bảo phản hồi nhất quán, bạn cần giảm mức độ biến thiên bằng cách đặt giới hạn token và giới hạn cách chọn token.

Bạn đã được cung cấp một thể hiện lớp Llama trong biến llm và đoạn mã để gọi completion. Bạn cũng có một prompt mẫu để thử nghiệm.

Hướng dẫn

100 XP
  • Thiết lập tham số mô hình để số token tối đa bị giới hạn ở mười token, và mô hình chỉ chọn giữa hai từ có xác suất cao nhất tại mỗi bước completion.