1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Phát triển hệ thống AI với OpenAI API
Connected

Bài tập

Thiết lập giới hạn token

Một nền tảng thương mại điện tử vừa thuê bạn để cải thiện hiệu năng của bot chăm sóc khách hàng được xây dựng bằng OpenAI API. Bạn quyết định bắt đầu bằng cách đảm bảo các tin nhắn đầu vào không gây ra vấn đề giới hạn tốc độ bằng cách đặt giới hạn 100 token, và kiểm thử với một tin nhắn mẫu.

Thư viện tiktoken đã được nạp sẵn.

Hướng dẫn

100 XP
  • Dùng thư viện tiktoken để tạo encoding cho mô hình gpt-4o-mini.
  • Kiểm tra số lượng token dự kiến trong tin nhắn đầu vào.
  • In phản hồi nếu tin nhắn vượt qua cả hai bước kiểm tra.