Gửi yêu cầu kiểm duyệt
Bên cạnh các mô hình sinh văn bản và chat, OpenAI còn cung cấp các mô hình với năng lực khác, bao gồm kiểm duyệt văn bản. Mô hình kiểm duyệt văn bản của OpenAI được thiết kế để đánh giá prompt và câu trả lời nhằm xác định liệu chúng có vi phạm chính sách sử dụng của OpenAI hay không, bao gồm kích động thù hằn và cổ súy bạo lực.
Trong bài tập này, bạn sẽ thử tính năng kiểm duyệt của OpenAI trên một câu có thể đã bị gắn cờ là chứa nội dung bạo lực nếu dùng các thuật toán phát hiện từ khóa truyền thống.
Bài tập này là một phần của khóa học
Hệ thống đa phương thức với OpenAI API
Hướng dẫn bài tập
- Kiểm tra xem
"My favorite book is To Kill a Mockingbird."có vi phạm chính sách của OpenAI hay không bằng endpoint Moderations. - In điểm cho từng danh mục (category scores) để xem kết quả.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)