Mulai sekarangMulai gratis

Meminta moderasi

Selain model penyelesaian teks dan chat, OpenAI menyediakan model dengan kemampuan lain, termasuk moderation teks. Model moderasi teks OpenAI dirancang untuk mengevaluasi prompt dan respons guna menentukan apakah keduanya melanggar kebijakan penggunaan OpenAI, termasuk hasutan ujaran kebencian dan promosi kekerasan.

Dalam latihan ini, Anda akan mencoba fungsi moderasi OpenAI pada sebuah kalimat yang mungkin ditandai mengandung konten kekerasan oleh algoritma deteksi kata tradisional.

Latihan ini merupakan bagian dari kursus

Sistem Multi-Modal dengan OpenAI API

Lihat Kursus

Instruksi latihan

  • Periksa apakah "My favorite book is To Kill a Mockingbird." melanggar kebijakan OpenAI menggunakan endpoint Moderations.
  • Cetak skor kategori untuk melihat hasilnya.

Latihan interaktif langsung praktik

Cobalah latihan ini dengan melengkapi kode contoh ini.

client = OpenAI(api_key="")

# Create a request to the Moderation endpoint
response = client.____.____(
    ____="My favorite book is To Kill a Mockingbird."
)

# Print the category scores
print(response.results[0].____)
Edit dan Jalankan Kode