Moderasi respons model
Meskipun chatbot telah menghasilkan respons yang disesuaikan, penting untuk memastikan kontennya aman untuk dikirim ke pelanggan. Pada langkah ini, Anda akan memoderasi respons untuk memastikan semua skor kategori berada di bawah ambang batas keamanan pelanggan.
Balasan model dari latihan sebelumnya tersedia sebagai chatbot_reply.
Latihan ini merupakan bagian dari kursus
Sistem Multi-Modal dengan OpenAI API
Instruksi latihan
- Kirim permintaan moderasi dengan
chatbot_replysebagai masukan. - Ekstrak skor kategori dari respons, ubah menjadi dictionary menggunakan
.model_dump(), dan periksa apakah ada skor yang melebihi0.7.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")