İçerik denetimi isteği
Metin ve sohbet tamamlama modellerinin yanı sıra, OpenAI metin içerik denetimi gibi başka yeteneklere sahip modeller de sağlar. OpenAI'nin metin içerik denetimi modeli, nefret söylemini kışkırtma ve şiddeti teşvik etme gibi OpenAI kullanım politikalarını ihlal edip etmediğini belirlemek için istemleri ve yanıtları değerlendirmek üzere tasarlanmıştır.
Bu egzersizde, geleneksel kelime tespit algoritmalarıyla şiddet içeriği içerdiği gerekçesiyle işaretlenmiş olabilecek bir cümle üzerinde OpenAI'nin içerik denetimi işlevini deneyeceksin.
Bu egzersiz, kursun bir parçasıdır
OpenAI API ile Çok Modlu Sistemler
Egzersiz talimatları
- Moderations uç noktasını kullanarak
"My favorite book is To Kill a Mockingbird."ifadesinin OpenAI’nin politikalarını ihlal edip etmediğini kontrol et. - Sonuçları görmek için kategori puanlarını yazdır.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)