Moderowanie rozmowy z klientem
Aby zapewnić jakość i bezpieczeństwo, przeprowadź teraz moderację przetworzonej wiadomości klienta. Ten krok pomaga wykrywać i oznaczać potencjalnie nieodpowiednie treści, takie jak nękanie.
Poprawiony transkrypt z poprzedniego ćwiczenia jest dostępny jako corrected_text.
To ćwiczenie jest częścią kursu
Systemy multimodalne z OpenAI API
Instrukcje do ćwiczenia
- Utwórz żądanie moderacji, używając
corrected_textjako danych wejściowych. - Wyodrębnij wyniki kategorii z odpowiedzi i przekonwertuj je na słownik za pomocą
.model_dump(). - Wyodrębnij wynik kategorii nękania ze słownika
scoresi sprawdź, czy jest on większy niż0.8.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
# Extract harassment score
harassment_score = ____
if ____:
print("Content flagged for harassment!")
else:
print("Content is safe from harassment.")