Moderacja odpowiedzi modelu
Chatbot wygenerował dopasowaną odpowiedź, ale zanim trafi ona do klienta, warto sprawdzić, czy jest bezpieczna. W tym kroku przeprowadzisz moderację odpowiedzi i upewnisz się, że wszystkie wyniki w poszczególnych kategoriach mieszczą się poniżej progu bezpieczeństwa.
Odpowiedź modelu z poprzedniego ćwiczenia jest dostępna jako chatbot_reply.
To ćwiczenie jest częścią kursu
Systemy multimodalne z OpenAI API
Instrukcje do ćwiczenia
- Wyślij żądanie moderacji, przekazując
chatbot_replyjako dane wejściowe. - Pobierz wyniki kategorii z odpowiedzi, przekonwertuj je na słownik za pomocą
.model_dump()i sprawdź, czy którykolwiek wynik przekracza0.7.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")