1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Systemy multimodalne z OpenAI API
Connected

cvičení

Moderacja odpowiedzi modelu

Chatbot wygenerował dopasowaną odpowiedź, ale zanim trafi ona do klienta, warto sprawdzić, czy jest bezpieczna. W tym kroku przeprowadzisz moderację odpowiedzi i upewnisz się, że wszystkie wyniki w poszczególnych kategoriach mieszczą się poniżej progu bezpieczeństwa.

Odpowiedź modelu z poprzedniego ćwiczenia jest dostępna jako chatbot_reply.

Pokyny

100 XP
  • Wyślij żądanie moderacji, przekazując chatbot_reply jako dane wejściowe.
  • Pobierz wyniki kategorii z odpowiedzi, przekonwertuj je na słownik za pomocą .model_dump() i sprawdź, czy którykolwiek wynik przekracza 0.7.