1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Multimodální systémy s OpenAI API
Connected

cvičení

Moderování odpovědi modelu

I když chatbot vygeneroval odpověď na míru, je důležité ověřit, že je obsah bezpečný k odeslání zákazníkovi. V tomto kroku odpověď zmoderuješ a zkontrololuješ, že všechna skóre kategorií jsou pod prahem bezpečnosti zákazníka.

Odpověď modelu z předchozího cvičení je dostupná jako chatbot_reply.

Pokyny

100 XP
  • Pošli požadavek na moderování s chatbot_reply jako vstupem.
  • Extrahuj skóre kategorií z odpovědi, převeď je na slovník pomocí .model_dump() a zkontroluj, zda některé skóre překračuje 0.7.