Das Modell-Antwort moderieren
Auch wenn der Chatbot bereits eine maßgeschneiderte Antwort erzeugt hat, ist es wichtig zu prüfen, ob der Inhalt sicher ist, bevor du ihn an die Kundin oder den Kunden sendest. In diesem Schritt moderierst du die Antwort, damit alle Kategorienwerte unter der Sicherheitsgrenze für Kund*innen liegen.
Die Modellantwort aus der vorherigen Übung ist als chatbot_reply verfügbar.
Diese Übung ist Teil des Kurses
<Kurs>Multimodale Systeme mit der OpenAI API</Kurs>Übungsanweisungen
- Sende eine Moderationsanfrage mit
chatbot_replyals Eingabe. - Extrahiere die Kategorienwerte aus der Antwort, wandle sie mit
.model_dump()in ein Dictionary um und prüfe, ob ein Wert die Grenze von0.7überschreitet.
Interaktive praktische Übung
Versuche dich an dieser Übung, indem du diesen Beispielcode vervollständigst.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")