LoslegenKostenlos starten

Streaming mit Funktionsaufrufen

Du hast bereits gesehen, wie viele Anwendungsfälle sich mit LLMs und Funktionsaufrufen eröffnen, die eigene Event-Typen haben. Das ist hilfreich, um Nutzer:innen in Echtzeit Feedback zu geben, wenn das Modell dabei ist, ein Tool aufzurufen, oder um die Tool-Nutzung per Logging nachzuverfolgen.

Die Funktion convert_timezone(), die du zuvor definiert hast, um Datetimes zwischen Zeitzonen umzuwandeln, sowie eine tools-Liste mit der Funktionsdefinition für die Responses API wurden für dich vorbereitet.

Diese Übung ist Teil des Kurses

<Kurs>Arbeiten mit der OpenAI Responses API</Kurs>
Kurs ansehen

Übungsanweisungen

  • Vervollständige den streaming-Context-Manager, indem du client.responses.create() mit dem Modell "gpt-5.4-mini", dem prompt und der tools-Liste aufrufst.
  • Prüfe innerhalb der Schleife, ob "function_call_arguments.delta"-Events auftreten.
  • Füge eine Bedingung hinzu, die auf "function_call_arguments.done"-Events prüft.
  • Füge eine abschließende Bedingung hinzu, die prüft, ob der Event-Typ "response.completed" ist, und gib eine abschließende Abschlussmeldung aus.

Interaktive praktische Übung

Versuche dich an dieser Übung, indem du diesen Beispielcode vervollständigst.

prompt = "What time is 2:30pm on January 20th in New York in Tokyo time?"

# Open the streaming connection and enable tool-calling
with ____ as stream:
    for event in stream:
        # Filter for function call arguments delta events
        if ____:
            print(f"\nTool args streaming: {event.delta}")
        # Filter for function call arguments complete events
        elif ____:
            print("Tool call args complete.")
        # Filter for response completed events
        elif ____:
            print("\n--- Completed ---")
Code bearbeiten und ausführen