Gedanken aus Ausgaben entfernen
Eine der großen Stärken von Reasoning-Modellen ist ihr Denkprozess, der in ihren Thinking-Tokens festgehalten wird. In Multi-Turn-Unterhaltungen in Chatbots kann das Speichern und Verarbeiten all dieser zusätzlichen Tokens jedoch problematisch werden.
Ein Ansatz ist, die Ausgaben des Modells von ihren „Gedanken“ (dem Denk-Inhalt) zu bereinigen. Das kannst du mit regulären Ausdrücken (RegEx) tun. Probiere das an einer Beispielantwort aus, die im String response_content gespeichert ist.
Diese Übung ist Teil des Kurses
Arbeiten mit DeepSeek in Python
Anleitung zur Übung
- Entferne die Thinking-Tokens und Tags aus dem String
response_contentmithilfe des gegebenen RegEx-Musters. - Entferne bei
final_responseführende und nachgestellte Leerzeichen.
Interaktive Übung
Vervollständige den Beispielcode, um diese Übung erfolgreich abzuschließen.
import re
# Remove the thinking tokens and tags
final_response = re.____(r'[\s\S]*?<\/think>\s*', ____, ____, re.DOTALL)
# Strip final_response of whitespace
print(final_response.____())