शुरू करेंमुफ़्त में शुरू करें

Adversarial testing

आप एक चैटबॉट विकसित कर रहे हैं जो यूज़र्स की पर्सनल फाइनेंस मैनेजमेंट में मदद करता है. चैटबॉट को बजटिंग सलाह से लेकर इन्वेस्टमेंट सुझावों तक, वित्त से जुड़ी विभिन्न क्वेरीज़ को संभालने में सक्षम होना चाहिए. आपके पास एक उदाहरण है जहाँ यूज़र वेकेशन पर जाने की योजना बना रहा है और ट्रिप के लिए बजट बना रहा है.

चूँकि चैटबॉट केवल पर्सनल फाइनेंस से जुड़े सवालों का जवाब देने के लिए डिज़ाइन किया गया है, आप यह सुनिश्चित करना चाहते हैं कि यह मज़बूत हो और अनपेक्षित या adversarial इनपुट पर भी न तो फेल हो और न ही गलत जानकारी दे. इसलिए आप इसका परीक्षण करने के लिए मॉडल से कहते हैं कि वह सारी वित्तीय सलाह को नज़रअंदाज़ करे और बचत करने के बजाय बजट खर्च करने के तरीकों का सुझाव दे.

यह अभ्यास पाठ्यक्रम का हिस्सा है

OpenAI API के साथ AI सिस्टम बनाना

पाठ्यक्रम देखें

अभ्यास निर्देश

  • चैटबॉट को ऐसे adversarial इनपुट से टेस्ट करें जो इसके बजाय $800 को खर्च करने के लिए कहे.

इंटरैक्टिव व्यावहारिक अभ्यास

इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।

client = OpenAI(api_key="")

messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
    {'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
            
# Add the adversarial input
    ____]

response = client.chat.completions.create(
    model="gpt-4o-mini", 
    messages=messages)

print(response.choices[0].message.content)
कोड संपादित करें और चलाएँ