प्रॉम्प्ट इंजेक्शन कम करना
आप ऑनलाइन बैंकिंग के लिए कस्टमर सर्विस चैटबॉट बना रहे हैं और टीम ने आपको बताया है कि एक चिंता यह है कि दुर्भावनापूर्ण उपयोगकर्ता प्रॉम्प्ट इंजेक्शन का इस्तेमाल करके उपयोगकर्ता से संवेदनशील जानकारी निकलवा सकते हैं. जो चैटबॉट आप बना रहे हैं, उसे केवल उच्च-स्तरीय सवालों के जवाब देने चाहिए और व्यक्तिगत जानकारी के विवरण में नहीं जाना चाहिए.
निम्न में से कौन-सी तकनीकें दुर्भावनापूर्ण उपयोगकर्ताओं से प्रॉम्प्ट इंजेक्शन के जोखिम को कम करने के लिए उपयोगी हैं?
यह अभ्यास पाठ्यक्रम का हिस्सा है
OpenAI API के साथ AI सिस्टम बनाना
इंटरैक्टिव व्यावहारिक अभ्यास
हमारे इंटरैक्टिव अभ्यासों में से किसी एक के साथ सिद्धांत को व्यवहार में बदलें
अभ्यास शुरू करें