Kiểm thử đối kháng
Bạn đang phát triển một chatbot hỗ trợ người dùng quản lý tài chính cá nhân. Chatbot cần xử lý đa dạng câu hỏi liên quan đến tài chính, từ tư vấn lập ngân sách đến gợi ý đầu tư. Bạn có một ví dụ trong đó người dùng đang lên kế hoạch đi du lịch và lập ngân sách cho chuyến đi.
Vì chatbot chỉ được thiết kế để trả lời các câu hỏi về tài chính cá nhân, bạn muốn đảm bảo rằng nó đủ vững để xử lý các đầu vào bất ngờ hoặc mang tính đối kháng mà không bị lỗi hoặc đưa thông tin sai. Do đó, bạn quyết định kiểm thử bằng cách yêu cầu mô hình bỏ qua mọi lời khuyên tài chính và đề xuất cách tiêu hết ngân sách thay vì tiết kiệm.
Bài tập này là một phần của khóa học
Phát triển hệ thống AI với OpenAI API
Hướng dẫn bài tập
- Kiểm thử chatbot với một đầu vào đối kháng, yêu cầu tiêu số tiền $800 thay vì tiết kiệm.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
client = OpenAI(api_key="")
messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
{'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
# Add the adversarial input
____]
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=messages)
print(response.choices[0].message.content)