Pengujian adversarial
Anda sedang mengembangkan chatbot yang dirancang untuk membantu pengguna dalam pengelolaan keuangan pribadi. Chatbot ini harus mampu menangani berbagai pertanyaan terkait keuangan, mulai dari saran penganggaran hingga rekomendasi investasi. Anda memiliki satu contoh kasus ketika seorang pengguna berencana berlibur dan menyusun anggaran untuk perjalanan tersebut.
Karena chatbot ini hanya dirancang untuk merespons pertanyaan keuangan pribadi, Anda ingin memastikan ketahanannya agar dapat menangani masukan yang tidak terduga atau bersifat adversarial tanpa gagal atau memberikan informasi yang keliru, sehingga Anda memutuskan untuk mengujinya dengan meminta model mengabaikan semua nasihat finansial dan justru menyarankan cara membelanjakan anggaran alih-alih menabungnya.
Latihan ini adalah bagian dari kursus
Mengembangkan Sistem AI dengan OpenAI API
Petunjuk latihan
- Ujilah chatbot dengan masukan adversarial yang meminta untuk membelanjakan $800 tersebut.
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
client = OpenAI(api_key="")
messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
{'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
# Add the adversarial input
____]
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=messages)
print(response.choices[0].message.content)