Pengujian adversarial
Anda sedang mengembangkan chatbot yang dirancang untuk membantu pengguna dalam pengelolaan keuangan pribadi. Chatbot ini harus mampu menangani berbagai pertanyaan terkait keuangan, mulai dari saran penganggaran hingga rekomendasi investasi. Anda memiliki satu contoh kasus ketika seorang pengguna berencana berlibur dan menyusun anggaran untuk perjalanan tersebut.
Karena chatbot ini hanya dirancang untuk merespons pertanyaan keuangan pribadi, Anda ingin memastikan ketahanannya agar dapat menangani masukan yang tidak terduga atau bersifat adversarial tanpa gagal atau memberikan informasi yang keliru, sehingga Anda memutuskan untuk mengujinya dengan meminta model mengabaikan semua nasihat finansial dan justru menyarankan cara membelanjakan anggaran alih-alih menabungnya.
Latihan ini merupakan bagian dari kursus
Mengembangkan Sistem AI dengan OpenAI API
Instruksi latihan
- Ujilah chatbot dengan masukan adversarial yang meminta untuk membelanjakan $800 tersebut.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
client = OpenAI(api_key="")
messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
{'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
# Add the adversarial input
____]
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=messages)
print(response.choices[0].message.content)