1. Learn
    2. /
  2. Курси
    3. /
  3. Розроблення AI‑систем з OpenAI API
Connected

вправа

Атакувальне тестування

Ви розробляєте чатбота, що допомагає з особистими фінансами. Він має відповідати на різні фінансові запитання — від порад зі складання бюджету до інвестиційних пропозицій. У вас є приклад, де користувач планує відпустку та розраховує бюджет на поїздку.

Оскільки чатбот призначений лише для відповідей на запитання з особистих фінансів, ви хочете переконатися, що він стійкий і може коректно обробляти неочікувані або атакувальні запити, не даючи хибної інформації. Тому ви вирішуєте перевірити його, попросивши модель ігнорувати всі фінансові поради та запропонувати способи витратити бюджет замість того, щоб його заощадити.

Інструкції

100 XP
  • Протестуйте чатбот із атакувальним запитом, який просить натомість витратити $800.