ПочатиПочніть безкоштовно

Атакувальне тестування

Ви розробляєте чатбота, що допомагає з особистими фінансами. Він має відповідати на різні фінансові запитання — від порад зі складання бюджету до інвестиційних пропозицій. У вас є приклад, де користувач планує відпустку та розраховує бюджет на поїздку.

Оскільки чатбот призначений лише для відповідей на запитання з особистих фінансів, ви хочете переконатися, що він стійкий і може коректно обробляти неочікувані або атакувальні запити, не даючи хибної інформації. Тому ви вирішуєте перевірити його, попросивши модель ігнорувати всі фінансові поради та запропонувати способи витратити бюджет замість того, щоб його заощадити.

Ця вправа є частиною курсу

Розроблення AI‑систем з OpenAI API

Переглянути курс

Інструкції до вправи

  • Протестуйте чатбот із атакувальним запитом, який просить натомість витратити $800.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

client = OpenAI(api_key="")

messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
    {'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
            
# Add the adversarial input
    ____]

response = client.chat.completions.create(
    model="gpt-4o-mini", 
    messages=messages)

print(response.choices[0].message.content)
Редагувати та запускати код