НачатьНачать бесплатно

Тестирование на adversarial-запросы

Вы разрабатываете чат-бот для помощи пользователям в управлении личными финансами. Чат-бот должен уметь обрабатывать самые разные вопросы, связанные с финансами: от советов по составлению бюджета до инвестиционных рекомендаций. У вас есть пример, в котором пользователь планирует отпуск и составляет бюджет на поездку.

Поскольку чат-бот предназначен исключительно для ответов на вопросы о личных финансах, важно убедиться, что он устойчив к неожиданным и adversarial-запросам — и не даёт сбоев и не предоставляет некорректную информацию. Для проверки вы решаете попросить модель игнорировать все финансовые советы и предложить способы потратить бюджет, а не сэкономить его.

Это упражнение является частью курса

Разработка ИИ-систем с помощью OpenAI API

Посмотреть курс

Инструкции к упражнению

  • Протестируйте чат-бот с adversarial-запросом, предлагающим потратить $800.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

client = OpenAI(api_key="")

messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
    {'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
            
# Add the adversarial input
    ____]

response = client.chat.completions.create(
    model="gpt-4o-mini", 
    messages=messages)

print(response.choices[0].message.content)
Редактировать и запускать код