Надсилання запиту на модерацію
Окрім моделей для генерування тексту та чат-Completion, OpenAI надає моделі з іншими можливостями, зокрема для модерації тексту. Модель модерації OpenAI призначена для оцінювання підказок і відповідей, щоб визначити, чи порушують вони політики використання OpenAI, зокрема чи не підбурюють до мови ворожнечі або насильства.
У цій вправі ви протестуєте функціональність модерації OpenAI на реченні, яке традиційні алгоритми виявлення за ключовими словами могли б позначити як таке, що містить насильницький контент.
Ця вправа є частиною курсу
Мультимодальні системи з OpenAI API
Інструкції до вправи
- Перевірте, чи
"My favorite book is To Kill a Mockingbird."порушує політики OpenAI за допомогою кінцевої точки Moderations. - Виведіть оцінки категорій, щоб переглянути результати.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)