发起内容审核请求
除了文本和聊天补全模型，OpenAI 还提供具备其他能力的模型，例如文本「moderation」（内容审核）。OpenAI 的文本审核模型用于评估提示与回复，判断它们是否违反 OpenAI 的使用政策，包括煽动仇恨言论或宣扬暴力等。
在本练习中，您将把 OpenAI 的审核功能用于一句话。按传统的关键词检测算法，这句话可能会被标记为包含暴力内容。
本练习是课程的一部分
使用 OpenAI API 的多模态系统
练习说明
- 使用 Moderations 端点检查
"My favorite book is To Kill a Mockingbird."是否违反 OpenAI 的政策。 - 打印各分类的评分以查看结果。
交互式实操练习
通过完成这段示例代码来试试这个练习。
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)