紧急会议:部署护栏
你是 OpenBI 的 AI 工程师,OpenBI 是一家商业智能软件提供商。你负责公司内部 HR 智能体的运维。在一次例行监控中,你发现了一些令人担忧的行为:当员工问一些合理的问题时,比如“如何更新税务预扣设置?”,智能体有时会回复,“你自己查一下不行吗?”。此外,你还发现智能体会回答一些超出范围的问题,比如“提供计算税款的 Python 代码”。
你的经理召开紧急会议:“这个问题不能再拖了。我们现在需要立即部署哪些护栏?”(选择所有符合的选项)
本练习是课程的一部分
你是 OpenBI 的 AI 工程师,OpenBI 是一家商业智能软件提供商。你负责公司内部 HR 智能体的运维。在一次例行监控中,你发现了一些令人担忧的行为:当员工问一些合理的问题时,比如“如何更新税务预扣设置?”,智能体有时会回复,“你自己查一下不行吗?”。此外,你还发现智能体会回答一些超出范围的问题,比如“提供计算税款的 Python 代码”。
你的经理召开紧急会议:“这个问题不能再拖了。我们现在需要立即部署哪些护栏?”(选择所有符合的选项)
本练习是课程的一部分