当时间有点重要时
您已经学习了机器学习服务可接受的延迟会如何影响您选择的服务模式。
有时用户可以等待数天，甚至数周。有时，1 秒都嫌多。
期望延迟越低，工程挑战越大，服务成本也越高。因此，请避免过度工程化，让 ML 服务的设计与用户的实际需求和他们愿意支付的成本相匹配。
例如，假设您正在构建一个用于分析和总结大型 .pdf 文档的 ML 服务。如果用户告诉您，他们希望在发出请求后的 5 分钟内收到服务输出，那么对此用例最合理的服务模式是：
本练习是课程的一部分
您已经学习了机器学习服务可接受的延迟会如何影响您选择的服务模式。
有时用户可以等待数天，甚至数周。有时，1 秒都嫌多。
期望延迟越低，工程挑战越大，服务成本也越高。因此，请避免过度工程化，让 ML 服务的设计与用户的实际需求和他们愿意支付的成本相匹配。
例如，假设您正在构建一个用于分析和总结大型 .pdf 文档的 ML 服务。如果用户告诉您，他们希望在发出请求后的 5 分钟内收到服务输出，那么对此用例最合理的服务模式是：
本练习是课程的一部分
