Quiz Question 2
A new AI service for a real-time chatbot is experiencing inconsistent response times, especially during traffic spikes. The development team suspects that multiple models deployed on the same cluster are competing for GPU resources. Which GKE tool is designed to intelligently route requests to the least-loaded model instance and improve throughput?
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
AI Infrastructure: Deployment Types
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำจริง
เปลี่ยนทฤษฎีให้เป็นการลงมือทำด้วยแบบฝึกหัดเชิงโต้ตอบหนึ่งในของเรา
เริ่มแบบฝึกหัด