Zaman önemli olduğunda - biraz

Machine Learning servisinin kabul edilebilir gecikmesi, uygulayacağın sunum modunun seçimini nasıl etkileyeceğini öğrendin.

Bazen kullanıcılar günlerce, hatta haftalarca bekleyebilir. Bazen ise bir saniye bile çok fazladır.

Beklenen gecikme ne kadar düşükse, mühendislik zorlukları ve servisinin maliyeti o kadar artar. Bu yüzden aşırı mühendislikten kaçın ve ML servisinin tasarımını kullanıcıların ihtiyaç duyduğuyla ve ödemeye razı olduklarıyla eşleştir.

Örneğin, büyük .pdf belgelerini analiz edip özetleyen bir ML servisi kurduğunu düşün. Kullanıcıların, bir istekte bulunduktan sonra servisinin çıktısını 5 dakika içinde almak istediklerini söylüyorsa, bu kullanım durumun için en makul sunum modu şunlardan hangisi olurdu:

Bu egzersiz

MLOps Dağıtımı ve Yaşam Döngüsü

kursunun bir parçasıdır

Kursu Görüntüle

Uygulamalı interaktif egzersiz

İnteraktif egzersizlerimizden biriyle teoriyi pratiğe dökün

Egzersizi başlat

Bu egzersiz

MLOps Dağıtımı ve Yaşam Döngüsü

kursunun bir parçasıdır

AvançadoNível de habilidade

4.8+

Kursa Ücretsiz Başlayın

This chapter gives a high-level overview of MLOps principles and framework components important for deployment and life cycling.

Exercise 1: The modern MLOps framework Exercise 2: ML workflows Exercise 3: MLOps benefits Exercise 4: Life-cycling stages Exercise 5: App vs. model Exercise 6: Decommissioning Exercise 7: The model life cycle: recap Exercise 8: MLOps components Exercise 9: Automated sequence Exercise 10: Stores and registries Exercise 11: DevOps or MLOps?

This chapter is dedicated to all the considerations we need to make already in the development phase, in order to ensure a smooth ride when we reach the operations. Our ultimate goal is to explain how to train the model using MLOps best practices and build a model package that enables smooth deployment, reproducibility and post-deployment monitoring.

Exercise 1: Deployment-driven development Exercise 2: Testing your machine learning model Exercise 3: Best time to start deploying Exercise 4: Profiling, versioning, and feature stores Exercise 5: Feature store properties Exercise 6: Profiling and feature store benefits Exercise 7: Ensuring reproducibility Exercise 8: Model build pipelines in CI/CD Exercise 9: Different pipelines Exercise 10: Model build pipeline properties Exercise 11: CI/CD integration Exercise 12: Model packaging Exercise 13: Model formats Exercise 14: Full package

This chapter deals with critical model operations questions such as: - What are the different ways in which we can serve our models? - What is an API, and what are its key functionalities? - How do we thoroughly test our service before making it available to the end users? - How do we update models in production without service disturbance? You will learn about batch prediction, real-time prediction, input and output data validation, unit testing, integration testing, canary deployment, and much more.

Exercise 1: Sunum modları Exercise 2: Çevrimdışı mı çevrimiçi mi?Exercise 3: Zaman önemli olduğunda - biraz

Geçerli Egzersiz

Exercise 4: API'yi oluşturma Exercise 5: İstemci-sunucu Exercise 6: API işlevleri Exercise 7: Dağıtım ilerlemesi ve test etme Exercise 8: Hangi test?Exercise 9: Ortamlar arasında ilerleme Exercise 10: Ortam başına testler Exercise 11: Model dağıtım stratejileri Exercise 12: Uygun bir dağıtım stratejisi Exercise 13: Risk sırası Exercise 14: Gölgenin gölgesi

This final chapter is dedicated to monitoring and maintaining ML services after they are deployed, as well as to model governance. You will cover crucial concepts such as verification latency, covariate shift, concept drift, human-in-the-loop systems, and more.

Exercise 1: Monitoring ML services Exercise 2: Shift vs drift Exercise 3: Latency Exercise 4: Already?Exercise 5: Monitoring and alerting Exercise 6: The monitoring system Exercise 7: Alerting Exercise 8: Model maintenance Exercise 9: Data-centric vs Model-centric Exercise 10: Human-in-the-Loop Exercise 11: Model governance Exercise 12: Elements of governance Exercise 13: Stages of governance Exercise 14: Risk classification Exercise 15: Wrap up