서비스 종료(Decommissioning)

이 장에서는 운영 단계에 진입했을 때 매끄럽게 진행될 수 있도록, 개발 단계에서 미리 고려해야 할 사항들을 다룹니다. 궁극적인 목표는 MLOps 모범 사례로 모델을 학습시키고, 원활한 배포와 재현성, 배포 후 모니터링을 가능하게 하는 모델 패키지를 구축하는 방법을 설명하는 것입니다.

Exercise 1: 배포 중심 개발 Exercise 2: Machine Learning 모델 테스트하기 Exercise 3: 배포를 시작하기 가장 좋은 시점 Exercise 4: 프로파일링, 버저닝, 그리고 피처 스토어 Exercise 5: Feature store의 속성 Exercise 6: 프로파일링과 Feature store의 이점 Exercise 7: 재현성 보장하기 Exercise 8: CI/CD에서의 모델 빌드 파이프라인 Exercise 9: 서로 다른 파이프라인 Exercise 10: 모델 빌드 파이프라인의 속성 Exercise 11: CI/CD 통합 Exercise 12: 모델 패키징 Exercise 13: 모델 포맷 Exercise 14: 완전한 패키지

이 장에서는 다음과 같은 핵심 모델 운영 질문을 다룹니다: - 모델을 서빙하는 방식에는 어떤 것들이 있나요? - API란 무엇이며, 핵심 기능은 무엇인가요? - 최종 사용자에게 공개하기 전에 서비스를 철저히 테스트하려면 어떻게 해야 하나요? - 서비스 중단 없이 프로덕션 환경의 모델을 어떻게 업데이트하나요? 배치 예측, 실시간 예측, 입력 및 출력 데이터 검증, 단위 테스트, 통합 테스트, 카나리 배포 등 다양한 주제를 학습합니다.

Exercise 1: 서빙 모드 Exercise 2: 오프라인일까요, 온라인일까요?Exercise 3: 시간이 조금 중요할 때 Exercise 4: API 구축하기 Exercise 5: 클라이언트-서버 Exercise 6: API 기능 Exercise 7: 배포 진행 단계와 테스트 Exercise 8: 어떤 테스트일까요?Exercise 9: 환경을 통한 점진적 진행 Exercise 10: 환경별 테스트 Exercise 11: 모델 배포 전략 Exercise 12: 상황에 맞는 배포 전략 Exercise 13: 위험도 순서 Exercise 14: 그림자의 그림자

마지막 장에서는 배포된 ML 서비스를 모니터링하고 유지 관리하는 방법과 모델 거버넌스를 다룹니다. 검증 지연(Verification latency), 공변량 이동(Covariate shift), 컨셉 드리프트(Concept drift), 인간 개입형 시스템(Human-in-the-loop) 등 중요한 개념을 학습합니다.

Exercise 1: ML 서비스 모니터링 Exercise 2: Shift vs drift Exercise 3: 지연 시간 Exercise 4: 벌써요?Exercise 5: 모니터링과 경보 Exercise 6: 모니터링 시스템 Exercise 7: 알림 설정 Exercise 8: 모델 유지 관리 Exercise 9: Data-centric vs Model-centric Exercise 10: Human-in-the-Loop Exercise 11: 모델 거버넌스 Exercise 12: 거버넌스의 구성 요소 Exercise 13: 거버넌스의 단계 Exercise 14: 위험 분류 Exercise 15: 마무리