이 장에서는 배포와 라이프사이클링에 중요한 MLOps 원칙과 프레임워크 구성 요소를 높은 수준에서 개괄합니다.

ML 워크플로

MLOps의 이점

수명 주기 단계

앱 vs. 모델

서비스 종료(Decommissioning)

모델 수명 주기: 복습

MLOps 구성 요소

자동화된 일련의 단계

스토어와 레지스트리

DevOps인가, MLOps인가?

한눈에 보는 MLOps

이 장에서는 운영 단계에 진입했을 때 매끄럽게 진행될 수 있도록, 개발 단계에서 미리 고려해야 할 사항들을 다룹니다.

궁극적인 목표는 MLOps 모범 사례로 모델을 학습시키고, 원활한 배포와 재현성, 배포 후 모니터링을 가능하게 하는 모델 패키지를 구축하는 방법을 설명하는 것입니다.

배포 중심 개발

Machine Learning 모델 테스트하기

배포를 시작하기 가장 좋은 시점

프로파일링, 버저닝, 그리고 피처 스토어

Options

True

False

Feature store의 속성

Feature store

Data profiling

프로파일링과 Feature store의 이점

재현성 보장하기

CI/CD에서의 모델 빌드 파이프라인

옵션

모델 파이프라인

모델 BUILD 파이프라인

서로 다른 파이프라인

거짓

모델 빌드 파이프라인의 속성

Pipeline input sources

Pipeline output storage

CI/CD 통합

모델 패키징

모델 포맷

모델 패키지

모델 패키지 아님

완전한 패키지

배포를 위한 개발

이 장에서는 다음과 같은 핵심 모델 운영 질문을 다룹니다:
- 모델을 서빙하는 방식에는 어떤 것들이 있나요?
- API란 무엇이며, 핵심 기능은 무엇인가요?
- 최종 사용자에게 공개하기 전에 서비스를 철저히 테스트하려면 어떻게 해야 하나요?
- 서비스 중단 없이 프로덕션 환경의 모델을 어떻게 업데이트하나요?

배치 예측, 실시간 예측, 입력 및 출력 데이터 검증, 단위 테스트, 통합 테스트, 카나리 배포 등 다양한 주제를 학습합니다.

서빙 모드

오프라인일까요, 온라인일까요?

시간이 조금 중요할 때

API 구축하기

클라이언트-서버

API 기능

배포 진행 단계와 테스트

어떤 테스트일까요?

환경을 통한 점진적 진행

환경별 테스트

모델 배포 전략

상황에 맞는 배포 전략

위험도 순서

그림자의 그림자

배포와 운영

마지막 장에서는 배포된 ML 서비스를 모니터링하고 유지 관리하는 방법과 모델 거버넌스를 다룹니다.

검증 지연(Verification latency), 공변량 이동(Covariate shift), 컨셉 드리프트(Concept drift), 인간 개입형 시스템(Human-in-the-loop) 등 중요한 개념을 학습합니다.


ML 서비스 모니터링

Shift vs drift

지연 시간

벌써요?

모니터링과 경보

모니터링 시스템

알림 설정

모델 유지 관리

Data-centric vs Model-centric

Human-in-the-Loop

모델 거버넌스

거버넌스의 구성 요소

거버넌스의 단계

위험 분류

마무리

모니터링과 유지 관리

현대적인 MLOps 프레임워크를 살펴보며, Machine Learning 모델의 라이프사이클과 배포 과정을 다룹니다. 이 강의에서는 기술 부채를 최소화하는 ML 코드를 작성하는 방법을 배우고, 모델을 배포하고 모니터링하는 데 필요한 도구를 익히며, 다양한 환경과 분석 유형을 살펴봅니다.

데이터를 수집·준비·레이블링하고, 여러 모델로 수많은 실험을 거쳐 챔피언 모델로 개념을 입증했다면, 이제 다음 단계로 넘어갈 차례입니다. 구축(Build). 배포(Deploy). 모니터링(Monitor). 유지 관리(Maintain). 이것이 프로덕션을 목표로 하는 모델의 라이프사이클이며, 바로 MLOps의 Ops에 해당합니다.

이 강의는 가치 전달을 향한 모델 여정의 두 번째 장을 헤쳐 나가는 방법을 보여 주며, 앞으로 이어질 여러 프로젝트의 기준점을 세우는 데 도움을 드립니다.

<h2>MLOps 배포 및 라이프사이클링</h2>

머신 러닝 모델의 라이프사이클과 배포를 포함한 최신 MLOps 프레임워크를 살펴보세요. 이 강의에서는 기술 부채를 최소화하는 ML 코드를 작성하는 방법을 배우고, 모델을 배포하고 모니터링하는 데 필요한 도구를 알아보며, 마주하게 될 다양한 환경과 분석 유형을 살펴봅니다.

<h2>MLOps 라이프사이클에 대해 알아보기</h2>
데이터를 수집하고 준비하고 레이블링한 뒤, 다양한 모델로 수많은 실험을 진행하고 챔피언 모델로 개념을 입증했다면, 이제 다음 단계로 나아갈 때입니다. 구축하세요. 배포하세요. 모니터. 유지하십시오. 그것이 모델이 프로덕션에 배포될 때의 생명 주기입니다. 그것이 MLOps의 Ops 부분입니다.

이 강의는 모델의 가치 전달 여정에서 두 번째 장을 어떻게 헤쳐 나가야 하는지 보여주며, 앞으로 이어질 많은 강의들의 기준을 세워 줍니다. MLOps 라이프사이클을 살펴보며 시작하고, MLOps의 중요성과 모델 개발, 배포, 모니터링, 유지보수를 위한 핵심 기능 구성 요소를 알아봅니다.
<h2>배포를 위한 ML 코드 개발</h2>
다음으로, 배포용 모델을 개발하는 방법과 효과적인 ML 코드를 작성하고, 도구를 활용하며, ML 파이프라인을 학습시키는 방법을 배우게 됩니다. 진행하면서 모델을 배포하는 방법을 다루게 되며, 다양한 배포 환경과 각 환경을 언제 사용해야 하는지도 살펴보게 됩니다. 또한 기존 운영 모델을 대체하는 전략을 개발하고 API도 살펴보게 됩니다.
<h2>모델을 모니터링하는 방법을 배우세요</h2>
강의를 완료하면서 ML 모델을 모니터링하고 유지하는 데 핵심이 되는 성능 지표를 알아보게 됩니다. 프로덕션 환경에서의 드리프트 모니터링과 모델 피드백, 업데이트, 거버넌스에 대해 배우게 됩니다.

완료할 즈음에는 MLOps 라이프사이클을 활용해 자신의 모델을 프로덕션에 배포하는 방법을 이해하게 될 것입니다.


MLOps Concepts

이 과정에서는 최신 MLOps 프레임워크와 머신러닝 모델의 수명 주기 및 배포를 탐구합니다.

MLOps 배포와 라이프사이클링

이 과정에서는 최신 MLOps 프레임워크를 배우고, 머신러닝 모델의 라이프사이클과 배포 과정을 탐구합니다.

머신 러닝 엔지니어

MLOps 기초

Senior Machine Learning Engineer

프로파일링, 버전 관리, 그리고 피처 스토어

데이터 프로파일링

프로파일의 목적 1

프로파일의 목적 2

프로파일의 목적 3

데이터 프로파일 미사용 시 위험

체크리스트: 프로파일

great_expectations

데이터 버전 관리

이를 버전 관리라 함

재현성 보장을 위해

사본 저장이 아님

데이터는 제자리에 둠

포인터만 저장

보너스: 학습/테스트

피처 스토어

본질적으로 DB

프로젝트 간 공유

이중 DB

대용량 DB

행 단위 DB

재사용성

Train-Serve 불일치

이메일

연습해 봅시다!

배포를 위한 개발 - 프로파일링, 버저닝, 그리고 피처 스토어

프로파일링, 버저닝, 그리고 피처 스토어

Create Your Free Account