귀하의 조직에서 앞으로 1년간 애플리케이션의 LLM 비용을 예측하는 책임을 맡겼습니다. 어떻게 진행하시겠어요?
이 연습은 강의의 일부입니다
이론을 실습으로 바꾸는 인터랙티브 연습 중 하나를 만나보세요
이 장에서는 LLMOps와 LLM 애플리케이션 개발의 아이디어 구상 단계를 소개합니다. LLMOps의 기본을 설명하고, LLM의 수명 주기 단계를 짚어 보며, 데이터 소싱, 오픈 소스와 상용 LLM 선택 등 아이디어 구상 단계의 핵심 활동을 다룹니다.
이 장은 LLM 애플리케이션 구축의 개발 단계에 집중합니다. 프롬프트 엔지니어링, 에이전트와 체인, RAG와 파인튜닝 기법의 비교, 그리고 테스트 방법을 다룹니다.
이 장은 LLM 애플리케이션의 배포와 운영 관리 단계에 초점을 맞춥니다. CI/CD 같은 배포 전략, 확장 기법, 모니터링 실무, 비용 관리 전략, 거버넌스와 보안 고려 사항을 살펴봅니다. 이러한 개념을 숙지하면 운영 환경에서 LLM 애플리케이션을 효율적으로 관리할 수 있습니다.
현재 연습
