This chapter provides an introduction to LLMOps and the ideation phase of LLM application development. It explains the basics of LLMOps, highlights the lifecycle stages of LLMs, and covers key activities in the ideation phase, such as data sourcing and selecting between open-source and proprietary LLMs.

Overview of LLMOps

LLMOps versus MLOps

Relevancy of LLMOps

Lifecycle of LLMs

The purpose of lifecycle phases

The application lifecycle

Ideation phase

Data sourcing

Proprietary versus open-source models

Selecting the right base model

Introduction to LLMOps & Ideation Phase

This chapter focuses on the development phase of LLM application creation. It covers prompt engineering, agents and chains, RAG versus fine-tuning techniques, and testing methods. 

İstem mühendisliği

Prompt engineering’in önemi

İstem mühendisliğini denemek

İstemleri takip etmek

Zincirler ve ajanlar

Seçenekler

Ajan

Zincir

Ajanlar ve zincirler arasındaki fark

Doğru mimariyi seçmek

RAG ve ince ayar (fine-tuning)

LLM Zinciri

RAG iş akışı

Fine-tuning

RAG ile fine-tuning'i karşılaştır

Test Etme

Geleneksel machine learning metriği

Metin karşılaştırma metrikleri

Doğru metriği seçmek

Testin önemi

Development Phase

This chapter focuses on the operational phase of LLM application deployment and management. We will cover deployment strategies like CI/CD, scaling techniques, monitoring practices, cost management strategies, and governance and security considerations. Mastering these concepts will help you efficiently manage LLM applications in operational environments.

Deployment

The need for CI/CD

The right scaling strategy

Monitoring and observability

Monitoring your application

Alert handling

Cost management

Prompt compression

Making a cost prognosis

Governance and security

Prompt injection

Mitigation strategies

Data integrity and poisoning

Congratulations

Operational Phase

Büyük Dil Modeli Operasyonlarına (LLMOps) bir yolculuğa çık. Meraklılar ve profesyoneller için tasarlanan bu kurs, fikir aşamasından operasyonel dağıtıma kadar temellerde sana rehberlik eder.

LLM uygulama yaşam döngüsüne dalarak, bunun kurumlar için neden kritik olduğunu göreceksin. Her aşamadaki zorlukları ve dikkat edilmesi gereken noktaları anlayacak, geliştirmeyi nasıl iyileştireceğini ve veri yönetişimi ile güvenliği benimserken sorunsuz bir dağıtım nasıl sağlayacağını öğreneceksin. Kursun sonunda LLMOps kavramlarını sağlam bir şekilde kavrayacak ve bunları uygulamalarına nasıl uygulayacağını bileceksin.

<h2> LLMOps'a Giriş </h2>

Büyük Dil Modeli Operasyonları (LLMOps) dünyasına bir yolculuğa çıkın. Hem meraklılar hem de profesyoneller için tasarlanan bu kurs, fikir oluşturmadan operasyonel uygulamaya kadar temel bilgileri size öğretir.

<h2> Temel Özelliklerin Kilidini Açın </h2>

LLMOps'un temellerini çözerek keşif yolculuğunuza başlayın. Organizasyonel ortamlarda oynadığı önemli rolü anlayın ve LLM'lerin ve LLMOps'un temel kavramlarını kavrayın. Bu dersin ana odak noktası, kendi temel LLM'nizi oluşturmak değildir. Bunun yerine, kuruluşunuzdaki uygulamalar için temel modelin yeteneklerinden yararlanmaya yöneliktir.

<h2> Yaşam Döngüsünde Gezinme </h2>

LLM uygulama yaşam döngüsünü inceleyerek, organizasyonlarda oynadığı önemli rol ortaya çıkacaktır. Her aşamadaki zorluklar ve dikkate alınması gereken hususlar hakkında bilgi edinecek, veri yönetimi ve güvenliğini benimserken geliştirmeyi nasıl iyileştirebileceğinizi ve sorunsuz bir dağıtım sağlayabileceğinizi öğreneceksiniz. 

Bu kursu tamamladıktan sonra, LLMOps hakkında sağlam bir bilgi birikimi edinmekle kalmayacak, aynı zamanda bu kavramları işinizde güvenle uygulayabileceksiniz. İster yeni başlıyor olun ister bilgilerinizi derinleştirmek istiyor olun, bu kurs becerilerinizi geliştirecek ve LLMOps konusunda uzmanlaşmanıza yardımcı olacaktır.

Large Language Models (LLMs) Concepts

LLMOps'u fikirden dağıtıma kadar öğrenin, yaşam döngüsü ve zorlukları keşfedin, uygulayın.

LLMOps Kavramları

Geliştiriciler için Yardımcı Yapay Zeka Mühendisi

Büyük Dil Modelleri Geliştirme

Yemeklerin kalorisini tahmin eden bir LLM uygulaması

Bir forum mesajının toksik olup olmadığını sınıflandıran bir LLM uygulaması

Bir web sitesindeki sık sorulan soruları yanıtlayan bir LLM uygulaması

Sohbet geçmişlerini özetleyen bir LLM uygulaması

Doğru metriği seçmek

LLMOps Kavramları

Uygulamalı interaktif egzersiz