This chapter provides an introduction to LLMOps and the ideation phase of LLM application development. It explains the basics of LLMOps, highlights the lifecycle stages of LLMs, and covers key activities in the ideation phase, such as data sourcing and selecting between open-source and proprietary LLMs.

LLMOps’a Genel Bakış

Seçenekler

LLMOps

MLOps

LLMOps ve MLOps karşılaştırması

LLMOps'un İlgililiği

LLM'lerin Yaşam Döngüsü

Yaşam döngüsü aşamalarının amacı

Fikir geliştirme (ideation) fazı

Geliştirme fazı

Operasyon fazı

Uygulama yaşam döngüsü

Fikir oluşturma aşaması

Veri kaynağı seçimi

Tescilli

Açık kaynak

Tescilli ve açık kaynak modeller

Doğru taban modeli seçme

Introduction to LLMOps & Ideation Phase

This chapter focuses on the development phase of LLM application creation. It covers prompt engineering, agents and chains, RAG versus fine-tuning techniques, and testing methods. 

Prompt engineering

The importance of prompt engineering

Trying out prompt engineering

Keeping track of prompts

Chains and agents

The difference between agents and chains

Choosing the right architecture

RAG versus fine-tuning

The RAG workflow

Compare RAG with fine-tuning

Testing

Choosing the right metric

The importance of testing

Development Phase

This chapter focuses on the operational phase of LLM application deployment and management. We will cover deployment strategies like CI/CD, scaling techniques, monitoring practices, cost management strategies, and governance and security considerations. Mastering these concepts will help you efficiently manage LLM applications in operational environments.

Deployment

The need for CI/CD

The right scaling strategy

Monitoring and observability

Monitoring your application

Alert handling

Cost management

Prompt compression

Making a cost prognosis

Governance and security

Prompt injection

Mitigation strategies

Data integrity and poisoning

Congratulations

Operational Phase

Büyük Dil Modeli Operasyonlarına (LLMOps) bir yolculuğa çık. Meraklılar ve profesyoneller için tasarlanan bu kurs, fikir aşamasından operasyonel dağıtıma kadar temellerde sana rehberlik eder.

LLM uygulama yaşam döngüsüne dalarak, bunun kurumlar için neden kritik olduğunu göreceksin. Her aşamadaki zorlukları ve dikkat edilmesi gereken noktaları anlayacak, geliştirmeyi nasıl iyileştireceğini ve veri yönetişimi ile güvenliği benimserken sorunsuz bir dağıtım nasıl sağlayacağını öğreneceksin. Kursun sonunda LLMOps kavramlarını sağlam bir şekilde kavrayacak ve bunları uygulamalarına nasıl uygulayacağını bileceksin.

<h2> LLMOps'a Giriş </h2>

Büyük Dil Modeli Operasyonları (LLMOps) dünyasına bir yolculuğa çıkın. Hem meraklılar hem de profesyoneller için tasarlanan bu kurs, fikir oluşturmadan operasyonel uygulamaya kadar temel bilgileri size öğretir.

<h2> Temel Özelliklerin Kilidini Açın </h2>

LLMOps'un temellerini çözerek keşif yolculuğunuza başlayın. Organizasyonel ortamlarda oynadığı önemli rolü anlayın ve LLM'lerin ve LLMOps'un temel kavramlarını kavrayın. Bu dersin ana odak noktası, kendi temel LLM'nizi oluşturmak değildir. Bunun yerine, kuruluşunuzdaki uygulamalar için temel modelin yeteneklerinden yararlanmaya yöneliktir.

<h2> Yaşam Döngüsünde Gezinme </h2>

LLM uygulama yaşam döngüsünü inceleyerek, organizasyonlarda oynadığı önemli rol ortaya çıkacaktır. Her aşamadaki zorluklar ve dikkate alınması gereken hususlar hakkında bilgi edinecek, veri yönetimi ve güvenliğini benimserken geliştirmeyi nasıl iyileştirebileceğinizi ve sorunsuz bir dağıtım sağlayabileceğinizi öğreneceksiniz. 

Bu kursu tamamladıktan sonra, LLMOps hakkında sağlam bir bilgi birikimi edinmekle kalmayacak, aynı zamanda bu kavramları işinizde güvenle uygulayabileceksiniz. İster yeni başlıyor olun ister bilgilerinizi derinleştirmek istiyor olun, bu kurs becerilerinizi geliştirecek ve LLMOps konusunda uzmanlaşmanıza yardımcı olacaktır.

Large Language Models (LLMs) Concepts

LLMOps'u fikirden dağıtıma kadar öğrenin, yaşam döngüsü ve zorlukları keşfedin, uygulayın.

LLMOps Kavramları

Geliştiriciler için Yardımcı Yapay Zeka Mühendisi

Büyük Dil Modelleri Geliştirme

Doğru taban modeli seçme

LLMOps Kavramları

Uygulamalı etkileşimli egzersiz