Bu bölüm, LLMOps’a ve LLM uygulama geliştirmede fikir (ideation) aşamasına bir giriş sunar. LLMOps’un temellerini açıklar, LLM’lerin yaşam döngüsü aşamalarını vurgular ve veri kaynağı oluşturma ile açık kaynak ve tescilli LLM’ler arasında seçim gibi fikir aşamasındaki temel etkinlikleri kapsar.

LLMOps’a Genel Bakış

LLMOps ve MLOps karşılaştırması

LLMOps'un İlgililiği

LLM'lerin Yaşam Döngüsü

Yaşam döngüsü aşamalarının amacı

Uygulama yaşam döngüsü

Fikir oluşturma aşaması

Veri kaynağı seçimi

Tescilli ve açık kaynak modeller

Doğru taban modeli seçme

LLMOps’a Giriş ve Fikir Aşaması

Bu bölüm, LLM uygulaması oluşturmanın geliştirme aşamasına odaklanır. Prompt engineering, ajanlar ve zincirler, RAG ile fine-tuning tekniklerinin karşılaştırması ve test yöntemlerini kapsar.

İstem mühendisliği

Prompt engineering’in önemi

İstem mühendisliğini denemek

İstemleri takip etmek

Zincirler ve ajanlar

Ajanlar ve zincirler arasındaki fark

Doğru mimariyi seçmek

RAG ve ince ayar (fine-tuning)

RAG iş akışı

RAG ile fine-tuning'i karşılaştır

Test Etme

Doğru metriği seçmek

Testin önemi

Geliştirme Aşaması

Bu bölüm, LLM uygulamalarının dağıtımı ve yönetiminin operasyon aşamasına odaklanır. CI/CD gibi dağıtım stratejilerini, ölçeklendirme tekniklerini, izleme uygulamalarını, maliyet yönetimi stratejilerini ve yönetişim ile güvenlik değerlendirmelerini ele alacağız. Bu kavramları ustalıkla öğrenmek, LLM uygulamalarını operasyonel ortamlarda verimli şekilde yönetmene yardımcı olacaktır.

Dağıtım

CI/CD ihtiyacı

Seçenekler

Yatay ölçekleme

Dikey ölçekleme

Doğru ölçekleme stratejisi

İzleme ve gözlemlenebilirlik

Girdi izleme

İşlevsel izleme

Çıktı izleme

Uygulamanı izlemek

Uyarı yönetimi

Maliyet yönetimi

ChatGPT

İstem sıkıştırma

Maliyet öngörüsü yapmak

Yönetişim ve güvenlik

Prompt injection

Data poisoning

Denial of service

Azaltma stratejileri

Veri bütünlüğü ve zehirleme

Tebrikler

Operasyon Aşaması

Büyük Dil Modeli Operasyonlarına (LLMOps) bir yolculuğa çık. Meraklılar ve profesyoneller için tasarlanan bu kurs, fikir aşamasından operasyonel dağıtıma kadar temellerde sana rehberlik eder.

LLM uygulama yaşam döngüsüne dalarak, bunun kurumlar için neden kritik olduğunu göreceksin. Her aşamadaki zorlukları ve dikkat edilmesi gereken noktaları anlayacak, geliştirmeyi nasıl iyileştireceğini ve veri yönetişimi ile güvenliği benimserken sorunsuz bir dağıtım nasıl sağlayacağını öğreneceksin. Kursun sonunda LLMOps kavramlarını sağlam bir şekilde kavrayacak ve bunları uygulamalarına nasıl uygulayacağını bileceksin.

<h2> LLMOps'a Giriş </h2>

Büyük Dil Modeli Operasyonları (LLMOps) dünyasına bir yolculuğa çıkın. Hem meraklılar hem de profesyoneller için tasarlanan bu kurs, fikir oluşturmadan operasyonel uygulamaya kadar temel bilgileri size öğretir.

<h2> Temel Özelliklerin Kilidini Açın </h2>

LLMOps'un temellerini çözerek keşif yolculuğunuza başlayın. Organizasyonel ortamlarda oynadığı önemli rolü anlayın ve LLM'lerin ve LLMOps'un temel kavramlarını kavrayın. Bu dersin ana odak noktası, kendi temel LLM'nizi oluşturmak değildir. Bunun yerine, kuruluşunuzdaki uygulamalar için temel modelin yeteneklerinden yararlanmaya yöneliktir.

<h2> Yaşam Döngüsünde Gezinme </h2>

LLM uygulama yaşam döngüsünü inceleyerek, organizasyonlarda oynadığı önemli rol ortaya çıkacaktır. Her aşamadaki zorluklar ve dikkate alınması gereken hususlar hakkında bilgi edinecek, veri yönetimi ve güvenliğini benimserken geliştirmeyi nasıl iyileştirebileceğinizi ve sorunsuz bir dağıtım sağlayabileceğinizi öğreneceksiniz. 

Bu kursu tamamladıktan sonra, LLMOps hakkında sağlam bir bilgi birikimi edinmekle kalmayacak, aynı zamanda bu kavramları işinizde güvenle uygulayabileceksiniz. İster yeni başlıyor olun ister bilgilerinizi derinleştirmek istiyor olun, bu kurs becerilerinizi geliştirecek ve LLMOps konusunda uzmanlaşmanıza yardımcı olacaktır.

Large Language Models (LLMs) Concepts

LLMOps'u fikirden dağıtıma kadar öğrenin, yaşam döngüsü ve zorlukları keşfedin, uygulayın.

LLMOps Kavramları

Geliştiriciler için Yardımcı Yapay Zeka Mühendisi

Büyük Dil Modelleri Geliştirme

Kullanıcıların genelde uzun ve detaylı mı, yoksa daha basit ve kısa sorular mı sorduğunu bilmek istiyorsun

Bir kullanıcının kötü niyetli veya zararlı bir içerik girip girmediğini bilmek istiyorsun

Elde tutmayı en üst düzeye çıkarmak için LLM'in ortalama yanıt süresini bilmek istiyorsun

LLM'in çalışmayı durdurup durdurmadığını, çevrimdışı olup olmadığını veya bir isteği karşılayıp karşılayamadığını öğrenmek istiyorsun

Etkileşimi optimize etmek için sohbet botunun ortalama yanıt uzunluğunu takip etmek istiyorsun

Kullanıcı memnuniyetini artırmak için sohbet botunun çıktısında zararlı veya toksik içerik olup olmadığını ölçmek istiyorsun

Uygulamanı izlemek

LLMOps Kavramları

Uygulamalı etkileşimli egzersiz