Bu bölüm, LLMOps’a ve LLM uygulama geliştirmede fikir (ideation) aşamasına bir giriş sunar. LLMOps’un temellerini açıklar, LLM’lerin yaşam döngüsü aşamalarını vurgular ve veri kaynağı oluşturma ile açık kaynak ve tescilli LLM’ler arasında seçim gibi fikir aşamasındaki temel etkinlikleri kapsar.

LLMOps’a Genel Bakış

Seçenekler

LLMOps

MLOps

LLMOps ve MLOps karşılaştırması

LLMOps'un İlgililiği

LLM'lerin Yaşam Döngüsü

Yaşam döngüsü aşamalarının amacı

Fikir geliştirme (ideation) fazı

Geliştirme fazı

Operasyon fazı

Uygulama yaşam döngüsü

Fikir oluşturma aşaması

Veri kaynağı seçimi

Tescilli

Açık kaynak

Tescilli ve açık kaynak modeller

Doğru taban modeli seçme

LLMOps’a Giriş ve Fikir Aşaması

Bu bölüm, LLM uygulaması oluşturmanın geliştirme aşamasına odaklanır. Prompt engineering, ajanlar ve zincirler, RAG ile fine-tuning tekniklerinin karşılaştırması ve test yöntemlerini kapsar.

İstem mühendisliği

Prompt engineering’in önemi

İstem mühendisliğini denemek

İstemleri takip etmek

Zincirler ve ajanlar

Ajanlar ve zincirler arasındaki fark

Doğru mimariyi seçmek

RAG ve ince ayar (fine-tuning)

RAG iş akışı

RAG ile fine-tuning'i karşılaştır

Test Etme

Doğru metriği seçmek

Testin önemi

Geliştirme Aşaması

Bu bölüm, LLM uygulamalarının dağıtımı ve yönetiminin operasyon aşamasına odaklanır. CI/CD gibi dağıtım stratejilerini, ölçeklendirme tekniklerini, izleme uygulamalarını, maliyet yönetimi stratejilerini ve yönetişim ile güvenlik değerlendirmelerini ele alacağız. Bu kavramları ustalıkla öğrenmek, LLM uygulamalarını operasyonel ortamlarda verimli şekilde yönetmene yardımcı olacaktır.

Dağıtım

CI/CD ihtiyacı

Doğru ölçekleme stratejisi

İzleme ve gözlemlenebilirlik

Uygulamanı izlemek

Uyarı yönetimi

Maliyet yönetimi

İstem sıkıştırma

Maliyet öngörüsü yapmak

Yönetişim ve güvenlik

Prompt injection

Azaltma stratejileri

Veri bütünlüğü ve zehirleme

Tebrikler

Operasyon Aşaması

Büyük Dil Modeli Operasyonlarına (LLMOps) bir yolculuğa çık. Meraklılar ve profesyoneller için tasarlanan bu kurs, fikir aşamasından operasyonel dağıtıma kadar temellerde sana rehberlik eder.

LLM uygulama yaşam döngüsüne dalarak, bunun kurumlar için neden kritik olduğunu göreceksin. Her aşamadaki zorlukları ve dikkat edilmesi gereken noktaları anlayacak, geliştirmeyi nasıl iyileştireceğini ve veri yönetişimi ile güvenliği benimserken sorunsuz bir dağıtım nasıl sağlayacağını öğreneceksin. Kursun sonunda LLMOps kavramlarını sağlam bir şekilde kavrayacak ve bunları uygulamalarına nasıl uygulayacağını bileceksin.

<h2> LLMOps'a Giriş </h2>

Büyük Dil Modeli Operasyonları (LLMOps) dünyasına bir yolculuğa çıkın. Hem meraklılar hem de profesyoneller için tasarlanan bu kurs, fikir oluşturmadan operasyonel uygulamaya kadar temel bilgileri size öğretir.

<h2> Temel Özelliklerin Kilidini Açın </h2>

LLMOps'un temellerini çözerek keşif yolculuğunuza başlayın. Organizasyonel ortamlarda oynadığı önemli rolü anlayın ve LLM'lerin ve LLMOps'un temel kavramlarını kavrayın. Bu dersin ana odak noktası, kendi temel LLM'nizi oluşturmak değildir. Bunun yerine, kuruluşunuzdaki uygulamalar için temel modelin yeteneklerinden yararlanmaya yöneliktir.

<h2> Yaşam Döngüsünde Gezinme </h2>

LLM uygulama yaşam döngüsünü inceleyerek, organizasyonlarda oynadığı önemli rol ortaya çıkacaktır. Her aşamadaki zorluklar ve dikkate alınması gereken hususlar hakkında bilgi edinecek, veri yönetimi ve güvenliğini benimserken geliştirmeyi nasıl iyileştirebileceğinizi ve sorunsuz bir dağıtım sağlayabileceğinizi öğreneceksiniz. 

Bu kursu tamamladıktan sonra, LLMOps hakkında sağlam bir bilgi birikimi edinmekle kalmayacak, aynı zamanda bu kavramları işinizde güvenle uygulayabileceksiniz. İster yeni başlıyor olun ister bilgilerinizi derinleştirmek istiyor olun, bu kurs becerilerinizi geliştirecek ve LLMOps konusunda uzmanlaşmanıza yardımcı olacaktır.

Large Language Models (LLMs) Concepts

LLMOps'u fikirden dağıtıma kadar öğrenin, yaşam döngüsü ve zorlukları keşfedin, uygulayın.

LLMOps Kavramları

Geliştiriciler için Yardımcı Yapay Zeka Mühendisi

Büyük Dil Modelleri Geliştirme

Sınırlı personel ve kaynağa sahip bir startup'ın, ürünleri için bir sohbet botu geliştirmek istemesi

Hız ve performansın başlıca kaygı olduğu, web sitelerinde gerçek zamanlı ürün önerileri uygulayan bir e-ticaret şirketi

Kişisel verilerini dikkate alan bir sohbet botu geliştirmek isteyen bir devlet kurumu

Tıbbi personelin kullanımı için tıbbi kayıtları özetleyen bir hastane

Bir LLM'in mimarisini keşfetmeyi ve genişletmeyi hedefleyen bir araştırma enstitüsü

Tescilli ve açık kaynak modeller

LLMOps Kavramları

Uygulamalı etkileşimli egzersiz