Chương này giới thiệu về LLMOps và giai đoạn hình thành ý tưởng trong phát triển ứng dụng LLM. Nội dung giải thích những điều cơ bản về LLMOps, nêu bật các giai đoạn trong vòng đời của LLM và các hoạt động chính ở giai đoạn ý tưởng, như tìm nguồn dữ liệu và lựa chọn giữa LLM mã nguồn mở và LLM thương mại.

Tổng quan về LLMOps

Tùy chọn

LLMOps

MLOps

LLMOps và MLOps

Tính phù hợp của LLMOps

Vòng đời của LLM

Mục đích của các giai đoạn vòng đời

Giai đoạn lên ý tưởng

Giai đoạn phát triển

Giai đoạn vận hành

Vòng đời của ứng dụng

Giai đoạn hình thành ý tưởng

Tìm nguồn dữ liệu

Độc quyền

Mã nguồn mở

Mô hình độc quyền so với mã nguồn mở

Chọn đúng mô hình nền tảng

Giới thiệu về LLMOps & Giai đoạn hình thành ý tưởng

Chương này tập trung vào giai đoạn phát triển của việc tạo ứng dụng LLM. Nội dung bao gồm kỹ thuật thiết kế prompt, agents và chains, so sánh RAG với fine-tuning, và các phương pháp kiểm thử.

Kỹ thuật thiết kế prompt

Tầm quan trọng của prompt engineering

Thử nghiệm prompt engineering

Theo dõi các prompt

Chuỗi và tác tử

Sự khác nhau giữa agents và chains

Chọn kiến trúc phù hợp

RAG và fine-tuning

Quy trình làm việc RAG

So sánh RAG với fine-tuning

Kiểm thử

Chọn chỉ số phù hợp

Tầm quan trọng của kiểm thử

Chương này tập trung vào giai đoạn vận hành: triển khai và quản lý ứng dụng LLM. Chúng ta sẽ đề cập đến chiến lược triển khai như CI/CD, kỹ thuật mở rộng, thực hành giám sát, chiến lược quản lý chi phí, cùng các cân nhắc về quản trị và bảo mật. Nắm vững các khái niệm này sẽ giúp bạn quản lý hiệu quả ứng dụng LLM trong môi trường vận hành.

Triển khai

Sự cần thiết của CI/CD

Chiến lược mở rộng phù hợp

Giám sát và khả năng quan sát

Giám sát ứng dụng của bạn

Xử lý cảnh báo

Quản lý chi phí

Nén prompt

Lập dự báo chi phí

Quản trị và bảo mật

Prompt injection

Chiến lược giảm thiểu rủi ro

Tính toàn vẹn dữ liệu và tấn công đầu độc dữ liệu

Chúc mừng

Bắt đầu hành trình tìm hiểu về vận hành Mô hình Ngôn ngữ Lớn (LLMOps). Khóa học này, dành cho cả người đam mê và chuyên gia, sẽ hướng dẫn bạn từ những ý tưởng ban đầu đến triển khai vận hành.

Đi sâu vào vòng đời ứng dụng LLM sẽ cho thấy vai trò then chốt của chúng trong tổ chức. Bạn sẽ nắm được các thách thức và cân nhắc ở từng giai đoạn, cách tinh chỉnh quá trình phát triển và đảm bảo triển khai trơn tru, đồng thời tuân thủ quản trị dữ liệu và bảo mật. Kết thúc khóa học, bạn sẽ nắm vững các khái niệm LLMOps và biết cách áp dụng chúng vào ứng dụng của mình.

Large Language Models (LLMs) Concepts

Tìm hiểu LLMOps từ ý tưởng đến triển khai, khám phá vòng đời, thách thức và áp dụng vào ứng dụng.

Các khái niệm về LLMOps

Tìm hiểu về LLMOps từ ý tưởng đến triển khai, nắm bắt các thông tin về vòng đời và thách thức, và học cách áp dụng các khái niệm này vào ứng dụng của bạn.

Kỹ sư Trợ lý Trí tuệ Nhân tạo (AI) cho Lập trình viên

Phát triển các mô hình ngôn ngữ quy mô lớn

Các mô hình có mức độ khó dự đoán cao do kích thước và độ phức tạp

Các mô hình đa dụng có thể xử lý nhiều tác vụ và miền khác nhau

Sử dụng prompt engineering và fine-tuning để nâng cao hiệu năng mô hình

Làm việc với các mô hình gọn nhẹ, chuyên cho một tác vụ

Sử dụng kiến trúc mô hình được điều chỉnh theo đặc điểm dữ liệu và tác vụ cụ thể

LLMOps và MLOps

Các khái niệm về LLMOps

Bài tập tương tác thực hành