Целостность данных и их отравление

Ваша организация хочет использовать LLM-приложение для обработки жалоб клиентов. Выбранная стратегия — дообучение LLM. В качестве данных доступно около миллиона диалогов между пользователями и сотрудниками службы поддержки, охватывающих примерно тысячу агентов. Какие потенциальные проблемы могут возникнуть, если LLM будет обучена на этих данных и развёрнута без средств защиты? Выберите три наиболее подходящих ответа.

Это упражнение является частью курса

Концепции LLMOps

Посмотреть курс

Практическое интерактивное упражнение

Превратите теорию в практику с помощью одного из наших интерактивных упражнений

Начать упражнение

Это упражнение является частью курса

Концепции LLMOps

SkillTag.level.beginnerSkillTag.label

4.8+

Начать курс бесплатно

Эта глава знакомит с LLMOps и фазой идеации при разработке LLM-приложений. Вы узнаете об основах LLMOps, этапах жизненного цикла больших языковых моделей, а также о ключевых задачах фазы идеации — поиске данных и выборе между открытыми и проприетарными моделями.

Exercise 1: Обзор LLMOps Exercise 2: LLMOps и MLOps Exercise 3: Актуальность LLMOps Exercise 4: Жизненный цикл LLM Exercise 5: Назначение фаз жизненного цикла Exercise 6: Жизненный цикл приложения Exercise 7: Фаза идеации Exercise 8: Выбор источников данных Exercise 9: Проприетарные и открытые модели Exercise 10: Выбор подходящей базовой модели

Эта глава посвящена фазе разработки LLM-приложений. Рассматриваются инжиниринг промптов, агенты и цепочки, методы RAG и дообучения, а также подходы к тестированию.

Exercise 1: Разработка промптов Exercise 2: Важность разработки промптов Exercise 3: Практика проектирования промптов Exercise 4: Отслеживание промптов Exercise 5: Цепочки и агенты Exercise 6: Различие между агентами и цепочками Exercise 7: Выбор подходящей архитектуры Exercise 8: RAG и дообучение Exercise 9: Рабочий процесс RAG Exercise 10: RAG и дообучение: сравнение Exercise 11: Тестирование Exercise 12: Выбор подходящей метрики Exercise 13: Важность тестирования

Эта глава посвящена операционной фазе — развёртыванию LLM-приложений и управлению ими. Мы рассмотрим стратегии развёртывания, включая CI/CD, методы масштабирования, практики мониторинга, управление затратами, а также вопросы управления данными и безопасности. Освоив эти концепции, вы сможете эффективно управлять LLM-приложениями в рабочих окружениях.

Exercise 1: Развёртывание Exercise 2: Зачем нужен CI/CD Exercise 3: Выбор стратегии масштабирования Exercise 4: Мониторинг и наблюдаемость Exercise 5: Мониторинг вашего приложения Exercise 6: Обработка оповещений Exercise 7: Управление затратами Exercise 8: Сжатие запросов Exercise 9: Составление прогноза затрат Exercise 10: Управление и безопасность Exercise 11: Инъекция промпта Exercise 12: Стратегии снижения рисков Exercise 13: Целостность данных и их отравление

Текущее упражнение

Exercise 14: Поздравляем