Просмотр рецептов TorchTune

Вы работаете над проектом по классификации текста и планируете дообучить модель Llama 3.2 с 1 миллиардом параметров. Из-за ограничений оборудования вам нужна конфигурация для одного устройства с полным дообучением. Чтобы просмотреть все доступные варианты, выполните в консоли команду !tune ls.

Какой рецепт подойдёт для вашей модели с учётом этих ограничений?

Это упражнение является частью курса

Файн-тюнинг с Llama 3

Посмотреть курс

Практическое интерактивное упражнение

Превратите теорию в практику с помощью одного из наших интерактивных упражнений

Начать упражнение

Это упражнение является частью курса

Файн-тюнинг с Llama 3

SkillTag.level.intermediateSkillTag.label

4.8+

Начать курс бесплатно

Изучите варианты файн-тюнинга моделей Llama 3 и познакомьтесь с TorchTune — библиотекой, разработанной для упрощения этого процесса. В этой главе вы пройдёте через подготовку данных, систему рецептов TorchTune и настройку задач, а также освоите ключевые шаги для запуска первого файн-тюнинга.

Exercise 1: Библиотеки для дообучения Llama Exercise 2: Просмотр рецептов TorchTune

Текущее упражнение

Exercise 3: Запуск задачи TorchTune Exercise 4: Подготовка данных для дообучения Exercise 5: Фильтрация наборов данных для оценки Exercise 6: Создание обучающих примеров Exercise 7: Сохранение предобработанных наборов данных Exercise 8: Файнтюнинг с TorchTune Exercise 9: Определение пользовательских рецептов Exercise 10: Сохранение пользовательских рецептов Exercise 11: Запуск пользовательской тонкой настройки

Узнайте, как файн-тюнинг может значительно повысить производительность небольших моделей для конкретных задач. Начните с файн-тюнинга компактных моделей Llama, чтобы улучшить их возможности для специализированных задач. Затем познакомьтесь с параметрически эффективными методами обучения, такими как LoRA, и изучите квантизацию для загрузки и использования более крупных моделей.

Exercise 1: Дообучение модели с помощью Hugging Face Exercise 2: Настройка аргументов обучения Llama Exercise 3: Дообучение Llama для работы с обращениями в службу поддержки Exercise 4: Оценка сгенерированного текста с помощью ROUGE Exercise 5: Эффективное дообучение с помощью LoRA Exercise 6: Использование адаптеров LoRA Exercise 7: Тонкая настройка Llama с LoRA для службы поддержки Exercise 8: Уменьшение размера моделей с помощью квантования Exercise 9: Загрузка моделей в 8-битном режиме Exercise 10: Ускорение инференса в квантизованных моделях Exercise 11: Поздравляем!