Запуск задачи TorchTune

Вы просмотрели доступные варианты с помощью !tune ls и теперь готовы запустить задачу дообучения с рецептом и конфигурацией для модели Llama 3.2 1B на одном устройстве (full_finetune_single_device с llama3_2/1B_full_single_device).

Какую из приведённых команд вы используете, чтобы запустить задачу на 20 эпох на одном устройстве GPU?

Это упражнение является частью курса

Файн-тюнинг с Llama 3

Посмотреть курс

Практическое интерактивное упражнение

Превратите теорию в практику с помощью одного из наших интерактивных упражнений

Начать упражнение

Это упражнение является частью курса

Файн-тюнинг с Llama 3

SkillTag.level.intermediateSkillTag.label

4.8+

Начать курс бесплатно

Изучите варианты файн-тюнинга моделей Llama 3 и познакомьтесь с TorchTune — библиотекой, разработанной для упрощения этого процесса. В этой главе вы пройдёте через подготовку данных, систему рецептов TorchTune и настройку задач, а также освоите ключевые шаги для запуска первого файн-тюнинга.

Exercise 1: Библиотеки для дообучения Llama Exercise 2: Просмотр рецептов TorchTune Exercise 3: Запуск задачи TorchTune

Текущее упражнение

Exercise 4: Подготовка данных для дообучения Exercise 5: Фильтрация наборов данных для оценки Exercise 6: Создание обучающих примеров Exercise 7: Сохранение предобработанных наборов данных Exercise 8: Файнтюнинг с TorchTune Exercise 9: Определение пользовательских рецептов Exercise 10: Сохранение пользовательских рецептов Exercise 11: Запуск пользовательской тонкой настройки

Узнайте, как файн-тюнинг может значительно повысить производительность небольших моделей для конкретных задач. Начните с файн-тюнинга компактных моделей Llama, чтобы улучшить их возможности для специализированных задач. Затем познакомьтесь с параметрически эффективными методами обучения, такими как LoRA, и изучите квантизацию для загрузки и использования более крупных моделей.

Exercise 1: Дообучение модели с помощью Hugging Face Exercise 2: Настройка аргументов обучения Llama Exercise 3: Дообучение Llama для работы с обращениями в службу поддержки Exercise 4: Оценка сгенерированного текста с помощью ROUGE Exercise 5: Эффективное дообучение с помощью LoRA Exercise 6: Использование адаптеров LoRA Exercise 7: Тонкая настройка Llama с LoRA для службы поддержки Exercise 8: Уменьшение размера моделей с помощью квантования Exercise 9: Загрузка моделей в 8-битном режиме Exercise 10: Ускорение инференса в квантизованных моделях Exercise 11: Поздравляем!