Изучите варианты файн-тюнинга моделей Llama 3 и познакомьтесь с TorchTune — библиотекой, разработанной для упрощения этого процесса. В этой главе вы пройдёте через подготовку данных, систему рецептов TorchTune и настройку задач, а также освоите ключевые шаги для запуска первого файн-тюнинга.

Библиотеки для дообучения Llama

Просмотр рецептов TorchTune

Запуск задачи TorchTune

Подготовка данных для дообучения

Фильтрация наборов данных для оценки

Создание обучающих примеров

Сохранение предобработанных наборов данных

Файнтюнинг с TorchTune

Определение пользовательских рецептов

Сохранение пользовательских рецептов

Запуск пользовательской тонкой настройки

Подготовка к файн-тюнингу Llama

Узнайте, как файн-тюнинг может значительно повысить производительность небольших моделей для конкретных задач. Начните с файн-тюнинга компактных моделей Llama, чтобы улучшить их возможности для специализированных задач. Затем познакомьтесь с параметрически эффективными методами обучения, такими как LoRA, и изучите квантизацию для загрузки и использования более крупных моделей.

Дообучение модели с помощью Hugging Face

Настройка аргументов обучения Llama

Дообучение Llama для работы с обращениями в службу поддержки

Оценка сгенерированного текста с помощью ROUGE

Эффективное дообучение с помощью LoRA

Использование адаптеров LoRA

Тонкая настройка Llama с LoRA для службы поддержки

Уменьшение размера моделей с помощью квантования

Загрузка моделей в 8-битном режиме

Ускорение инференса в квантизованных моделях

Поздравляем!

Файн-тюнинг с SFTTrainer на Hugging Face

Выполните файн-тюнинг открытой языковой модели Llama, чтобы оптимизировать её работу для специализированных задач. Вы научитесь использовать систему рецептов TorchTune и SFTTrainer от Hugging Face для запуска циклов обучения, а также подготавливать модели с помощью пользовательских наборов данных. В завершение вы поэкспериментируете с параметрически эффективными методами, такими как LoRA, и применить квантизацию, чтобы снизить использование памяти и выполнять задачи более эффективно.

<h2>Дообучение модели Llama</h2> Этот курс представляет собой подробное руководство по подготовке и работе с моделями Llama. На практических примерах и упражнениях вы научитесь настраивать различные задачи дообучения Llama. <h2>Подготовка наборов данных для дообучения</h2> Начните с изучения техник подготовки наборов данных, включая загрузку, разделение и сохранение наборов данных с помощью библиотеки Hugging Face Datasets, чтобы обеспечить высокое качество данных для ваших проектов на Llama. <h2>Работайте с фреймворками для тонкой настройки</h2> Изучите рабочие процессы тонкой настройки с использованием передовых библиотек, таких как TorchTune и SFTTrainer от Hugging Face. Вы узнаете, как настраивать рецепты fine-tuning, задавать параметры обучения и использовать эффективные техники, такие как LoRA (Low-Rank Adaptation) и квантование с помощью BitsAndBytes, чтобы оптимизировать использование ресурсов. Объединив техники, изученные на протяжении всего курса, вы сможете эффективно настраивать модели Llama под потребности ваших проектов.

Working with Llama 3

Настройте Llama для задач с TorchTune и изучите методы эффективной настройки, такие как квантизация.

Файн-тюнинг с Llama 3

Тонкая настройка Llama под свои задачи с TorchTune и методы эффективной настройки, включая квантизацию.

Основы Llama

Curriculum Manager, DataCamp

Предобработка данных для дообучения

Использование наборов данных для дообучения

Подготовка данных с помощью библиотеки datasets

Загрузка набора данных для службы поддержки

Просмотр данных

Фильтрация набора данных

Предобработка набора данных

Сохранение подготовленного набора данных

Использование наборов данных Hugging Face с TorchTune

Давайте потренируемся!

Подготовка к файн-тюнингу Llama - Подготовка данных для дообучения

Подготовка данных для дообучения

Create Your Free Account