Извлечение ответа

ИИ-ассистент по анализу данных должен возвращать пользователям чистые и читаемые ответы. Компания просит вас извлечь из ответа модели только нужный текст.

Извлеките и выведите на экран только сгенерированный текст из заранее импортированного объекта response модели Llama.

Это упражнение является частью курса

Работа с Llama 3

Посмотреть курс

Инструкции к упражнению

Извлеките значение "text" из первого элемента списка "choices" в объекте response и сохраните его в переменную extracted.
Выведите extracted на экран.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

# Extract the first choice and generated text
extracted = response["choices"]____

# Print the extracted text
print(____)

Редактировать и запускать код

Это упражнение является частью курса

Работа с Llama 3

SkillTag.level.intermediateSkillTag.label

4.8+

Начать курс бесплатно

Область больших языковых моделей стремительно развивается, и Llama занимает среди них особое место. С выходом Llama 3 возможности значительно расширились. Вы изучите её возможности, научитесь работать с ней через llama-cpp-python, а также поймёте, как управлять поведением модели с помощью параметров и ролей для управления диалогом.

Exercise 1: Что такое Llama?Exercise 2: Общение с Llama 3 Exercise 3: Извлечение ответа

Текущее упражнение

Exercise 4: Настройка параметров Llama 3 Exercise 5: Управление ответами службы поддержки Exercise 6: Безопасные ответы модели Exercise 7: Генерация креативных текстов Exercise 8: Назначение ролей в чате Exercise 9: Формирование диалога Exercise 10: Системные сообщения

Языковые модели способны не только генерировать текст — их можно направлять для получения структурированных и контекстно-зависимых ответов. В этой главе вы узнаете, как использовать llama-cpp-python для генерации вывода в заданных форматах, в том числе совместимых с JSON для интеграции данных. Вы также улучшите качество ответов Llama с помощью техник составления промптов и адаптируете их под разные задачи. Наконец, вы научитесь строить диалоги с сохранением контекста на протяжении нескольких обменов репликами — для более естественного взаимодействия.

Exercise 1: Управление неструктурированными ответами Exercise 2: Форматирование запросов для Llama Exercise 3: Few-shot промптинг с Llama Exercise 4: Генерация структурированного вывода Exercise 5: Создание инвентарного списка в формате JSON Exercise 6: Задание структурированной JSON-схемы Exercise 7: Построение диалогов Exercise 8: Создание класса для ведения диалога Exercise 9: Однократный диалог Exercise 10: Многоходовые диалоги Exercise 11: Поздравляем!