НачатьНачать бесплатно

Общение с Llama 3

Компания, занимающаяся аналитикой данных, разрабатывает внутреннего ИИ-ассистента, который поможет сотрудникам быстро находить техническую информацию. В рамках этого проекта компания планирует интегрировать Llama 3 и попросила вас протестировать модель.

Для начала инициализируйте модель Llama 3 локально и сгенерируйте ответ на вопрос.

Путь к модели уже сохранён в переменной llama_path.

Это упражнение является частью курса

Работа с Llama 3

Посмотреть курс

Инструкции к упражнению

  • Импортируйте класс Llama из llama_cpp.
  • Создайте экземпляр класса Llama, указав llama_path в качестве пути к файлу модели.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

# Import the Llama class
from llama_cpp import ____

# Initialize the Llama model
llm = ____(model_path=____)

question = "What is the most used database for data storage?"
response = llm(question)
print(response)
Редактировать и запускать код