Спілкування з Llama 3
Аналітична компанія розробляє внутрішнього ШІ-помічника, щоб співробітники швидко знаходили технічну інформацію. У межах цього проєкту вони хочуть інтегрувати Llama 3 і попросили вас протестувати її.
Щоб розпочати, ініціалізуйте модель Llama 3 локально та згенеруйте відповідь на запитання.
Шлях до моделі вже збережено у змінній llama_path.
Ця вправа є частиною курсу
Робота з Llama 3
Інструкції до вправи
- Імпортуйте клас
Llamaзllama_cpp. - Ініціалізуйте екземпляр
Llama, указавшиllama_pathяк шлях до файлу моделі.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Import the Llama class
from llama_cpp import ____
# Initialize the Llama model
llm = ____(model_path=____)
question = "What is the most used database for data storage?"
response = llm(question)
print(response)