Chatování s Llamou 3
Jedna analytická společnost vyvíjí interního AI asistenta, který zaměstnancům pomůže rychle získat technické informace. V rámci tohoto projektu chtějí integrovat Llamu 3 a požádali tě, abys ji otestoval/a.
Na začátek inicializuješ model Llama 3 lokálně a vygeneruješ odpověď na otázku.
Cesta k modelu je už uložená v proměnné llama_path.
Toto cvičení je součástí kurzu
Práce s Llama 3
Pokyny k cvičení
- Importuj třídu
Llamazllama_cpp. - Vytvoř instanci třídy
Llamaa jako cestu k souboru modelu zadejllama_path.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Import the Llama class
from llama_cpp import ____
# Initialize the Llama model
llm = ____(model_path=____)
question = "What is the most used database for data storage?"
response = llm(question)
print(response)