Rozmowa z Llama 3
Firma zajmująca się analityką danych tworzy wewnętrznego asystenta AI, który ma pomagać pracownikom w szybkim dostępie do informacji technicznych. W ramach tego projektu chcą zintegrować model Llama 3 i poprosili cię o jego przetestowanie.
Na początek zainicjujesz model Llama 3 lokalnie i wygenerujesz odpowiedź na zadane pytanie.
Ścieżka do modelu jest już zapisana w zmiennej o nazwie llama_path.
To ćwiczenie jest częścią kursu
Praca z Llama 3
Instrukcje do ćwiczenia
- Zaimportuj klasę
Llamaz bibliotekillama_cpp. - Utwórz instancję klasy
Llama, podającllama_pathjako ścieżkę do pliku modelu.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Import the Llama class
from llama_cpp import ____
# Initialize the Llama model
llm = ____(model_path=____)
question = "What is the most used database for data storage?"
response = llm(question)
print(response)