Zacznij terazZacznij za darmo

Rozmowa z Llama 3

Firma zajmująca się analityką danych tworzy wewnętrznego asystenta AI, który ma pomagać pracownikom w szybkim dostępie do informacji technicznych. W ramach tego projektu chcą zintegrować model Llama 3 i poprosili cię o jego przetestowanie.

Na początek zainicjujesz model Llama 3 lokalnie i wygenerujesz odpowiedź na zadane pytanie.

Ścieżka do modelu jest już zapisana w zmiennej o nazwie llama_path.

To ćwiczenie jest częścią kursu

Praca z Llama 3

Zobacz kurs

Instrukcje do ćwiczenia

  • Zaimportuj klasę Llama z biblioteki llama_cpp.
  • Utwórz instancję klasy Llama, podając llama_path jako ścieżkę do pliku modelu.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

# Import the Llama class
from llama_cpp import ____

# Initialize the Llama model
llm = ____(model_path=____)

question = "What is the most used database for data storage?"
response = llm(question)
print(response)
Edytuj i uruchom kod