ÎncepețiÎncepe gratuit

Conversație cu Llama 3

O companie de analiză a datelor dezvoltă un asistent intern bazat pe inteligență artificială, pentru a ajuta angajații să acceseze rapid informații tehnice. În cadrul acestui proiect, doresc să integreze Llama 3 și te-au rugat să îl testezi.

Pentru a începe, inițializezi modelul Llama 3 local și generezi un răspuns la o întrebare.

Calea către model este deja stocată într-o variabilă numită llama_path.

Acest exercițiu face parte din cursul

Lucrul cu Llama 3

Vezi cursul

Instrucțiuni pentru exercițiu

  • Importă clasa Llama din llama_cpp.
  • Inițializează o instanță a clasei Llama, specificând llama_path ca cale către fișierul modelului.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Import the Llama class
from llama_cpp import ____

# Initialize the Llama model
llm = ____(model_path=____)

question = "What is the most used database for data storage?"
response = llm(question)
print(response)
Editează și rulează codul