CommencezCommencez gratuitement

Clavarder avec Llama 3

Une entreprise d'analytique des données développe un assistant IA interne pour aider les employés à accéder rapidement à de l'information technique. Dans le cadre de ce projet, elle souhaite intégrer Llama 3 et vous a demandé de le mettre à l'essai.

Pour commencer, vous initialisez localement le modèle Llama 3 et générez une réponse à une question.

Le chemin du modèle est déjà stocké dans une variable nommée llama_path.

Cette activité fait partie du cours

Travailler avec Llama 3

Voir le cours

Instructions de l’exercice

  • Importez la classe Llama depuis llama_cpp.
  • Initialisez une instance de Llama en indiquant llama_path comme chemin vers le fichier du modèle.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Import the Llama class
from llama_cpp import ____

# Initialize the Llama model
llm = ____(model_path=____)

question = "What is the most used database for data storage?"
response = llm(question)
print(response)
Modifier et exécuter le code