CommencerCommencez gratuitement

Modèles Hugging Face dans LangChain !

Des milliers de modèles sont disponibles gratuitement en téléchargement et utilisables sur Hugging Face. Hugging Face s'intègre parfaitement à LangChain via sa bibliothèque partenaire, langchain-huggingface, que vous pouvez utiliser.

Dans cet exercice, vous allez charger et appeler le modèle crumb/nano-mistral de Hugging Face. Il s'agit d'un LLM ultra-léger conçu pour être optimisé afin d'offrir des performances accrues.

Cet exercice fait partie du cours

<cours>Développement d'applications LLM avec LangChain</cours>
Voir le cours

Instructions de l’exercice

  • Veuillez importer HuggingFacePipeline depuis langchain_huggingface afin de pouvoir utiliser les modèles Hugging Face.
  • Définissez un LLM de génération de texte en appelant HuggingFacePipeline.from_model_id().
  • Définissez le paramètre « model_id » pour spécifier le modèle Hugging Face à utiliser.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Import the HuggingFacePipeline class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
Modifier et exécuter le code