CommencezCommencez gratuitement

Des modèles Hugging Face dans LangChain!

Des milliers de modèles sont offerts gratuitement pour téléchargement et utilisation sur Hugging Face. Hugging Face s'intègre très bien à LangChain grâce à sa bibliothèque partenaire, langchain-huggingface, que vous pouvez utiliser ici.

Dans cet exercice, vous allez charger et appeler le modèle crumb/nano-mistral depuis Hugging Face. Il s'agit d'un LLM ultra‑léger conçu pour être ajusté (fine-tuned) afin d'offrir un meilleur rendement.

Cette activité fait partie du cours

Développer des applications LLM avec LangChain

Voir le cours

Instructions de l’exercice

  • Importez HuggingFacePipeline depuis langchain_huggingface pour travailler avec des modèles Hugging Face.
  • Définissez un LLM de génération de texte en appelant HuggingFacePipeline.from_model_id().
  • Définissez le paramètre model_id pour préciser quel modèle Hugging Face utiliser.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Import the HuggingFacePipeline class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
Modifier et exécuter le code