EmpezarEmpieza gratis

Modelos Hugging Face en LangChain

Hay miles de modelos disponibles para descargar y utilizar gratuitamente en Hugging Face. Hugging Face se integra muy bien en LangChain a través de su biblioteca asociada, langchain-huggingface, que está disponible para su uso.

En este ejercicio, cargarás y llamarás al modelo «crumb/nano-mistral» de Hugging Face. Se trata de un LLM ultraligero diseñado para ajustarse con precisión y ofrecer un mayor rendimiento.

Este ejercicio forma parte del curso

Desarrollo de aplicaciones LLM con LangChain

Ver curso

Instrucciones del ejercicio

  • Importa HuggingFacePipeline desde langchain_huggingface para trabajar con los modelos de Hugging Face.
  • Define un LLM de generación de texto llamando a HuggingFacePipeline.from_model_id().
  • Configura el parámetro model_id para especificar qué modelo de Hugging Face se va a utilizar.

ejercicio interactivo práctico

Prueba este ejercicio completando este código de ejemplo.

# Import the HuggingFacePipeline class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
Editar y ejecutar código