ComenzarEmpieza gratis

Modelos Hugging Face en LangChain

Hay miles de modelos disponibles para descargar y utilizar gratuitamente en Hugging Face. Hugging Face se integra muy bien en LangChain a través de su biblioteca asociada, langchain-huggingface, que está disponible para su uso.

En este ejercicio, cargarás y llamarás al modelo «crumb/nano-mistral» de Hugging Face. Se trata de un LLM ultraligero diseñado para ajustarse con precisión y ofrecer un mayor rendimiento.

Este ejercicio forma parte del curso

Desarrollo de aplicaciones LLM con LangChain

Ver curso

Instrucciones del ejercicio

  • Importa la clase para definir las canalizaciones de Hugging Face en LangChain.
  • Define un LLM de generación de texto utilizando el ID de modelo 'crumb/nano-mistral' de Hugging Face.
  • Utiliza llm para predecir las siguientes palabras después del texto en prompt.

Ejercicio interactivo práctico

Prueba este ejercicio y completa el código de muestra.

# Import the class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
Editar y ejecutar código