ComenzarEmpieza gratis

¡Modelos de Cara de Abrazo en LangChain!

Hay miles de modelos disponibles gratuitamente para descargar y utilizar en Cara de Abrazo. Hugging Face se integra muy bien en LangChain a través de su biblioteca asociada, langchain-huggingface, que está disponible para que la utilices.

En este ejercicio, cargarás y llamarás al modelo crumb/nano-mistral de Cara Abrazada. Se trata de un LLM ultraligero diseñado para ser ajustado con precisión para obtener un mayor rendimiento.

Este ejercicio forma parte del curso

Desarrollar aplicaciones LLM con LangChain

Ver curso

Instrucciones del ejercicio

  • Importa la clase para definir canalizaciones de Cara Abrazada en LangChain.
  • Define una generación de texto LLM utilizando el modelo ID 'crumb/nano-mistral' de Cara Abrazada.
  • Utiliza llm para predecir las siguientes palabras después del texto en prompt.

Ejercicio interactivo práctico

Prueba este ejercicio completando el código de muestra.

# Import the class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
Editar y ejecutar código