ComeçarComece de graça

Modelos de rosto abraçados em LangChain!

Há milhares de modelos disponíveis gratuitamente para download e uso no Hugging Face. O Hugging Face se integra muito bem ao LangChain por meio de sua biblioteca parceira, langchain-huggingface, que está disponível para você usar.

Neste exercício, você carregará e chamará o modelo crumb/nano-mistral do Hugging Face. Este é um site ultraleve LLM projetado para ser ajustado com precisão para proporcionar maior desempenho.

Este exercício faz parte do curso

Desenvolvimento de aplicativos LLM com LangChain

Ver curso

Instruções do exercício

  • Importe a classe para definir os pipelines do Hugging Face no LangChain.
  • Defina uma geração de texto LLM usando o modelo ID 'crumb/nano-mistral' da Hugging Face.
  • Use o site llm para prever as próximas palavras após o texto em prompt.

Exercício interativo prático

Experimente este exercício completando este código de exemplo.

# Import the class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
Editar e executar o código