BaşlayınÜcretsiz Başlayın

LangChain'de Hugging Face modelleri!

Hugging Face üzerinde indirip kullanabileceğin binlerce model ücretsiz olarak mevcut. Hugging Face, ortak kütüphanesi langchain-huggingface aracılığıyla LangChain ile çok iyi entegre olur ve bu kütüphaneyi burada kullanabilirsin.

Bu egzersizde, Hugging Face'ten crumb/nano-mistral modelini yükleyip çağıracaksın. Bu, daha yüksek performans için ince ayara uygun, ultra hafif bir LLM'dir.

Bu egzersiz

LangChain ile LLM Uygulamaları Geliştirme

kursunun bir parçasıdır
Kursu Görüntüle

Egzersiz talimatları

  • Hugging Face modelleriyle çalışmak için langchain_huggingface içinden HuggingFacePipeline'ı içe aktar.
  • HuggingFacePipeline.from_model_id() çağrısıyla bir metin üretimi LLM'i tanımla.
  • Hangi Hugging Face modelini kullanacağını belirtmek için model_id parametresini ayarla.

Uygulamalı interaktif egzersiz

Bu örnek kodu tamamlayarak bu egzersizi bitirin.

# Import the HuggingFacePipeline class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
Kodu Düzenle ve Çalıştır