BaşlayınÜcretsiz başlayın

LangChain'de Hugging Face modelleri!

Hugging Face üzerinde indirip kullanabileceğin binlerce model ücretsiz olarak mevcut. Hugging Face, ortak kütüphanesi langchain-huggingface aracılığıyla LangChain ile çok iyi entegre olur ve bu kütüphaneyi burada kullanabilirsin.

Bu egzersizde, Hugging Face'ten crumb/nano-mistral modelini yükleyip çağıracaksın. Bu, daha yüksek performans için ince ayara uygun, ultra hafif bir LLM'dir.

Bu egzersiz, kursun bir parçasıdır

LangChain ile LLM Uygulamaları Geliştirme

Kursa Göz Atın

Egzersiz talimatları

  • Hugging Face modelleriyle çalışmak için langchain_huggingface içinden HuggingFacePipeline'ı içe aktar.
  • HuggingFacePipeline.from_model_id() çağrısıyla bir metin üretimi LLM'i tanımla.
  • Hangi Hugging Face modelini kullanacağını belirtmek için model_id parametresini ayarla.

Uygulamalı etkileşimli egzersiz

Bu egzersizi bu örnek kodu tamamlayarak deneyin.

# Import the HuggingFacePipeline class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
Kodu Düzenle ve Çalıştır