शुरू करेंमुफ़्त में शुरू करें

LangChain में Hugging Face मॉडल!

Hugging Face पर हज़ारों मॉडल फ्री में डाउनलोड और उपयोग के लिए उपलब्ध हैं. Hugging Face, अपनी पार्टनर लाइब्रेरी langchain-huggingface के ज़रिए LangChain के साथ बहुत अच्छी तरह इंटीग्रेट होता है, जो आपके उपयोग के लिए उपलब्ध है.

इस अभ्यास में, आप Hugging Face से crumb/nano-mistral मॉडल को लोड करेंगे और कॉल करेंगे. यह एक अल्ट्रा-लाइट LLM है, जिसे बेहतर प्रदर्शन के लिए फाइन-ट्यून करने के उद्देश्य से डिज़ाइन किया गया है.

यह अभ्यास पाठ्यक्रम का हिस्सा है

LangChain के साथ LLM एप्लिकेशन विकसित करना

पाठ्यक्रम देखें

अभ्यास निर्देश

  • Hugging Face मॉडल के साथ काम करने के लिए langchain_huggingface से HuggingFacePipeline इम्पोर्ट करें.
  • HuggingFacePipeline.from_model_id() कॉल करके एक टेक्स्ट जनरेशन LLM परिभाषित करें.
  • किस Hugging Face मॉडल का उपयोग करना है, इसे बताने के लिए model_id पैरामीटर सेट करें.

इंटरैक्टिव व्यावहारिक अभ्यास

इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।

# Import the HuggingFacePipeline class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
कोड संपादित करें और चलाएँ