เริ่มต้นใช้งานเริ่มต้นใช้งานได้ฟรี

โมเดล Hugging Face ใน LangChain!

มีโมเดลให้ดาวน์โหลดและใช้งานฟรีนับพันรายการบน Hugging Face และ Hugging Face ยังทำงานร่วมกับ LangChain ได้อย่างลงตัวผ่าน partner library ที่ชื่อว่า langchain-huggingface ซึ่งพร้อมใช้งานในแบบฝึกหัดนี้

ในแบบฝึกหัดนี้ จะได้โหลดและเรียกใช้โมเดล crumb/nano-mistral จาก Hugging Face ซึ่งเป็น LLM ขนาดเล็กมากที่ออกแบบมาเพื่อนำไปปรับแต่ง (fine-tune) ให้มีประสิทธิภาพสูงขึ้น

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

การพัฒนาแอปพลิเคชัน LLM ด้วย LangChain

ดูคอร์ส

คำแนะนำการฝึกหัด

  • นำเข้า HuggingFacePipeline จาก langchain_huggingface เพื่อใช้งานโมเดล Hugging Face
  • กำหนด LLM สำหรับการสร้างข้อความโดยเรียก HuggingFacePipeline.from_model_id()
  • ตั้งค่าพารามิเตอร์ model_id เพื่อระบุโมเดล Hugging Face ที่ต้องการใช้

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ

ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์

# Import the HuggingFacePipeline class for defining Hugging Face pipelines
from langchain_huggingface import ____

# Define the LLM from the Hugging Face model ID
llm = ____.from_model_id(
    ____="crumb/nano-mistral",
    task="text-generation",
    pipeline_kwargs={"max_new_tokens": 20}
)

prompt = "Hugging Face is"

# Invoke the model
response = llm.invoke(prompt)
print(response)
แก้ไขและรันโค้ด