1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Phát triển ứng dụng LLM với LangChain
Connected

Bài tập

Model Hugging Face trong LangChain!

Có hàng nghìn model miễn phí để tải về và sử dụng trên Hugging Face. Hugging Face tích hợp rất mượt với LangChain thông qua thư viện đối tác langchain-huggingface, mà bạn có thể dùng ngay trong bài này.

Trong bài tập này, bạn sẽ tải và gọi model crumb/nano-mistral từ Hugging Face. Đây là một LLM siêu nhẹ, được thiết kế để fine-tune nhằm đạt hiệu năng cao hơn.

Hướng dẫn

100 XP
  • Import HuggingFacePipeline từ langchain_huggingface để làm việc với các model Hugging Face.
  • Định nghĩa một LLM sinh văn bản bằng cách gọi HuggingFacePipeline.from_model_id().
  • Thiết lập tham số model_id để chỉ rõ model Hugging Face sẽ sử dụng.