1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Vývoj LLM aplikací s LangChain
Connected

cvičení

Modely z Hugging Face v LangChainu!

Na Hugging Face jsou k dispozici tisíce modelů, které si můžeš zdarma stáhnout a používat. Hugging Face se do LangChainu integruje velmi přirozeně prostřednictvím partnerské knihovny langchain-huggingface, kterou máš k dispozici.

V tomto cvičení načteš a zavoláš model crumb/nano-mistral z Hugging Face. Jde o extrémně lehký LLM navržený k doladění (fine-tuning) pro lepší výkon.

Pokyny

100 XP
  • Importuj HuggingFacePipeline z langchain_huggingface pro práci s modely Hugging Face.
  • Definuj LLM pro generování textu voláním HuggingFacePipeline.from_model_id().
  • Nastav parametr model_id, aby určoval, který model z Hugging Face se má použít.