Использование извлечённых фактов из переписки
Теперь применим LLM со структурированными выводами! Созданный на предыдущем шаге объект llm_with_output по-прежнему доступен, а шаблон запроса для этой LLM уже подготовлен.
Это упражнение является частью курса
Graph RAG с LangChain и Neo4j
Инструкции к упражнению
- Передайте предоставленный шаблон чат-запроса в LLM со структурированным выводом (
llm_with_output) с помощью пайпа. - Запустите цепочку для указанных пользователя и идентификатора сессии, передав ей сообщения из истории (
history).
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
chain = ChatPromptTemplate.from_messages([
SystemMessagePromptTemplate.from_template("""
You are talking to {user}, the user of the application.
Any facts in the first person relate to {user}.
The Session ID is {session_id}.
Extract the facts from the conversation and return them in the format of object, subject, predicate.
"""),
# Pipe the chat prompt template into the LLM with structured output
MessagesPlaceholder(variable_name="history")
]) | ____
# Invoke the chain, passing it the messages from the history
chain.invoke({"user": USER, "session_id": SESSION_ID, "history": ____})