Добавить agent.py
This commit is contained in:
@@ -0,0 +1,166 @@
|
||||
# agent.py
|
||||
|
||||
import os
|
||||
from typing import Any, Dict, Iterable, Tuple
|
||||
|
||||
from langchain_ollama import ChatOllama
|
||||
from langchain_qdrant import QdrantStore
|
||||
from langchain.embeddings.nomic import NomicEmbeddings
|
||||
from langgraph.checkpoint.memory import MemorySaver
|
||||
from langgraph.graph import StateGraph, END
|
||||
from langgraph.prebuilt import create_chat_agent
|
||||
from langchain.tools import tool
|
||||
from rich.console import Console
|
||||
|
||||
# ------------------------------------------------------------------
|
||||
# Конфигурация
|
||||
# ------------------------------------------------------------------
|
||||
|
||||
CONSOLE = Console()
|
||||
|
||||
LLM_MODEL = "llama3"
|
||||
EMBEDDINGS_MODEL = "nomic-embed-text"
|
||||
|
||||
QDRANT_URL = os.getenv("QDRANT_URL", "http://localhost:6333")
|
||||
QDRANT_COLLECTION = "knowledge_base"
|
||||
|
||||
# ------------------------------------------------------------------
|
||||
# Векторный хранилище
|
||||
# ------------------------------------------------------------------
|
||||
|
||||
embeddings = NomicEmbeddings(model=EMBEDDINGS_MODEL)
|
||||
vector_store = QdrantStore(
|
||||
url=QDRANT_URL,
|
||||
collection_name=QDRANT_COLLECTION,
|
||||
embeddings=embeddings,
|
||||
)
|
||||
|
||||
# ------------------------------------------------------------------
|
||||
# Инструменты RAG
|
||||
# ------------------------------------------------------------------
|
||||
|
||||
|
||||
@tool("search_knowledge_base")
|
||||
def search_knowledge_base(query: str) -> str:
|
||||
"""
|
||||
Поиск в базе знаний по запросу.
|
||||
Возвращает найденный текст (или сообщение об отсутствии результата).
|
||||
"""
|
||||
results = vector_store.similarity_search_with_score(query, k=3)
|
||||
if not results:
|
||||
return "Ничего не найдено."
|
||||
# Собираем топ‑k результатов
|
||||
texts = "\n\n".join([f"Score: {score:.2f}\n{doc.page_content}" for doc, score in results])
|
||||
return f"Найденные документы:\n{texts}"
|
||||
|
||||
|
||||
@tool("add_to_knowledge_base")
|
||||
def add_to_knowledge_base(content: str) -> str:
|
||||
"""
|
||||
Добавляет новый текст в базу знаний.
|
||||
Возвращает подтверждение добавления.
|
||||
"""
|
||||
vector_store.add_texts([content])
|
||||
return "Текст успешно добавлен в базу знаний."
|
||||
|
||||
|
||||
# ------------------------------------------------------------------
|
||||
# Создание агента
|
||||
# ------------------------------------------------------------------
|
||||
|
||||
llm = ChatOllama(model=LLM_MODEL)
|
||||
|
||||
memory = MemorySaver()
|
||||
|
||||
def create_agent() -> StateGraph:
|
||||
"""
|
||||
Возвращает готовый граф агента с памятью и паузой перед вызовом инструментов.
|
||||
"""
|
||||
# Базовый агент от LangChain
|
||||
base_agent = create_chat_agent(
|
||||
llm=llm,
|
||||
tools=[search_knowledge_base, add_to_knowledge_base],
|
||||
system_prompt="Ты полезный ассистент. При необходимости используй инструменты.",
|
||||
)
|
||||
|
||||
# Создаём граф с паузой перед инструментами
|
||||
graph = StateGraph()
|
||||
graph.add_node("agent", base_agent)
|
||||
graph.set_entry_point("agent")
|
||||
graph.add_edge("agent", END)
|
||||
|
||||
# Включаем interrupt_before для паузы
|
||||
graph.interrupt_before = ["tools"]
|
||||
|
||||
return graph
|
||||
|
||||
AGENT_GRAPH = create_agent()
|
||||
|
||||
|
||||
# ------------------------------------------------------------------
|
||||
# Функция взаимодействия
|
||||
# ------------------------------------------------------------------
|
||||
|
||||
|
||||
def ask_and_run(user_input: Dict[str, Any], config: Dict[str, Any]) -> None:
|
||||
"""
|
||||
Обрабатывает ввод пользователя и выводит потоковые ответы.
|
||||
При паузе спрашивает подтверждение перед вызовом инструмента.
|
||||
"""
|
||||
for chunk in AGENT_GRAPH.stream(
|
||||
user_input,
|
||||
config=config,
|
||||
stream_mode=["messages", "updates"],
|
||||
):
|
||||
state = AGENT_GRAPH.get_state(config)
|
||||
chunk_type, chunk_data = chunk
|
||||
|
||||
# Печать токенов
|
||||
if chunk_type == "messages":
|
||||
CONSOLE.print(chunk_data["content"], end="")
|
||||
|
||||
# Печать вызова инструмента
|
||||
if chunk_type == "updates" and "tool_calls" in chunk_data:
|
||||
for call in chunk_data["tool_calls"]:
|
||||
name = call["name"]
|
||||
args = call.get("arguments", {})
|
||||
CONSOLE.print(f"\n[bold cyan]Инструмент:{name}({args})[/bold cyan]")
|
||||
|
||||
# Обработка паузы
|
||||
if "__interrupt__" in chunk_data and state.next == ("tools",):
|
||||
# Получаем последний вызов инструмента
|
||||
last_msg = state.values["messages"][-1]
|
||||
tool_call = last_msg.tool_calls[0]
|
||||
name, args = tool_call["name"], tool_call.get("arguments", {})
|
||||
CONSOLE.print(f"\n[bold magenta]Агент хочет вызвать инструмент {name}({args})[/bold magenta]")
|
||||
answer = input("Разрешить? (Y/n): ")
|
||||
if answer.lower().strip() in ("y", ""):
|
||||
# Возобновляем без новых сообщений
|
||||
ask_and_run(None, config)
|
||||
else:
|
||||
CONSOLE.print("[red]Отменено[/red]")
|
||||
break
|
||||
|
||||
|
||||
# ------------------------------------------------------------------
|
||||
# Основной цикл чата
|
||||
# ------------------------------------------------------------------
|
||||
|
||||
|
||||
def main() -> None:
|
||||
thread_id = "thread-1"
|
||||
config = {"configurable": {"thread_id": thread_id}}
|
||||
|
||||
while True:
|
||||
user_input = input("\nВы: ")
|
||||
if user_input.lower().strip() == "exit":
|
||||
break
|
||||
|
||||
ask_and_run(
|
||||
{"messages": [{"role": "human", "content": user_input}]},
|
||||
config,
|
||||
)
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
main()
|
||||
Reference in New Issue
Block a user