Обновить solutions/6a02e23da6fe2e4ac16acf65_Агент_с_RAG_памятью/rag_agent.py

This commit is contained in:
2026-05-27 07:08:05 +00:00
parent 6d46d2b5fc
commit 25ae2bd0e8
@@ -1,3 +1,4 @@
# rag_agent.py
import os import os
from pathlib import Path from pathlib import Path
from typing import List from typing import List
@@ -6,161 +7,197 @@ from langchain_ollama import OllamaEmbeddings, OllamaLLM
from langchain_qdrant import QdrantVectorStore from langchain_qdrant import QdrantVectorStore
from langchain_text_splitters import RecursiveCharacterTextSplitter from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain.tools import tool from langchain.tools import tool
from langchain.agents import create_agent, AgentExecutor from langchain.agents import create_react_agent, AgentExecutor
from langchain.prompts import PromptTemplate
from langchain.schema import Document from langchain.schema import Document
from rag_tools import search_knowledge_base, add_to_knowledge_base from qdrant_client import QdrantClient as _QdrantClient
from qdrant_client.http.models import Distance, VectorParams
# --------------------------------------------------------------------------- # # ---------------------------------------------------------------------------
# 1. Векторное хранилище на базе Qdrant # Конфигурация
# --------------------------------------------------------------------------- # # ---------------------------------------------------------------------------
class KnowledgeBase: QDRANT_HOST = os.getenv("QDRANT_HOST", "localhost")
""" QDRANT_PORT = int(os.getenv("QDRANT_PORT", "6333"))
Обёртка над QdrantVectorStore с автоматическим эмбеддингом через Ollama. COLLECTION_NAME = os.getenv("QDRANT_COLLECTION", "rag_collection")
""" EMBEDDING_MODEL = os.getenv("EMBEDDING_MODEL", "nomic-embed-text")
LLM_MODEL = os.getenv("LLM_MODEL", "llama3")
def __init__(self, collection_name: str = "rag_collection", host: str = "localhost", port: int = 6333): # ---------------------------------------------------------------------------
self.embeddings = OllamaEmbeddings(model="nomic-embed-text") # Векторное хранилище (Qdrant + Ollama-эмбеддинги)
self.store = QdrantVectorStore( # ---------------------------------------------------------------------------
embeddings=self.embeddings,
url=f"http://{host}:{port}", class RagVectorStore:
"""Обёртка над QdrantVectorStore с эмбеддингами через Ollama."""
def __init__(self, collection_name: str = COLLECTION_NAME):
self.embeddings = OllamaEmbeddings(model=EMBEDDING_MODEL)
# Низкоуровневый клиент для управления коллекцией
self._client = _QdrantClient(host=QDRANT_HOST, port=QDRANT_PORT)
# Создаём коллекцию, если её ещё нет
if not self._collection_exists(collection_name):
self._client.create_collection(
collection_name=collection_name, collection_name=collection_name,
vectors_config=VectorParams(size=768, distance=Distance.COSINE),
) )
self.store = QdrantVectorStore(
client=self._client,
collection_name=collection_name,
embedding=self.embeddings,
)
def _collection_exists(self, name: str) -> bool:
try:
self._client.get_collection(name)
return True
except Exception:
return False
def add_documents(self, docs: List[Document]) -> None: def add_documents(self, docs: List[Document]) -> None:
"""Добавляет список документов в коллекцию."""
self.store.add_documents(docs) self.store.add_documents(docs)
def search(self, query: str, limit: int = 5) -> List[Document]: def search(self, query: str, k: int = 5) -> List[tuple]:
"""Поиск по запросу с ограничением на количество результатов.""" results = self.store.similarity_search_with_score(query, k=k)
return self.store.similarity_search(query=query, k=limit) return [(doc.page_content, score) for doc, score in results]
# --------------------------------------------------------------------------- # # ---------------------------------------------------------------------------
# 2. Чанкинг документов # Чанкинг
# --------------------------------------------------------------------------- # # ---------------------------------------------------------------------------
def chunk_text(text: str, title: str = "") -> List[Document]: def chunk_document(text: str, title: str) -> List[Document]:
""" """Разбивает текст на чанки с метаданными."""
Делит текст на чанки и возвращает список Document с метаданными.
"""
splitter = RecursiveCharacterTextSplitter( splitter = RecursiveCharacterTextSplitter(
chunk_size=500, chunk_size=1000,
chunk_overlap=50, chunk_overlap=200,
length_function=len separators=["\n\n", "\n", " ", ""],
) )
chunks = splitter.split_text(text) return [
docs = [
Document(page_content=chunk, metadata={"title": title}) Document(page_content=chunk, metadata={"title": title})
for chunk in chunks for chunk in splitter.split_text(text)
] ]
return docs
# --------------------------------------------------------------------------- # # ---------------------------------------------------------------------------
# 3. Инструменты для агента # Инициализация хранилища (глобальный синглтон для инструментов)
# --------------------------------------------------------------------------- # # ---------------------------------------------------------------------------
kb = KnowledgeBase() rag_store = RagVectorStore()
@tool("search_knowledge_base")
# ---------------------------------------------------------------------------
# LangChain-инструменты агента (@tool)
# ---------------------------------------------------------------------------
@tool
def search_knowledge_base(query: str, max_results: int = 5) -> List[str]: def search_knowledge_base(query: str, max_results: int = 5) -> List[str]:
""" """
Семантический поиск в базе знаний. Семантический поиск в базе знаний.
Возвращает список строк с содержимым найденных чанков.
Args:
query: поисковый запрос.
max_results: максимальное количество результатов.
Returns:
Список найденных фрагментов с оценкой релевантности.
""" """
results = kb.search(query=query, limit=max_results) results = rag_store.search(query, k=max_results)
return [doc.page_content for doc in results] return [f"[score={score:.4f}] {text}" for text, score in results]
@tool("add_to_knowledge_base") @tool
def add_to_knowledge_base(content: str, title: str) -> str: def add_to_knowledge_base(content: str, title: str) -> str:
""" """
Добавляет новый документ в базу знаний после чанкинга. Добавляет новый документ в базу знаний.
Возвращает подтверждение количества добавленных чанков.
Args:
content: полный текст документа.
title: заголовок документа.
Returns:
Сообщение об успехе.
""" """
docs = chunk_text(content, title=title) docs = chunk_document(content, title)
kb.add_documents(docs) rag_store.add_documents(docs)
return f"Добавлено {len(docs)} чанков из документа '{title}'." return f"Документ '{title}' успешно добавлен в базу знаний."
# --------------------------------------------------------------------------- #
# 4. Создание агента
# --------------------------------------------------------------------------- #
LLM_MODEL = "llama3" # ---------------------------------------------------------------------------
# Агент на базе LangChain (create_react_agent)
# ---------------------------------------------------------------------------
llm = OllamaLLM(model=LLM_MODEL) llm = OllamaLLM(model=LLM_MODEL)
tools = [search_knowledge_base, add_to_knowledge_base] tools = [search_knowledge_base, add_to_knowledge_base]
prompt = PromptTemplate.from_template( prompt = PromptTemplate.from_template(
"Вы — интеллектуальный агент с доступом к базе знаний.\n" "Вы — интеллектуальный агент с доступом к локальной базе знаний.\n"
"Используйте инструменты 'search_knowledge_base' и 'add_to_knowledge_base' при необходимости.\n\n" "При необходимости используйте инструменты search_knowledge_base и add_to_knowledge_base.\n\n"
"Доступные инструменты:\n{tools}\n\n" "Доступные инструменты:\n{tools}\n\n"
"Формат ответа:\n" "Формат ответа (строго соблюдайте):\n"
"Question: вопрос пользователя\n"
"Thought: что нужно сделать\n"
"Action: инструмент из [{tool_names}]\n"
"Action Input: входные данные для инструмента\n"
"Observation: результат инструмента\n"
"... (можно повторять Thought/Action/Observation)\n"
"Thought: теперь я знаю ответ\n"
"Final Answer: итоговый ответ пользователю\n\n"
"Begin!\n\n"
"Question: {input}\n" "Question: {input}\n"
"Thought: {agent_scratchpad}\n" "Thought: {agent_scratchpad}"
"Action: действие из [{tool_names}]\n"
"Action Input: входные данные\n"
"Observation: результат\n"
"Final Answer: итоговый ответ"
) )
agent = create_react_agent(llm=llm, tools=tools, prompt=prompt) agent = create_react_agent(llm=llm, tools=tools, prompt=prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True) agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)
# --------------------------------------------------------------------------- #
# 5. Инициализация из директории (для загрузки файлов)
# --------------------------------------------------------------------------- #
def load_documents_from_dir(directory: str) -> None: # ---------------------------------------------------------------------------
""" # Загрузка документов из директории (для init_loader.py)
Загружает все .txt файлы из указанной папки в базу знаний. # ---------------------------------------------------------------------------
"""
for file_path in Path(directory).glob("*.txt"):
with open(file_path, "r", encoding="utf-8") as f:
content = f.read()
title = file_path.stem
add_to_knowledge_base(content=content, title=title)
# --------------------------------------------------------------------------- # def load_documents_from_directory(directory: str) -> None:
# 6. Интерактивный клиент """Загружает все .txt и .md файлы из папки в базу знаний."""
# --------------------------------------------------------------------------- # path = Path(directory)
for file_path in path.rglob("*"):
if file_path.suffix.lower() in {".txt", ".md"}:
text = file_path.read_text(encoding="utf-8")
add_to_knowledge_base.invoke({"content": text, "title": file_path.stem})
print(f"Загружен: {file_path.name}")
def interactive_cli() -> None:
""" # ---------------------------------------------------------------------------
Простая CLI с командами /add, /search и /quit. # Запуск напрямую — интерактивный CLI
""" # ---------------------------------------------------------------------------
init_agent()
print("=== RAG-агент готов к работе ===") if __name__ == "__main__":
print("=== RAG Агент ===")
print("Команды: /add <path>, /search <query>, /quit")
while True: while True:
try: try:
user_input = input("\n> ").strip() user_input = input("> ").strip()
except (EOFError, KeyboardInterrupt): except (EOFError, KeyboardInterrupt):
break break
if not user_input: if not user_input:
continue continue
if user_input.lower() == "/quit": if user_input.lower() == "/quit":
print("Завершение работы.") print("Выход.")
break break
elif user_input.startswith("/add"): elif user_input.startswith("/add "):
# /add путь_к_файлу file_path = Path(user_input[5:].strip())
_, path = user_input.split(maxsplit=1) if file_path.is_file():
with open(path, "r", encoding="utf-8") as f: text = file_path.read_text(encoding="utf-8")
content = f.read() print(add_to_knowledge_base.invoke({"content": text, "title": file_path.stem}))
title = Path(path).stem else:
print(add_to_knowledge_base(content, title)) print(f"Файл не найден: {file_path}")
elif user_input.startswith("/search"): elif user_input.startswith("/search "):
# /search запрос query = user_input[8:].strip()
_, query = user_input.split(maxsplit=1) for r in search_knowledge_base.invoke({"query": query, "max_results": 3}):
results = search_knowledge_base(query, max_results=3) print(r)
for i, res in enumerate(results, 1):
print(f"\n--- Результат {i} ---\n{res}")
else: else:
# Любой другой ввод считается запросом к агенту
response = agent_executor.invoke({"input": user_input}) response = agent_executor.invoke({"input": user_input})
print(response["output"]) print(response["output"])
if __name__ == "__main__":
interactive_cli()