Обновить solutions/6a02e23da6fe2e4ac16acf65_Агент_с_RAG_памятью/rag_agent.py
This commit is contained in:
@@ -1,3 +1,4 @@
|
|||||||
|
# rag_agent.py
|
||||||
import os
|
import os
|
||||||
from pathlib import Path
|
from pathlib import Path
|
||||||
from typing import List
|
from typing import List
|
||||||
@@ -6,161 +7,197 @@ from langchain_ollama import OllamaEmbeddings, OllamaLLM
|
|||||||
from langchain_qdrant import QdrantVectorStore
|
from langchain_qdrant import QdrantVectorStore
|
||||||
from langchain_text_splitters import RecursiveCharacterTextSplitter
|
from langchain_text_splitters import RecursiveCharacterTextSplitter
|
||||||
from langchain.tools import tool
|
from langchain.tools import tool
|
||||||
from langchain.agents import create_agent, AgentExecutor
|
from langchain.agents import create_react_agent, AgentExecutor
|
||||||
|
from langchain.prompts import PromptTemplate
|
||||||
from langchain.schema import Document
|
from langchain.schema import Document
|
||||||
from rag_tools import search_knowledge_base, add_to_knowledge_base
|
from qdrant_client import QdrantClient as _QdrantClient
|
||||||
|
from qdrant_client.http.models import Distance, VectorParams
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
# ---------------------------------------------------------------------------
|
||||||
# 1. Векторное хранилище на базе Qdrant
|
# Конфигурация
|
||||||
# --------------------------------------------------------------------------- #
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
class KnowledgeBase:
|
QDRANT_HOST = os.getenv("QDRANT_HOST", "localhost")
|
||||||
"""
|
QDRANT_PORT = int(os.getenv("QDRANT_PORT", "6333"))
|
||||||
Обёртка над QdrantVectorStore с автоматическим эмбеддингом через Ollama.
|
COLLECTION_NAME = os.getenv("QDRANT_COLLECTION", "rag_collection")
|
||||||
"""
|
EMBEDDING_MODEL = os.getenv("EMBEDDING_MODEL", "nomic-embed-text")
|
||||||
|
LLM_MODEL = os.getenv("LLM_MODEL", "llama3")
|
||||||
|
|
||||||
def __init__(self, collection_name: str = "rag_collection", host: str = "localhost", port: int = 6333):
|
# ---------------------------------------------------------------------------
|
||||||
self.embeddings = OllamaEmbeddings(model="nomic-embed-text")
|
# Векторное хранилище (Qdrant + Ollama-эмбеддинги)
|
||||||
self.store = QdrantVectorStore(
|
# ---------------------------------------------------------------------------
|
||||||
embeddings=self.embeddings,
|
|
||||||
url=f"http://{host}:{port}",
|
class RagVectorStore:
|
||||||
|
"""Обёртка над QdrantVectorStore с эмбеддингами через Ollama."""
|
||||||
|
|
||||||
|
def __init__(self, collection_name: str = COLLECTION_NAME):
|
||||||
|
self.embeddings = OllamaEmbeddings(model=EMBEDDING_MODEL)
|
||||||
|
|
||||||
|
# Низкоуровневый клиент для управления коллекцией
|
||||||
|
self._client = _QdrantClient(host=QDRANT_HOST, port=QDRANT_PORT)
|
||||||
|
|
||||||
|
# Создаём коллекцию, если её ещё нет
|
||||||
|
if not self._collection_exists(collection_name):
|
||||||
|
self._client.create_collection(
|
||||||
collection_name=collection_name,
|
collection_name=collection_name,
|
||||||
|
vectors_config=VectorParams(size=768, distance=Distance.COSINE),
|
||||||
)
|
)
|
||||||
|
|
||||||
|
self.store = QdrantVectorStore(
|
||||||
|
client=self._client,
|
||||||
|
collection_name=collection_name,
|
||||||
|
embedding=self.embeddings,
|
||||||
|
)
|
||||||
|
|
||||||
|
def _collection_exists(self, name: str) -> bool:
|
||||||
|
try:
|
||||||
|
self._client.get_collection(name)
|
||||||
|
return True
|
||||||
|
except Exception:
|
||||||
|
return False
|
||||||
|
|
||||||
def add_documents(self, docs: List[Document]) -> None:
|
def add_documents(self, docs: List[Document]) -> None:
|
||||||
"""Добавляет список документов в коллекцию."""
|
|
||||||
self.store.add_documents(docs)
|
self.store.add_documents(docs)
|
||||||
|
|
||||||
def search(self, query: str, limit: int = 5) -> List[Document]:
|
def search(self, query: str, k: int = 5) -> List[tuple]:
|
||||||
"""Поиск по запросу с ограничением на количество результатов."""
|
results = self.store.similarity_search_with_score(query, k=k)
|
||||||
return self.store.similarity_search(query=query, k=limit)
|
return [(doc.page_content, score) for doc, score in results]
|
||||||
|
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
# ---------------------------------------------------------------------------
|
||||||
# 2. Чанкинг документов
|
# Чанкинг
|
||||||
# --------------------------------------------------------------------------- #
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
def chunk_text(text: str, title: str = "") -> List[Document]:
|
def chunk_document(text: str, title: str) -> List[Document]:
|
||||||
"""
|
"""Разбивает текст на чанки с метаданными."""
|
||||||
Делит текст на чанки и возвращает список Document с метаданными.
|
|
||||||
"""
|
|
||||||
splitter = RecursiveCharacterTextSplitter(
|
splitter = RecursiveCharacterTextSplitter(
|
||||||
chunk_size=500,
|
chunk_size=1000,
|
||||||
chunk_overlap=50,
|
chunk_overlap=200,
|
||||||
length_function=len
|
separators=["\n\n", "\n", " ", ""],
|
||||||
)
|
)
|
||||||
chunks = splitter.split_text(text)
|
return [
|
||||||
docs = [
|
|
||||||
Document(page_content=chunk, metadata={"title": title})
|
Document(page_content=chunk, metadata={"title": title})
|
||||||
for chunk in chunks
|
for chunk in splitter.split_text(text)
|
||||||
]
|
]
|
||||||
return docs
|
|
||||||
|
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
# ---------------------------------------------------------------------------
|
||||||
# 3. Инструменты для агента
|
# Инициализация хранилища (глобальный синглтон для инструментов)
|
||||||
# --------------------------------------------------------------------------- #
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
kb = KnowledgeBase()
|
rag_store = RagVectorStore()
|
||||||
|
|
||||||
@tool("search_knowledge_base")
|
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
# LangChain-инструменты агента (@tool)
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
|
@tool
|
||||||
def search_knowledge_base(query: str, max_results: int = 5) -> List[str]:
|
def search_knowledge_base(query: str, max_results: int = 5) -> List[str]:
|
||||||
"""
|
"""
|
||||||
Семантический поиск в базе знаний.
|
Семантический поиск в базе знаний.
|
||||||
Возвращает список строк с содержимым найденных чанков.
|
|
||||||
|
Args:
|
||||||
|
query: поисковый запрос.
|
||||||
|
max_results: максимальное количество результатов.
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
Список найденных фрагментов с оценкой релевантности.
|
||||||
"""
|
"""
|
||||||
results = kb.search(query=query, limit=max_results)
|
results = rag_store.search(query, k=max_results)
|
||||||
return [doc.page_content for doc in results]
|
return [f"[score={score:.4f}] {text}" for text, score in results]
|
||||||
|
|
||||||
|
|
||||||
@tool("add_to_knowledge_base")
|
@tool
|
||||||
def add_to_knowledge_base(content: str, title: str) -> str:
|
def add_to_knowledge_base(content: str, title: str) -> str:
|
||||||
"""
|
"""
|
||||||
Добавляет новый документ в базу знаний после чанкинга.
|
Добавляет новый документ в базу знаний.
|
||||||
Возвращает подтверждение количества добавленных чанков.
|
|
||||||
|
Args:
|
||||||
|
content: полный текст документа.
|
||||||
|
title: заголовок документа.
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
Сообщение об успехе.
|
||||||
"""
|
"""
|
||||||
docs = chunk_text(content, title=title)
|
docs = chunk_document(content, title)
|
||||||
kb.add_documents(docs)
|
rag_store.add_documents(docs)
|
||||||
return f"Добавлено {len(docs)} чанков из документа '{title}'."
|
return f"Документ '{title}' успешно добавлен в базу знаний."
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
# 4. Создание агента
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
|
|
||||||
LLM_MODEL = "llama3"
|
# ---------------------------------------------------------------------------
|
||||||
|
# Агент на базе LangChain (create_react_agent)
|
||||||
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
llm = OllamaLLM(model=LLM_MODEL)
|
llm = OllamaLLM(model=LLM_MODEL)
|
||||||
|
|
||||||
tools = [search_knowledge_base, add_to_knowledge_base]
|
tools = [search_knowledge_base, add_to_knowledge_base]
|
||||||
|
|
||||||
prompt = PromptTemplate.from_template(
|
prompt = PromptTemplate.from_template(
|
||||||
"Вы — интеллектуальный агент с доступом к базе знаний.\n"
|
"Вы — интеллектуальный агент с доступом к локальной базе знаний.\n"
|
||||||
"Используйте инструменты 'search_knowledge_base' и 'add_to_knowledge_base' при необходимости.\n\n"
|
"При необходимости используйте инструменты search_knowledge_base и add_to_knowledge_base.\n\n"
|
||||||
"Доступные инструменты:\n{tools}\n\n"
|
"Доступные инструменты:\n{tools}\n\n"
|
||||||
"Формат ответа:\n"
|
"Формат ответа (строго соблюдайте):\n"
|
||||||
|
"Question: вопрос пользователя\n"
|
||||||
|
"Thought: что нужно сделать\n"
|
||||||
|
"Action: инструмент из [{tool_names}]\n"
|
||||||
|
"Action Input: входные данные для инструмента\n"
|
||||||
|
"Observation: результат инструмента\n"
|
||||||
|
"... (можно повторять Thought/Action/Observation)\n"
|
||||||
|
"Thought: теперь я знаю ответ\n"
|
||||||
|
"Final Answer: итоговый ответ пользователю\n\n"
|
||||||
|
"Begin!\n\n"
|
||||||
"Question: {input}\n"
|
"Question: {input}\n"
|
||||||
"Thought: {agent_scratchpad}\n"
|
"Thought: {agent_scratchpad}"
|
||||||
"Action: действие из [{tool_names}]\n"
|
|
||||||
"Action Input: входные данные\n"
|
|
||||||
"Observation: результат\n"
|
|
||||||
"Final Answer: итоговый ответ"
|
|
||||||
)
|
)
|
||||||
|
|
||||||
agent = create_react_agent(llm=llm, tools=tools, prompt=prompt)
|
agent = create_react_agent(llm=llm, tools=tools, prompt=prompt)
|
||||||
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)
|
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
# 5. Инициализация из директории (для загрузки файлов)
|
|
||||||
# --------------------------------------------------------------------------- #
|
|
||||||
|
|
||||||
def load_documents_from_dir(directory: str) -> None:
|
# ---------------------------------------------------------------------------
|
||||||
"""
|
# Загрузка документов из директории (для init_loader.py)
|
||||||
Загружает все .txt файлы из указанной папки в базу знаний.
|
# ---------------------------------------------------------------------------
|
||||||
"""
|
|
||||||
for file_path in Path(directory).glob("*.txt"):
|
|
||||||
with open(file_path, "r", encoding="utf-8") as f:
|
|
||||||
content = f.read()
|
|
||||||
title = file_path.stem
|
|
||||||
add_to_knowledge_base(content=content, title=title)
|
|
||||||
|
|
||||||
# --------------------------------------------------------------------------- #
|
def load_documents_from_directory(directory: str) -> None:
|
||||||
# 6. Интерактивный клиент
|
"""Загружает все .txt и .md файлы из папки в базу знаний."""
|
||||||
# --------------------------------------------------------------------------- #
|
path = Path(directory)
|
||||||
|
for file_path in path.rglob("*"):
|
||||||
|
if file_path.suffix.lower() in {".txt", ".md"}:
|
||||||
|
text = file_path.read_text(encoding="utf-8")
|
||||||
|
add_to_knowledge_base.invoke({"content": text, "title": file_path.stem})
|
||||||
|
print(f"Загружен: {file_path.name}")
|
||||||
|
|
||||||
def interactive_cli() -> None:
|
|
||||||
"""
|
# ---------------------------------------------------------------------------
|
||||||
Простая CLI с командами /add, /search и /quit.
|
# Запуск напрямую — интерактивный CLI
|
||||||
"""
|
# ---------------------------------------------------------------------------
|
||||||
init_agent()
|
|
||||||
print("=== RAG-агент готов к работе ===")
|
if __name__ == "__main__":
|
||||||
|
print("=== RAG Агент ===")
|
||||||
|
print("Команды: /add <path>, /search <query>, /quit")
|
||||||
while True:
|
while True:
|
||||||
try:
|
try:
|
||||||
user_input = input("\n> ").strip()
|
user_input = input("> ").strip()
|
||||||
except (EOFError, KeyboardInterrupt):
|
except (EOFError, KeyboardInterrupt):
|
||||||
break
|
break
|
||||||
|
|
||||||
if not user_input:
|
if not user_input:
|
||||||
continue
|
continue
|
||||||
|
|
||||||
if user_input.lower() == "/quit":
|
if user_input.lower() == "/quit":
|
||||||
print("Завершение работы.")
|
print("Выход.")
|
||||||
break
|
break
|
||||||
elif user_input.startswith("/add "):
|
elif user_input.startswith("/add "):
|
||||||
# /add путь_к_файлу
|
file_path = Path(user_input[5:].strip())
|
||||||
_, path = user_input.split(maxsplit=1)
|
if file_path.is_file():
|
||||||
with open(path, "r", encoding="utf-8") as f:
|
text = file_path.read_text(encoding="utf-8")
|
||||||
content = f.read()
|
print(add_to_knowledge_base.invoke({"content": text, "title": file_path.stem}))
|
||||||
title = Path(path).stem
|
else:
|
||||||
print(add_to_knowledge_base(content, title))
|
print(f"Файл не найден: {file_path}")
|
||||||
elif user_input.startswith("/search"):
|
elif user_input.startswith("/search "):
|
||||||
# /search запрос
|
query = user_input[8:].strip()
|
||||||
_, query = user_input.split(maxsplit=1)
|
for r in search_knowledge_base.invoke({"query": query, "max_results": 3}):
|
||||||
results = search_knowledge_base(query, max_results=3)
|
print(r)
|
||||||
for i, res in enumerate(results, 1):
|
|
||||||
print(f"\n--- Результат {i} ---\n{res}")
|
|
||||||
else:
|
else:
|
||||||
# Любой другой ввод считается запросом к агенту
|
|
||||||
response = agent_executor.invoke({"input": user_input})
|
response = agent_executor.invoke({"input": user_input})
|
||||||
print(response["output"])
|
print(response["output"])
|
||||||
|
|
||||||
if __name__ == "__main__":
|
|
||||||
interactive_cli()
|
|
||||||
Reference in New Issue
Block a user