Агент с RAG‑памятью: README.md
This commit is contained in:
@@ -0,0 +1,124 @@
|
|||||||
|
# Агент с RAG‑памятью
|
||||||
|
|
||||||
|
## Описание проекта
|
||||||
|
|
||||||
|
Проект реализует **AI‑агента**, способного хранить, искать и использовать знания в локальной векторной базе данных Qdrant при помощи Ollama (LLM `llama3` и эмбеддинг‑модель `nomic-embed-text`).
|
||||||
|
Агент использует LangChain для построения цепочки действий, а также предоставляет два инструмента:
|
||||||
|
|
||||||
|
| Инструмент | Описание |
|
||||||
|
|------------|----------|
|
||||||
|
| `search_knowledge_base(query, max_results)` | Семантический поиск по базе знаний. |
|
||||||
|
| `add_to_knowledge_base(content, title)` | Добавление нового документа в базу (с чанкингом и эмбеддингами). |
|
||||||
|
|
||||||
|
## Стек технологий
|
||||||
|
|
||||||
|
- **Python 3.10+**
|
||||||
|
- **Qdrant** – локальная векторная база данных
|
||||||
|
- **Ollama** – LLM `llama3` + эмбеддинги `nomic-embed-text`
|
||||||
|
- **LangChain** – фреймворк для агентов, RAG и инструментов
|
||||||
|
|
||||||
|
## Установка зависимостей
|
||||||
|
|
||||||
|
```bash
|
||||||
|
# 1. Ollama (LLM и эмбеддинг‑модели)
|
||||||
|
ollama pull llama3
|
||||||
|
ollama pull nomic-embed-text
|
||||||
|
|
||||||
|
# 2. Python пакеты
|
||||||
|
pip install langchain langchain-qdrant langchain-ollama
|
||||||
|
```
|
||||||
|
|
||||||
|
> **Важно**: Qdrant должен быть запущен локально (по умолчанию на `localhost:6333`).
|
||||||
|
> Если вы используете Docker, можно быстро поднять контейнер:
|
||||||
|
> ```bash
|
||||||
|
> docker run -p 6333:6333 qdrant/qdrant
|
||||||
|
> ```
|
||||||
|
|
||||||
|
## Структура проекта
|
||||||
|
|
||||||
|
| Файл | Описание |
|
||||||
|
|------|----------|
|
||||||
|
| `rag_agent.py` | Основная логика агента и его инструменты. |
|
||||||
|
| `qdrant_client.py` | Обёртка над QdrantVectorStore: инициализация, добавление документов, поиск. |
|
||||||
|
| `chunker.py` | Модуль для разбиения текста на чанки (RecursiveCharacterTextSplitter). |
|
||||||
|
| `init_loader.py` | Скрипт загрузки начальных данных в базу. |
|
||||||
|
| `cli_client.py` | CLI‑интерфейс для взаимодействия с агентом из командной строки. |
|
||||||
|
|
||||||
|
## Как запустить
|
||||||
|
|
||||||
|
### 1. Инициализация базы (опционально)
|
||||||
|
|
||||||
|
Если вы хотите сразу наполнить базу тестовыми данными, выполните:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
python init_loader.py
|
||||||
|
```
|
||||||
|
|
||||||
|
> Скрипт `init_loader.py` читает файлы из папки `data/`, разбивает их на чанки и сохраняет в Qdrant.
|
||||||
|
|
||||||
|
### 2. Запуск CLI‑клиента
|
||||||
|
|
||||||
|
CLI позволяет задавать вопросы агенту, а также добавлять новые документы:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
python cli_client.py
|
||||||
|
```
|
||||||
|
|
||||||
|
#### Примеры использования
|
||||||
|
|
||||||
|
| Команда | Описание |
|
||||||
|
|---------|----------|
|
||||||
|
| `ask "Какой смысл жизни?"` | Агент выполнит поиск в базе и сформирует ответ. |
|
||||||
|
| `add "data/new_doc.txt" "Новый документ"` | Добавляет новый файл в базу знаний (с чанкингом). |
|
||||||
|
|
||||||
|
### 3. Запуск агента напрямую
|
||||||
|
|
||||||
|
Если вам нужен только агент без CLI, можно импортировать его из `rag_agent.py`:
|
||||||
|
|
||||||
|
```python
|
||||||
|
from rag_agent import agent_executor
|
||||||
|
|
||||||
|
response = agent_executor.invoke({"input": "Расскажи о Qdrant"})
|
||||||
|
print(response["output"])
|
||||||
|
```
|
||||||
|
|
||||||
|
## Пример кода (CLI)
|
||||||
|
|
||||||
|
```bash
|
||||||
|
$ python cli_client.py ask "Что такое RAG?"
|
||||||
|
Agent: Searching knowledge base...
|
||||||
|
Result: ...
|
||||||
|
Answer: ...
|
||||||
|
```
|
||||||
|
|
||||||
|
## Настройка переменных окружения
|
||||||
|
|
||||||
|
| Переменная | Значение по умолчанию | Описание |
|
||||||
|
|------------|-----------------------|----------|
|
||||||
|
| `QDRANT_HOST` | `localhost` | Хост Qdrant. |
|
||||||
|
| `QDRANT_PORT` | `6333` | Порт Qdrant. |
|
||||||
|
| `QDRANT_COLLECTION` | `rag_collection` | Имя коллекции в Qdrant. |
|
||||||
|
| `EMBEDDING_MODEL` | `nomic-embed-text` | Модель эмбеддингов. |
|
||||||
|
| `LLM_MODEL` | `llama3` | Модель LLM. |
|
||||||
|
|
||||||
|
## Тесты
|
||||||
|
|
||||||
|
Тесты находятся в папке `tests/`. Запустить их можно так:
|
||||||
|
|
||||||
|
```bash
|
||||||
|
pytest tests/
|
||||||
|
```
|
||||||
|
|
||||||
|
> Убедитесь, что Qdrant и Ollama запущены перед запуском тестов.
|
||||||
|
|
||||||
|
## Лицензия
|
||||||
|
|
||||||
|
MIT License – см. файл `LICENSE`.
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
**Примечание:**
|
||||||
|
- Для работы с большим объёмом данных рекомендуется использовать более мощные модели эмбеддингов и LLM.
|
||||||
|
- Если вы хотите использовать облачные сервисы вместо локальных, замените импорты и конфигурацию в файлах проекта.
|
||||||
|
|
||||||
|
---
|
||||||
Reference in New Issue
Block a user