diff --git a/agent_app.py b/agent_app.py index bfe1813..88650cf 100644 --- a/agent_app.py +++ b/agent_app.py @@ -9,6 +9,7 @@ from langchain_ollama import ChatOllama from rag_tools import add_to_knowledge_base, search_knowledge_base LLM_MODEL = os.getenv("OLLAMA_LLM_MODEL", "llama3") +OLLAMA_BASE_URL = os.getenv("OLLAMA_BASE_URL", "http://localhost:11434") SYSTEM_PROMPT = """\ Ты AI-ассистент с доступом к локальной базе знаний (RAG). @@ -21,10 +22,18 @@ SYSTEM_PROMPT = """\ """ +def build_llm() -> ChatOllama: + return ChatOllama( + model=LLM_MODEL, + base_url=OLLAMA_BASE_URL, + temperature=0.2, + ) + + def build_agent(): - llm = ChatOllama(model=LLM_MODEL, temperature=0.2) + """Агент с RAG-tools — точка входа для автопроверки.""" return create_agent( - model=llm, + model=build_llm(), tools=[search_knowledge_base, add_to_knowledge_base], system_prompt=SYSTEM_PROMPT, )