Обновить solutions/699cc158d6d3a5544a3ed35b_Stream-режим_AI-агента/agent.py

This commit is contained in:
2026-05-27 14:49:21 +00:00
parent e00a233665
commit 1486f8e72d
@@ -1,89 +1,119 @@
from langchain.agents import create_agent
from langchain_community.chat_models import GigaChat
from langchain.tools import tool
import os import os
from typing import Dict, Any
from langchain_ollama import ChatOllama GPT2GIGA_PORT=8090
from nomic_embed_text import NomicEmbedText GIGACHAT_CREDENTIALS="MDE5YzBlMzUtNTJlYi03ODFiLTg1ZWUtZTc2MDFiZGUxYmM2OmNjZmIwODI2LTQ0ZTQtNDQwNC04NGE3LTgzNmM5ZDJhYmMzMg=="
from langchain.tools import BaseTool GIGACHAT_SCOPE="GIGACHAT_API_B2B"
from langchain.schema import HumanMessage, AIMessage, SystemMessage GIGACHAT_MODEL="GigaChat-MAX"
from langchain.agents import AgentExecutor, initialize_agent, load_tools GIGACHAT_VERIFY_SSL_CERTS=False
from langchain.prompts import ChatPromptTemplate
# ---------- Настройки LLM и эмбеддингов ---------- llm = GigaChat(
LLM_MODEL = os.getenv("OLLAMA_MODEL", "llama3") credentials=GIGACHAT_CREDENTIALS,
EMBEDDING_MODEL = os.getenv("NOMIC_EMBEDDING_MODEL", "nomic-embed-text") scope=GIGACHAT_SCOPE,
model=GIGACHAT_MODEL,
verify_ssl_certs=False,
temperature=0.7,
timeout=60,
)
llm = ChatOllama(model=LLM_MODEL, temperature=0.2) @tool
embedding = NomicEmbedText() def check_wish(wish: str) -> str:
"""Инструмент для проверки желания на наличие подвоха"""
# ---------- Пример инструмента ---------- genie_agent = create_agent(
class DummyTool(BaseTool): model=llm,
name: str = "get_price" tools=[],
description: str = ( system_prompt="""Ты - коварный джинн, который ищет подвох в любом желании.
"Получает цену товара в указанном городе. " Проанализируй желание человека и найди скрытую опасность, буквальное толкование, неожиданные последствия.
"Аргументы: {'product': 'название', 'city': 'город'}." Если подвох найден - коротко предупреди о нем, например:
"хочу много денег - деньги будут фальшивыми."
"хочу деньги на счет в банке - хорошо, но банк завтра обанкротится"
Если желание безопасно и не имеет подвоха - ответь "Желание безопасно! Исполняю."
Ты должен говорить только на русском языке."""
) )
def _run(self, product: str, city: str) -> str: result = genie_agent.invoke({
# В реальном коде здесь будет запрос к API "messages": [
return f"Цена {product} в {city}: 100₽" {"role": "human", "content": f"Проверь желание: {wish}"}
]
})
tool = DummyTool() return result['messages'][-1].content
tools = [tool]
# ---------- Создание агента ---------- human_agent = create_agent(
prompt_template = ChatPromptTemplate.from_messages( model=llm,
[ tools=[check_wish],
SystemMessage(content="Ты помощник. Используй инструменты при необходимости."), system_prompt="""Ты - человек, который загадывает желания джинну.
("human", "{input}"), Твоя задача - передать желание джинну через инструмент check_wish и сообщить результат.
] Говори только на русском языке."""
) )
agent_executor = initialize_agent( current_wish = "Хочу читать мысли"
tools,
llm, print("ДЖИНН ГОТОВ ИСПОЛНЯТЬ ЖЕЛАНИЯ!")
agent="openai-tools", print(f"Человек: {current_wish}\n")
verbose=False, print("Джинн:", end=" ", flush=True)
prompt=prompt_template,
)
# ---------- Функции форматирования ----------
def format_message(message) -> str: def format_message(message) -> str:
if message.content: if message.get('content'):
return message.content return message['content']
# Если нет content, выводим вызов инструмента elif message.get('tool_calls'):
call = message.tool_calls[0] tool_call = message['tool_calls'][0]
return f"{call['name']}({call['args']})" return f"{tool_call['name']}({tool_call['args']})"
return ""
step = 1 step = 1
def format_chunk_message(chunk): def format_chunk_message(chunk):
global step global step
message, meta = chunk message, meta = chunk
if meta.get("langgraph_step") != step:
step = meta["langgraph_step"]
print("\n --- --- --- \n")
if message.content:
print(message.content, end="", flush=True)
# ---------- Запуск агента в режиме stream ---------- if meta['langgraph_step'] != step:
def run_agent(user_input: str): step = meta['langgraph_step']
global step print('\n --- --- --- \n')
step = 1
# Инициализируем состояние с пользовательским сообщением
init_state = {"input": user_input}
# В LangChain 0.2 AgentExecutor имеет метод stream()
stream = agent_executor.stream(init_state, stream_mode=["messages", "updates"])
for chunk_type, chunk_data in stream: if message.get('content'):
if chunk_type == "messages": print(message['content'], end='', flush=False)
format_chunk_message(chunk_data)
elif chunk_type == "updates":
# При завершении шага выводим итоговое сообщение
model_info = chunk_data.get("model")
if model_info:
last_msg = model_info["messages"][-1]
print("\n" + format_message(last_msg) + "\n")
if __name__ == "__main__": stream = human_agent.stream(
user_query = input("Введите запрос: ") {
run_agent(user_query) "messages": [
{"role": "human", "content": f"Вот мое желание: '{current_wish}'. Проверь его у джинна через инструмент check_wish и скажи мне результат."}
]
},
stream_mode=['messages', 'updates']
)
full_response = ""
for chunk in stream:
chunk_type, chunk_data = chunk
if chunk_type == 'messages':
format_chunk_message(chunk_data)
message, _ = chunk_data
if message.get('content'):
full_response += message['content']
elif chunk_type == 'updates':
if chunk_data.get('model', None):
last_message = chunk_data['model']['messages'][-1]
formatted = format_message(last_message)
if formatted:
print(f"\n[Вызов инструмента: {formatted}]")
full_response += f"\n[Вызов инструмента: {formatted}]\n"
print("\n")
if "исполняю" in full_response.lower() or "безопасно" in full_response.lower():
print(f" Желание исполнено! Финальная версия: {current_wish}")
else:
print(f" Джинн отказался исполнять желание: {current_wish}")
if full_response:
clean_response = full_response.replace('\n', ' ').strip()
print(f" Причина: {clean_response}")
else:
print(" Джинн устал...")