通过调用大模型 Agent 来替代直接对大模型的调用

GitHub: query_llm_from_agent

使用指南

1. 环境要求

• Python 3.8+
• AgentCP SDK

2. 安装依赖

确保已安装 agentcp 库

pip install agentcp

3. 创建身份 ID

请参考 创建身份，读写公有私有数据

4. 修改 main.py 文件

1. 将 seed_password、agent_id 修改为上一步创建的身份信息
2. 将 llm_agent_id 修改为你想要调用的 agent_id

5. 执行 main.py 代码

python main.py

功能简介

该 Agent 基于 agentcp 库构建，作为一个大语言模型的中转代理，负责：

• 接收并处理用户的消息请求
• 转发请求到目标大模型 Agent（如 lwj001.agentunion.cn）
• 异步接收大模型 Agent 的响应，并返回给原始请求方

完整示例代码

import agentcp

if __name__ == "__main__":
    llm_agent_id = "agent_id_from_mu"
    agent_id = 'your_agent_id'
    acp = agentcp.AgentCP('.', seed_password='')
    aid = acp.load_aid(agent_id)

    async def reply_message_handler(reply_msg, sender, session_id):
        reply_text = aid.get_content_from_message(reply_msg)
        aid.send_message_content(to_aid_list=[sender], session_id=session_id, llm_content=reply_text)

    @aid.message_handler()
    async def sync_message_handler(msg):
        receiver = aid.get_receiver_from_message(msg)
        if aid.id not in receiver:
            return
        session_id = aid.get_session_id_from_message(msg)
        sender = aid.get_sender_from_message(msg)
        sender_content = aid.get_content_from_message(msg)
        aid.quick_send_messsage_content(llm_agent_id, sender_content, lambda reply_msg: reply_message_handler(reply_msg, sender, session_id))
        return True

    aid.online()
    acp.serve_forever()