这是一个灵活、轻量级的开源框架,用于协调多个 AI 代理来处理复杂的对话。
什么是多代理编排器 ❓
多代理编排器是一个灵活的框架,用于管理多个 AI 代理并处理复杂的对话。它可以智能地路由查询并在交互过程中维护上下文。
该系统提供预构建的组件以便快速部署,同时还允许轻松集成自定义代理和对话消息存储解决方案。
这种适应性使其适用于广泛的应用,从简单的聊天机器人到复杂的人工智能系统,满足不同的需求并有效扩展。
功能
- 智能意图分类——根据上下文和内容动态地将查询路由到最合适的智能体代理。
- 双语言支持— 在Python和TypeScript中完全实现。
- 灵活的代理响应——支持来自不同代理的流式和非流式响应。
- 上下文管理——维护和利用跨多个代理的对话上下文,实现连贯的交互。
- 可扩展架构——轻松集成新代理或定制现有代理以满足您的特定需求。
- 通用部署——可在任何地方运行——从 AWS Lambda 到您的本地环境或任何云平台。
- 预构建的代理和分类器——提供多种可立即使用的代理和多种分类器实现。
流程图:
- 该过程从用户输入开始,然后由分类器进行分析。
- 分类器利用代理的特征和代理的对话历史来选择最适合该任务的代理。
- 一旦选择了代理,它就会处理用户输入。
- 然后,协调器会保存对话,更新代理的对话历史记录,然后将响应发回给用户。
介绍 SupervisorAgent:代理协调
多代理协调器现在包含一个功能强大的新 SupervisorAgent,可实现多个专业代理之间的复杂团队协调。这个新组件实现了“代理即工具”架构,允许首席代理同时协调专业代理团队,保持上下文并提供一致的响应。
主要功能:
- 团队协调- 协调多个专业代理共同完成复杂任务
- ⚡并行处理- 同时执行多个代理查询
- 智能上下文管理- 维护所有团队成员的对话历史记录
- 动态委派- 智能地将子任务分配给合适的团队成员
- 代理兼容性- 适用于所有代理类型(Bedrock、Anthropic、Lex 等)
- 直接使用- 当您需要专门的团队协调特定任务时,直接调用它
- 分类器集成- 将其添加为分类器中的代理,以构建具有多个专业团队的复杂分层系统
- 拥有专门子团队的客户支持团队
- 人工智能电影制作工作室
- 旅游规划服务
- 产品开发团队
- 医疗协调系统
演示应用程序
我们演示了使用 6 个专门代理的演示应用程序的扩展版本:
- 旅行社:由 Amazon Lex Bot 提供支持
- 天气代理:利用 Bedrock LLM 代理和工具来查询 open-meteo API
- 餐厅代理:作为 Amazon Bedrock 代理实施
- 数学代理:利用 Bedrock LLM 代理和两个工具执行数学运算
- 技术代理:专为回答技术主题问题而设计的 Bedrock LLM 代理
- 健康代理:专注于解决健康相关问题的 Bedrock LLM 代理