苹果智能:本地AI代理框架CAMPHOR

苹果的人工智能研究团队推出了 CAMPHOR,这是一个新的人工智能框架,旨在在移动设备上本地处理复杂的用户查询,同时保护用户隐私。

苹果的本地 AI 代理框架CAMPHOR为更有用的 Apple Intelligence 铺平了道路。

CAMPHOR(用于多输入规划和设备上高阶推理的协作代理)采用分层结构,由高级推理代理协调专业代理。该代理将复杂任务分解为子步骤,并将其分配给专家代理。

CAMPHOR 数据集模拟了具有各种功能和个人信息的真实智能手机环境。理涵盖个人背景、设备信息、用户感知、外部知识和任务执行等领域。这有助于开发和测试可以与不同应用和服务交互的 AI 助手。

与基于服务器的解决方案相比,这种方法可以提高隐私性并减少延迟,而基于服务器的解决方案通常需要在服务器和设备之间进行多次交换。

将人工智能装入你的口袋
CAMPHOR 使用提示压缩来充分利用有限的移动设备资源。该技术通过将函数定义压缩为单个标记来减少内存需求。研究发现,对于某些代理,静态提​​示标记的数量减少了高达 96%。

内存需求大幅减少,准确率却只发生了微小变化。衡量任务执行准确率的 Plan-F1 值仅从 39.89% 下降到 38.45%。在测试中,CAMPHOR 经过微调的小型语言模型在个性化任务上的表现优于大型语言模型,任务完成率最高可提高 35%。

团队指出,目前的 CAMPHOR 框架仅限于单一交互。未来的工作将专注于扩展 CAMPHOR 以实现多种交互,并集成更复杂的运行时反馈和错误处理。

AI 未来可能会控制你的 iPhone 以及更多
苹果的 CAMPHOR 代表了人工智能代理的愿景,它可以用自然语言与用户互动,同时理解并与用户的环境(例如智能手机界面)互动。如果成功,这一原则可以扩展到工作和生活的许多领域。OpenAI首席执行官 Sam Altman 正在投资将代理式、类似助手的人工智能融入日常生活的硬件。

OpenAI 最近在 GitHub 上发布了一个名为“Swarm”的开源框架,这是一个用于创建、编排和部署多智能体系统的工具。Swarm 旨在使智能体协调和执行变得轻量、可控且易于测试。Swarm 使用例程和交接。例程包含指令和工具。交接允许智能体路由对话。据 OpenAI 称,Swarm 处于实验阶段,尚未准备好投入生产。

总结

  • 苹果的AI研究团队开发了一个名为CAMPHOR的AI框架,旨在使用不同的SML(小语言模型)在移动设备本地处理复杂的用户请求,同时保持隐私。
  • CAMPHOR 采用由高级推理代理协调的专门代理的分层结构。它将复杂任务分解为子步骤,并将其分配给专门代理。
  • 据苹果公司介绍,CAMPHOR 针对个性化任务进行了微调的小型语言模型,其表现有时甚至优于大型云端 AI 模型。