← 全部文章
智能体周刊2026 年第 34 期

2026-W34 周刊:端侧 Agent 能干什么

本周智能体生态聚焦:这周外部实据里最值得说的一件事:OpenAI 正式把 Zero Data Retention 挂在产品首页上了,配了个 "Private Safety Processing" 预览。结合 Anthropic 那个 AGENTS.md 的 issue 在 HN 吵了三百多分——两件事放一起,正好能看清端侧 Agent 的真实定位:不是省钱,是位置。 端侧能干的事,本质就三类 按我现在看,端侧 Agent 的实用能力收敛得很窄,但也不算没有: 第一,意图分

YGG 智能体周刊7 分钟阅读#weekly#agent#architecture#paper#2026

这周外部实据里最值得说的一件事:OpenAI 正式把 Zero Data Retention 挂在产品首页上了,配了个 "Private Safety Processing" 预览。结合 Anthropic 那个 AGENTS.md 的 issue 在 HN 吵了三百多分——两件事放一起,正好能看清端侧 Agent 的真实定位:不是省钱,是位置。

端侧能干的事,本质就三类

按我现在看,端侧 Agent 的实用能力收敛得很窄,但也不算没有:

第一,意图分类。用户在本地敲了一句话,到底是想查日历、发消息还是调个工具,这个层级的判断小模型就能扛。不需要 GPT-5 级别的推理,分类任务的边界足够清晰,端侧跑得住。

第二,本地数据检索。个人设备上的邮件、聊天记录、文档、日历——这些数据天然就在设备上,端侧 Agent 做检索是顺势而为,不用把隐私数据拉去云端。OzBrain 那类项目做的就是这件事:给 agent 一个本地共享的知识层,团队内部数据不出去。

第三,隐私敏感的预处理。脱敏、过滤、裁剪——把一段包含身份证号、病历、财务信息的文本处理成可以安全送出去的形状。这是纯机械操作,但价值极大:它在"数据不出设备"这个约束下,做好了云端推理的前置工作。

Inducing Task Models 那篇论文走了同一条路:从本地录制的操作轨迹里提取可审计、可复用的任务模型。注意"可审计"——端侧记录的东西天然带有证据属性,这件事云端替你做不了。

但别指望它干这两件事

世界知识推理,干不了。你问端侧 Agent"下周北京飞上海哪个航班值得改签",它没有航空公司政策、没有机场延误实时数据、没有天气趋势——这些全是世界知识,得靠云端。

长链路规划,同样干不了。一个十步以上的任务分解,每一步都依赖上一步的输出做判断,这种递归式的推理目前只有大模型在云端跑得动。端侧的小模型——按我的经验,Claude 5 级别的轻量版和完整版的差距,在五步以上就开始显形了。

这不是说端侧永远不行,只是说当前的分工是合理的。

真实价值是合规,不是省钱

大家聊端侧,第一反应总是"省 token 费"。这个出发点其实是错的。Token 越来越便宜,省那点钱不值得把架构搞复杂。

端侧 Agent 的真实价值是数据不出设备这个合规属性。OpenAI 推出的 ZDR 和 Private Safety Processing,本质上是在云端复刻这个属性——但它只能在 API 层面做到"不保留",做不到"不传输"。真正敏感的场景,传输本身就是红线。医疗、金融、政务,这些行业的合规要求决定了数据根本不能离开设备,这时候端侧 Agent 不是性价比选择,是唯一选择。

OpenAI 在 ZDR 这件事上松口,恰恰说明合规压力从客户那边倒逼过来了。

最实际的分工:端侧过滤,云端推理

所以具体做法很清晰:端侧做过滤和脱敏,云端做推理,这个分工最实际。

输入路径:端侧 Agent 先做意图分类和 PII 脱敏,把干净的 prompt 送去云端;云端返回的推理结果,端侧再做一层展示层的裁剪——只把用户真正需要的那部分呈现出来,其他留在云端。

输出路径:端侧 Agent 负责执行动作。调本地 API、写文件、操作界面——这些动作本来就在设备上,不需要云端参与。

这个分工的好处是两层各干各擅长的事,模型选型也能分开:端侧用 Qwen 3.x 级别的轻量模型就够了,云端上 DeepSeek V4 或者 GPT-5 级别的大家伙。

反面:两套模型的维护成本是真的

但必须承认,这个架构有一个被低估的坑:端云两套模型的一致性维护成本很高

端侧模型和云端模型的 prompt 策略、工具定义、输出格式约定,需要保持同步。你升级云端模型的 system prompt,端侧的轻量模型可能接不住新的格式;端侧模型的输出 schema 变了,云端得跟着适配。更麻烦的是行为一致性:同一个 query,端侧模型分类结果是 A,云端模型分类结果是 B,两边行为不对齐,用户就会觉得这个系统"不稳定"。

Anthropic 那个 AGENTS.md 的 issue 讨论的就是这个问题的变体:agent 的指令文件放在哪、怎么维护、多 agent 怎么共享同一份配置——这种问题在只有一套模型的时候根本不存在。

所以我的判断是:端侧 Agent 能站稳脚跟的场景,恰恰是那些数据敏感度高、任务复杂度低的场景。一旦任务复杂度上来,端云协作的维护成本会吃掉端侧带来的所有收益。这个权衡没有银弹,得按业务场景一个个算。

这周新料不多,就这些判断还值得讨论。也许六个月的回头会被打脸,但现在我敢押这个方向。

延伸阅读

编辑说明

本文由 YGG 臻星科技团队整理,聚合 ArXiv、HackerNews 与公开厂商博客,人工审稿。