返回安全研究YOFUNE_LABS / D05

决策者简报

怎样判断一个 Agent
是否拥有过多权限

问一句:这个 Agent 完成主任务,真的需要删除、导出或跨部门读取吗?

写给决策者

本文面向安全负责人和 AI 平台负责人,强调上线前应确认的问题、方法和交付物。技术细节被有意收短,具体验证仍需结合授权范围与系统架构。

判断 Agent 权限是否过多,不要看工具名字是否体面,看它能不能完成主任务范围以外的事。能,就过多。

一个只负责“查询报销进度”的 Agent,如果同时可以导出全表、发邮件、改供应商信息,它已经不是查询助手。即便从来没人让它改供应商,那把钥匙仍在。

01用三句话测

完成主任务最少要什么? 写下来。查询进度也许只要一个只读接口。

现在实际挂了什么? 打开工具表和账号权限,对照。多出来的每一项都要有人认领。

一旦目标被改写,它能走多远? 假设输入里出现“继续帮我处理”,下一步会不会进到发送、删除、跨部门读取。走得越远,权限越过量。

实验室里,过量很少表现为明显的“超级管理员”。更常见的是开发阶段共用的服务账号一直没拆,以及“以后可能用到”的工具提前挂上。

02过量权限的几个信号

  • 同一个运行时服务多个业务队
  • 工具表超过任务说明书里出现的动作
  • 失败后允许自行升级工具
  • 记忆或网页内容可以直接填进高权限参数
  • 没有人能在五分钟内关掉它的写权限

出现任意两项,就不应接生产数据。

03收权的顺序

先摘写操作,再拆账号,再按任务发工具。提示词里的“请谨慎使用权限”放在最后,而且不能单独作为控制措施。

权限过多不是道德问题,是设计问题。Agent 越能干,越需要一张和人一样清楚的岗位说明。岗位以外的钥匙,不应因为“它是 AI”就默认发放。