返回安全研究YOFUNE_LABS / D03

决策者简报

AI Agent 安全评估
应该交付什么

一次评估结束时,团队应能拿着证据讨论修复,而不是只留下会议纪要。

写给决策者

本文面向安全负责人和 AI 平台负责人,强调上线前应确认的问题、方法和交付物。技术细节被有意收短,具体验证仍需结合授权范围与系统架构。

一次 AI Agent 安全评估如果只留下“整体风险较高”和一页产品截图,管理层无法决策,研发也无法修复。评估应当结束于一套能被不同角色使用的材料,而不是一场演示的气氛。

下面是我们建议作为默认交付包的内容。缺哪一项,就还不能称为评估完成。

01应当拿到的东西

资产与信任边界图。 模型、Agent、知识库、MCP、账号、外部输入画在一张图上。让未参与搭建的人能看懂数据从哪进来、从哪出去。

风险清单。 每条风险有对象、前提、影响、目前是否可利用。避免把“提示注入”写成一条没有系统名字的抽象词。

攻击路径。 用步骤说明:何种输入,经过哪次检索或哪次工具调用,到达何种结果。路径要短,要可复述。

验证证据。 输入摘要、关键上下文、工具请求与返回、策略是否拦截。证据应能被第三人核对,而不是只存在演示人员的口述里。

风险等级与业务含义。 技术描述翻译成:谁的数据、什么操作、停机还是泄露、是否不可逆。

修复建议。 按可执行性写:裁工具、加审批、检索过滤、拆分身份。不把“加强提示词”当成唯一措施。

复测结果。 对已修复项用同一条路径再走一遍。没复测的修复,只能算计划。

管理层摘要。 两页内说清:测了什么、最重要的三件事、建议的上线条件。

02不应当被算作交付

只有模型厂商的安全白皮书。

只有扫描器对底层主机的发现。

只有无法回放的现场演示。

只有口头承诺“生产里会关掉这个工具”。

03产品在其中的位置

KUROSHIO 适合承担规划、探索、工具调用、证据和报告这一段。它不能替代范围确认,也不能替代管理层做上线决定。评估公司卖的是判断和证据,不是把报告工具本身当成结论。

如果供应商不能按上面的清单交货,这次合作更接近概念验证,还不是可以写入风险台账的评估。