签了名也不安全:多智能体交接中的需求完整性
Xiaobo Chen, Genliang Zhu, Ziyuan Wang, Chu Wang
摘要
企业级 AI 智能体把用户请求拆给多个子智能体再合并结果,每次交接都可能把需求总结掉、改写掉或干脆忽略。本文报告一项预注册研究(合成任务、可精确判分),对比自由文本、结构化 JSON 与签名需求清单三种交接方式:编排器把每条需求抽成「逐字引文 + 可校验谓词」,由代码用 HMAC-SHA256 为清单签名,再由确定性代码校验合并方的决定。在 Qwen3-8B 上(1440 条轨迹、五类威胁),签名清单把攻击下的不安全提交从 69.4% 降到 9.0%(降低 60.4 个百分点),且相对结构化交接没有净损失合规提交。签名解决的是传输途中被篡改:未签名清单在 79% 的篡改运行中提交了违规,签名清单一次都没有。同一批轨迹上,确定性校验器抓出 78.7% 的违规决定(LLM 校验器 59.0%),误报 7% 对 50%。加「预言机清单」后剩余不安全提交归零,说明残余风险来自签名之前的抽取环节。预注册的「签名前注入」攻击印证了这一边界:一句对抗性文本把签名清单违规率从 14.6% 拉到 37.5%(Qwen3-8B)、11.1%→63.9%(gpt-oss-20b)、8.3%→75.0%(GPT-5.6-luna),而签名随后「认证」了被污染的清单。结论:签名保护的是传输中的需求,不是抽取环节;抽取步骤才是信任边界。
引用本文条目
GB/T 7714-2015
Xiaobo Chen, Genliang Zhu, Ziyuan Wang, et al. Signed but Not Safe: Requirement Integrity in Multi-Agent LLM Handoffs[EB/OL]. arXiv preprint (cs.CR / cs.AI / cs.MA), v1 submitted 2026-11-05; 34 pages, preregistered, 2026(2026-11-05)[2026-11-20]. https://arxiv.org/abs/2611.07483.
BibTeX
@misc{chen2026,
author = {Xiaobo Chen and Genliang Zhu and Ziyuan Wang and Chu Wang},
title = {Signed but Not Safe: Requirement Integrity in Multi-Agent LLM Handoffs},
year = {2026},
organization = {arXiv preprint (cs.CR / cs.AI / cs.MA), v1 submitted 2026-11-05; 34 pages, preregistered},
howpublished = {\url{https://arxiv.org/abs/2611.07483}},
} 本条目为「智联观察」资料库收录,引用时请注明来源与本页链接。