信任不是分数：面向高风险AI代理的运行时保证契约（Runtime Assurance Contracts）

摘要

基准、审计与代理协议描述了性能、权限与修复，却未说明观察到的证据应如何改变代理在关键任务中的权限，此即保证转换缺口。作者提出运行时保证契约（RAC），一种策略级形式化模式，绑定自主边界、组件资格、证据状态、转换策略、人工审查容量与非补偿性门控。软指标可指导路由，但强制门控失败或未知时必须重试、切换、升级、推迟或停止，聚合性能不能授权行动。研究定义契约、证据记录、权限规则与五条不变量，并在临床、工业与司法故障探测中说明，随后报告代理式编程中的确定性故障注入研究：280个构造案例由门控合取、纯分数规则与受限协议基线评估。在已发布权重与阈值下，分数规则放行100个需阻断注入中的80个及全部40个需审查注入；事后调优后在该语料上与合取一致。对正权重、正阈值、二元风险信号、零信号对照及单独触发各信号的注入案例，证明当且仅当阈值不超过最小权重时完全一致。另18条人工轨迹检验版本固定证据与审查转换。在24个前瞻性合成留出回合中，两名盲评LLM裁判对全部72次动作尝试标签一致，RAC与独立实现的全状态基线均匹配。这些研究仅在合成案例上检验机制，既未确立部署安全性，也未确立跨域有效性。