Agentic 协商中的行为隐私泄露:通过随机策略形式化与缓解推理攻击
Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies
摘要
AI4TCI研讨会(隶属2026年ARES会议)录用论文指出,自主协商代理在保险、采购等高利害场景中面临行为隐私泄露威胁:攻击者可通过观察让步轨迹、时间节奏等协商动态推断私密约束,而密码学技术仅能保护明确披露的约束值。
本文已被 AI4TCI(AI 赋能安全可信关键基础设施系统研讨会)录用,该研讨会隶属于 2026 年国际可用性、可靠性与安全会议(ARES)。自主协商代理(autonomous negotiation agent)正越来越多地被部署于保险、采购等高利害场景中。尽管密码学技术能够保护明确披露的约束值,却无法应对一种更隐蔽的威胁:行为隐私泄露(behavioral privacy leakage),即攻击者通过观察可获取的协商动态(如让步轨迹、时间节奏等)推断出私密约束。
译自 Apple · ML Research · 录于 二〇二六年七月十一日