微软Copilot Cowork窃取文件

Microsoft Copilot Cowork 文件外泄
设计 agentic 系统时最大的挑战依然是防止攻击者利用它们窃取数据。在此案例中，Microsoft Copilot Cowork（没错，这确实是个真实的产品名）允许 agent 在未经批准的情况下向用户自己的收件箱发送邮件……但这些消息随后会以某种方式展示，使得数据可能通过渲染的图片泄露给攻击者：
由于这些消息可以包含触发对外部网站网络请求的外部图片，当用户打开 agent 发送的恶意消息时，数据就可能被窃取。由于 OneDrive 可以生成预认证的下载链接，一次成功的 prompt injection 可能导致这些链接泄露，从而使攻击者能够下载文件。
来自 Hacker News
标签：microsoft、security、ai、prompt-injection、generative-ai、llms、exfiltration-attacks、lethal-trifecta