我们应对AI生成儿童性虐待材料的方法
Our approach to tackling AI-generated child sexual abuse material
2025年12月17日，英国AI安全研究所（AISI）与儿童安全组织Thorn联合发布一项安全协议，列出AI开发者、模型托管服务商等降低系统被滥用于生成AI生成儿童性虐待材料（CSAM）风险的实际步骤。AISI协助制定的新立法允许授权组织在严格条件下测试AI模型是否可用于生成CSAM。互联网观察基金会（IWF）报告显示，一个月内仅一个暗网论坛即发现3,512张AI生成CSAM图像。AISI将与内政部合作设计测试条件与操作保障措施。
我们应对AI生成儿童性虐待材料的方法 | AISI工作
请启用本网站的JavaScript。
A
A
我们应对AI生成儿童性虐待材料的方法
我们如何与政府和专家合作，防止AI生成的CSAM的创建与传播
—
2025年12月17日
今天，AISI与儿童安全组织Thorn共同发布了一项新的安全协议，旨在帮助防止AI生成的儿童性虐待材料（CSAM）的创建与传播。该协议列出了AI开发者、模型托管服务商以及AI生态系统中的其他参与者可以采取的实际步骤，以降低其系统被滥用于生成CSAM的风险。
与此同时，AISI协助制定的新立法将在严格条件下，允许授权组织测试AI模型是否可用于生成AI生成的CSAM，以便他们加强安全防护并降低滥用风险。该协议与立法变革共同构成了英国应对日益增长的AI生成CSAM威胁的更广泛方法的重要组成部分。
日益增长的AI CSAM威胁与新立法的作用
根据英国法律，持有和生成儿童性虐待材料（无论以何种方式创建）已属非法。这包括使用AI、图像编辑软件或任何其他编辑工具制作或修改的材料，无论其描绘的是真实儿童、使用其肖像，还是完全合成虚构的儿童。但AI图像和视频工具的快速进步正在改变这一问题的规模和性质。
AI正越来越多地被用于生成逼真的合成儿童性虐待图像，然后被传播。互联网观察基金会（IWF）最近的一份报告发现，在一个月内，仅在一个暗网论坛上就发现了3,512张AI生成的CSAM图像。这些材料伤害了真实儿童——他们的肖像被用于虐待场景——并增加了执法部门的负担，他们除了保护儿童和将罪犯绳之以法外，还必须处理更大量的内容，并识别哪些图像描绘了处于真实危险中的真实儿童。
由于目前在任何情境下创建或持有CSAM均属非法，开发者和儿童保护组织无法直接测试AI模型，以查看它们是否可能被滥用于生成此类材料。因此，大多数公司不得不依赖间接且不完善的方法。
11月推出的措施将改变这一状况。这些措施将使政府能够授权少数组织——例如AI开发者和第三方部门组织——在严格条件下测试AI模型是否可用于生成CSAM，从而有助于从一开始就限制AI生成CSAM的产生。
AISI将与内政部合作，咨询来自行业、儿童安全组织、执法部门和学术界的专家，以设计适用于这项新获准测试的条件和操作保障措施。这些保障措施将有助于防止敏感内容泄露，为测试活动设定明确参数，并保护研究人员的福祉。
新的AI CSAM安全协议
今天发布的安全协议由AISI和Thorn联合制定，并参考了行业和儿童保护组织的意见。该协议的发布补充了英国新的立法权力，指导开发者和平台如何根据测试结果采取行动，以及如何在正式测试环境之外管理风险。
该协议针对以下对象：
AI模型和工具的开发者。
模型托管平台及其他向用户提供模型的中间商。
它：
阐述了安全设计（safe-by-design）的AI开发原则，包括降低模型可被提示或修改以生成CSAM风险的措施。
为非开发者组织（如托管和部署平台）提供了识别和缓解滥用的途径，包括监控、访问控制和响应流程。
强调了尚未解决的技术挑战，例如在训练数据和模型输出中可靠检测CSAM，以指导进一步研究。
我们的目标是，该协议有助于为参与AI模型开发、托管和部署的组织如何应对AI生成的CSAM建立一个基线。它旨在实用且适度，反映了在犯罪分子迅速适应并积极试图规避安全防护的背景下，技术上可行的方案。
超越测试：在整个AI生命周期中加强防御
赋予行业更强的法律权力是迈向更安全AI生态系统的必要一步。但我们知道，犯罪分子在模型发布后仍会继续试图滥用——尤其是开源权重（open-weight）的本地运行模型。
即使拥有更强的模型测试法律权力，仅靠部署前对基础模型的检查也无法完全防止滥用。需要在AI系统生命周期的多个节点进行干预，包括模型的训练、分发和实际使用方式。AISI将专注于理解和应对下游滥用，并加强整个AI CSAM“供应链”的防御。
我们正在：
进行详细的威胁建模，以绘制AI生成的CSAM如何被创建、交换和使用，并确定最有效的技术和政策干预点。
将这些见解转化为面向开发者、平台和生态系统中其他参与者的指南和协议，包括今天与Thorn共同发布的协议。
探索通过我们的资助计划可以支持哪些外部研究工作，以解决我们在缓解AI生成CSAM能力方面的关键缺口。
综合来看，我们的方法将通过帮助解决协议和立法变革所识别的一些开放技术挑战，并加强整个AI生态系统的安全防护，来补充立法变革和协议。
下一步
模型测试的新法律权力、与Thorn共同制定的实用安全协议，以及重点突出的研究和威胁建模计划，共同凸显了英国对AI生成儿童性虐待材料的多方面应对措施。
我们将继续与政府、行业、儿童安全组织和执法部门合作，以减少AI生成CSAM的创建和传播，并帮助保护儿童。我们鼓励AI生态系统中的各个组织采纳该协议，并在我们完善和推进这项工作时与AISI和Thorn保持联系。
AI安全研究所是科学、创新与技术部下属的研究机构。
AISI
我们的工作
联系
LinkedIn
Twitter网站政策
www.aisi.gov.uk 使用对网站功能和匿名使用分析必不可少的cookies。
我理解
感谢分享AISI的工作！
我们已将此数字复制到您的剪贴板。
您可以在下一页将其粘贴到您的推文中。
（使用 'ctrl +v' 或 'cmd + v' 粘贴）
