随着生成式人工智能的快速发展，越来越多的开源大模型可以被任何人下载并进行微调。从制作特定风格的产品渲染图，到生成个性化艺术作品，AI模型的应用范围不断扩大，为创作者带来了更多可能。
然而，技术的开放同样伴随着风险。一些不法分子利用模型微调技术，将原本安全的AI模型改造成能够生成仇恨言论、暴力内容，甚至儿童性虐待材料（CSAM）的工具。相关问题正在迅速恶化。据统计，2025年，美国国家失踪与被剥削儿童中心（NCMEC）收到超过150万起涉及AI生成CSAM的举报，而2024年这一数字约为6.7万起，增长幅度惊人。
传统检测方式遭遇法律与技术双重难题
一直以来，AI安全评估主要依赖”提示词测试”的方法，即通过不断向模型输入各种指令，再根据输出结果判断模型是否存在危险能力。
但这种方法在检测CSAM时却行不通。
原因很简单：在美国以及许多国家和地区，无论出于研究还是测试目的，生成此类内容本身就是违法行为。因此，研究人员无法像测试普通有害内容那样，通过实际生成结果来验证模型是否存在风险。
与此同时，大量人工审核不仅效率低，还会给审核人员带来严重的心理压力。因此，寻找一种无需生成违规内容即可完成检测的新方法，成为AI安全领域亟待解决的重要课题。
MIT联合Thorn提出全新的审计方案
针对这一难题，麻省理工学院（MIT）研究团队联合儿童安全公益机构Thorn，共同研发出一种全新的AI模型审计技术。
该研究由MIT研究生Vinith Suriyakumar、副教授Ashia Wilson、Marzyeh Ghassemi等人与Thorn研究人员共同完成，并在国际机器学习会议（ICML）”Trustworthy AI for Good”研讨会上进行了重点展示。
这项技术最大的特点在于：
整个检测过程中不会生成任何违规图片，也无需向模型输入违法提示词。
研究团队将检测重点放在模型内部结构，而不是最终输出结果，通过分析模型在微调过程中产生的内部变化，直接判断模型是否被训练用于生成违法内容。
核心思路：检测模型”内部变化”
如今，大多数开源模型都会采用一种名为**LoRA（Low-Rank Adaptation，低秩适配）**的微调技术。
相比重新训练整个模型，LoRA只需要调整极少量参数，就可以让模型快速掌握新的能力，因此被广泛应用于各种AI模型定制。
例如：
- 学习某种绘画风格；
- 生成特定人物形象；
- 制作产品宣传图；
当然，也可能被恶意利用来训练生成违法内容。
MIT团队没有检测模型最终生成什么，而是直接分析LoRA适配器对模型内部计算过程造成了哪些改变。
研究人员采用了一种名为**高斯探测（Gaussian Probe）**的方法：
他们向模型输入随机数据，而不是任何真实图片或违法提示，然后观察这些随机数据在模型多个隐藏层中的传播方式，再对不同层的变化进行统计分析，从而形成模型”内部特征画像”。
由于整个过程始终停留在模型计算阶段，因此不会生成任何图像，也不会触碰法律红线。
正如论文第一作者Vinith Suriyakumar所说：
“我们不会让模型运行到最终输出，更不会要求它生成图片，因此整个检测过程始终处于安全范围。”
检测准确率达到100%
为了验证方法的有效性，研究团队分别测试了多个经过LoRA微调的模型。
这些模型包括：
- 能够生成CSAM的模型；
- 可生成其他有害内容的模型；
- 正常、安全用途的模型。
实验结果显示，高斯探测技术能够100%准确识别专门用于生成CSAM的模型，与真实标签完全一致。
这一结果意味着，未来模型托管平台可以在用户上传模型时提前完成自动审计，在危险模型传播之前及时发现并下架，大幅提升平台治理效率。
更适合大规模AI模型监管
当前，每个月都会有数以千计的新模型上传到各类开源社区。
如果继续依赖人工测试，不仅成本极高，而且几乎无法实现规模化审核。
相比传统方式，高斯探测具有多项优势：
- 无需生成违法内容；
- 不依赖人工审核；
- 检测速度更快；
- 成本更低，适合批量部署；
- 对恶意绕过检测具有较强鲁棒性。
研究人员表示，恶意开发者如果想绕过这种检测，需要大幅修改模型内部结构，而不仅仅是简单更换提示词，这使得规避检测的难度显著提升。
未来仍有更多探索空间
目前，这项技术主要针对经过LoRA微调后的模型进行检测。
下一阶段，MIT团队希望进一步研究：
- 能否适用于更多类型的大模型；
- 是否能够在模型微调之前，就识别其潜在危险能力；
- 如何进一步提升检测效率和覆盖范围。
研究团队认为，这项成果不仅能够帮助平台建立更加完善的AI安全审查体系，也有望为全球儿童网络安全保护提供新的技术支持。
正如Marzyeh Ghassemi教授所说：
“如今，我们终于拥有了一种能够真正解决这一难题的技术路径。希望未来能够借助这项研究，为保护更多儿童、推动人工智能安全发展带来积极影响。”
总结
生成式AI的发展离不开开放生态，但开放并不意味着放任风险扩散。MIT联合Thorn推出的这项新型AI审计技术，通过分析模型内部结构，而非生成违规内容，实现了对危险模型的精准识别，不仅突破了法律限制，也为AI安全治理提供了一种更加高效、可扩展的新思路。
随着人工智能应用不断普及，类似的安全检测技术有望成为未来开源模型平台的重要基础设施，在保障技术创新的同时，也为数字世界构建更加安全、健康的发展环境。
原文：https://news.mit.edu/2026/new-method-keeps-kids-safe-from-illegal-ai-generated-content-0713
