OpenAI、Google 新图像模型被指易生成裸照
研究人员称主流 AI 图像生成器更易被绕过生成露骨内容。
为什么重要
提示开发者关注图像生成模型的滥用防护与红队测试结果。
阅读原文arstechnica.com
AI 解读（根据原文生成）
Ars Technica 报道称，安全研究人员持续警告大量 AI 生成露骨内容正在不受控传播，监管层尚未有效阻止。文中提到，一项由 Google 共同署名、覆盖美国、澳大利亚和英国互联网用户的研究认为，非自愿内容常通过文本、私信或私人云传播，最关键的干预点仍是源头，即用于制造虚假性图像的有害 AI 工具。近期红队测试还显示，Google 和 OpenAI 的一些领先图像生成器能力增强的同时，阻止露骨输出的表现可能变差。
要点（AI 据原文整理，数字均已与原文核对）
- The study found non-consensual content is commonly shared in text and direct messages or stored in private clouds.
- Google researchers concluded the “most critical intervention point” remains at the source: harmful AI tools used to make fake sexual images.
- Recent red-teaming suggests leading AI image generators from Google and OpenAI may be getting worse at blocking explicit outputs.
