闭环激活引导向扩散语言模型注入偏见
利用去噪过程中的激活反馈动态调节引导强度实施定向偏见攻击。
为什么重要
指出 dLLM 去噪轨迹可成为新的控制通道，偏见审计需覆盖服务栈。
阅读原文arxiv.org
AI 解读（根据原文生成）
论文研究 masked diffusion language models（dLLMs）中的 targeted bias injection：由于 dLLM 在提交 token 前会多次暴露答案分布，攻击者可访问内部激活并监控目标答案概率。作者用比例-积分（PI）控制器在去噪过程中动态调整 steering vector 强度，诱导冻结的 dLLM 输出攻击者选择的人口属性答案。实验在 BBQ 和 SocialStigmaQA 上显示攻击能显著提高目标偏好或污名化答案选择率。代码已提供在 GitHub。
要点（AI 据原文整理，数字均已与原文核对）
- 攻击使用比例-积分（PI）控制器，在去噪过程中跟踪目标答案概率并动态调整 steering vector 强度。
- 在 ambiguous BBQ questions 上，攻击将 LLaDA-8B-Instruct 对目标群体的偏好从 1.8 提高到 16.7 percentage points。
- 在 SocialStigmaQA 上，污名化答案选择率从 17.6% 提高到 58.1%。
- 针对其他 demographic targets，同一攻击最多可将答案移动 37 percentage points。
- 每次攻击在 one GPU 上约需 40 minutes。
- 相同平均强度的 constant steering 会产生小得多的转移，同时破坏 nearly three times as many outputs。
