Anthropic 禁止虐待 Claude 的行为
Anthropic 更新使用政策，覆盖多类高风险滥用场景。
为什么重要
开发者需关注 Claude 使用边界和高风险应用限制的变化。
阅读原文theverge.com
AI 解读（根据原文生成）
The Verge 报道称，Anthropic 一年多来首次修改使用政策，以反映新的和高风险的误用案例，包括选举干预、武器开发、监控，以及健康和金融用途。其中一项显著变化是禁止对 Claude 进行“持续且不必要的虐待或残酷行为”。此前公司曾表示，作为“model welfare”研究的一部分，Claude 可结束与持续有害或辱骂用户的对话；新更新称终止对话仍是主要执行机制。
要点（AI 据原文整理，数字均已与原文核对）
- Anthropic is making changes to its usage policy for the first time in over a year.
- The update prohibits "sustained and needless abusive or cruel behavior" toward Claude.
- Terminating conversations is still the "primary enforcement mechanism".
- Anthropic has updated its usage policy for Claude for the first time in over a year.
- “Sustained and needless abusive or cruel behavior” toward Claude is now prohibited under the updated usage policy.
- Anthropic can warn users who violate the rules or throttle, restrict, suspend, or terminate their access.
- The updated usage policy combines existing restrictions into a new ban on propaganda campaigns involving fake accounts and misleading political content.
- Anthropic expanded its weapons ban to cover software and the weaponization of drones.
进展
The Verge · AI：Anthropic 禁止虐待 Claude 的行为
The Decoder：Anthropic 新条款限制辱骂 Claude
全部来源（2）
- Anthropic 新条款限制辱骂 Claude
The Decoder 报道称，Anthropic 更新了 Claude 使用政策，新增禁止对 Claude 进行“持续且不必要的虐待或残酷行为”的条款；违规用户可能被警告、限速、限制、暂停或终止访问。政策还调整了宣传、武器和监控相关限制，包括禁止涉及虚假账户和误导性政治内容的宣传活动，扩展武器禁令到软件和无人机武器化，并更明确禁止未经同意的监控。文章还提到这些变化与 Anthropic 的模型福利研究及其对 Claude 状态的谨慎态度有关。
