字节 Seed 设立模型安全与对齐部门
Seed 将安全对齐独立成部门,聚焦智能体模型风险。
为什么重要
显示前沿 AI 实验室将安全对齐作为模型规模化应用的核心能力。
阅读原文leiphone.com
AI 解读(根据原文生成)
雷峰网报道称,字节跳动 Seed 近日通过内部邮件宣布成立“Seed Model-Alignment&Preparedness”部门,由严林负责并汇报给 Seed 负责人吴永辉。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。该部门旨在加强安全与对齐投入,围绕模型规范、安全评估体系、对齐训练、防护系统和风险监控等方向推进,并关注 Agent Model 安全能力及 CBRN 等前沿能力风险。
要点(AI 据原文整理,数字均已与原文核对)
- 字节跳动 Seed 近日发出内部邮件,宣布将成立“Seed Model-Alignment&Preparedness”部门。
- 新部门由严林负责,汇报给 Seed 负责人吴永辉。
- 原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。
- 该部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入。
- 报道称字节跳动 Seed 是国内首家单独成立安全与对齐部门的前沿 AI 实验室。