字节跳动单设大模型安全部门：给狂奔的智能体套上对齐的缰绳

字节跳动正在给自家的大模型系上一根更结实的缰绳。10月13日，其 AI 模型部门 Seed 对内发出通知，决定单独成立一个新部门，专门负责把控大模型的安全风险。这个新部门来头不小——它的一把手不再层层汇报，而是直接越过中间层级，向字节跳动大模型的"一号位"吴永辉本人汇报，足见这件事在公司内部的权重。

新部门被命名为"Seed Model - Alignment & Preparedness"，由严林挂帅。严林是字节 Seed 团队的核心高管之一，过去几年一直把守着豆包大模型"对齐"（Alignment）这道关。字节对外解释，设立这个部门的初衷，是要在安全与对齐方向上砸下更重的投入。所谓"对齐"，说白了就是让模型的所作所为始终贴着人类的真实意图和安全边界走，别自己跑偏;落到产品层面，你能在豆包这类聊天机器人的回答合规性、问答质量，乃至价值观取向上，直接感受到它的存在。

这根缰绳要勒住的不只是闲聊时的失言。字节把提升 Agent Model（智能体模型）的安全能力写进了部门目标，更明确把防范 CBRN——也就是化学、生物、放射、核这类最危险的前沿能力——列为重点盯防对象。当智能体越来越能自己调用工具、自己完成长链条任务，它潜在的破坏半径也在同步放大，给这样的系统单独配一支"安全卫士"队伍，等于在模型真正学会独立行动之前，先把刹车和方向盘都攥在人手里。

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/