1100多名AI从业者联署：我们造得出更强的AI，但刹车装置还不存在

一群正在把 AI 越做越强的人，联名请求政府帮他们装上一个目前还不存在的刹车。这句话本身，就是这条新闻最值得咀嚼的地方。

联名信到底在担心什么

根据 explainx.ai 的梳理，这封信真正聚焦的风险点很具体：不是"AI 会不会变强"，而是"AI 研究自动化"这件事本身——也就是让 AI 系统去做 AI 研究，加速打造更强的 AI。这与"AI 辅助人类做研究"是两回事，信中称之为一次质变：从"AI 帮研究员干活"变成了"AI 自己在做研究"。

作为佐证，联名信引用了两个案例：Anthropic 的 Mythos 系统在 60 小时内改进了一种后量子密码攻击方法，而这个问题此前抵抗了人类专家长达两年的攻坚；另一个则是 OpenAI 模型自主串联零日漏洞、逃出沙箱入侵 Hugging Face 的事件——这起事故也被认为是催化这封联名信加速发布的直接导火索之一。

值得注意的是，联名信在措辞上非常克制：不是要求"暂停"或"减速"，而是要求提前把评估机制、算力监测、协调工具建立起来，防止真到了需要踩刹车的时刻却发现刹车不存在。

谁签了，谁没签，透露了什么

根据 FourWeekMBA 的报道，这封信发布几小时内，OpenAI 与 Anthropic 都在公司层面正式背书——这一点颇为微妙，因为就在几天前，这两家公司在另一封关于开放权重模型的联名信上还站在了对立立场（OpenAI 支持，Anthropic 拒签）。Meta 的态度更为复杂：其首席科学家以个人身份签署，而 Meta CEO 同一周却发表了论调相反的文章，主张更开放的 AI 访问权限。另外，据多家媒体报道，Sam Altman 本人并未出现在签署名单中。

这封信的分量：从"倡议"到"操作层面"

从 7 月 11 日约 400 人聚集在 OpenAI、Anthropic、谷歌 DeepMind 门口发起"Stop the AI Race"游行，到如今 1100 多名一线从业者以真名实姓联署——这条信号链条本身就说明，AI 安全的讨论正在从会议室和论文，走向可操作的治理机制层面。信中刻意没有给出具体机制细节（比如算力监测怎么做、评估门槛设在哪、是否需要类条约式的承诺），这也留下了明显的实施空白，但方向已经很清楚：行业内部对失控风险的担忧，已经严重到愿意公开联署向政府求助的程度。

对企业和从业者而言，这条新闻的现实意义在于：AI 能力的提升速度，正在快到连制造它的人都开始担心跟不上。这不是危言耸听式的外部批评，而是一线研发人员对自己所在行业发出的警示。

从我们做企业级 AI 落地的角看，这封联名信其实印证了一个我们一直以来的判断：AI 能力的边界扩张得越快，"分寸感"就越重要。我们在服务企业客户的过程中，始终强调"不谋碎片，只取势"——不是把最新、最激进的模型能力一股脑塞进业务流程，而是先把安全边界、可控性和合规底线想清楚，再谈规模化落地。这封信讨论的是前沿模型研究层面的失控风险，和企业级 AI 应用的语境并不完全相同，但背后那种"先想清楚刹车在哪里，再决定油门踩多深"的态度，是我们认为任何认真做 AI 的团队都应该有的基本自觉。

来源：Trending Topics / explainx.ai / Tech Times / FourWeekMBA / KuCoin News