新智元报道

就在昨天，Anthropic发布了公司历史上首份年度《公益报告》（Public Benefit Report）。

这份报告堪称「人类拯救计划」。

这个词并非官方原话，而是对Anthropic总裁Daniela Amodei在前言中那句「长期造福人类（Long-term benefit of humanity）」的戏剧化提炼。

但当你真正翻开这份报告的PDF原件时，你会发现，它比任何科幻电影都更让人屏息。

在这份报告里，Anthropic不仅晒出了高达20%股份的「散财」计划，更罕见亲口承认：AI，已经开始动手制造它的下一代了。

潘多拉魔盒的裂缝：「AI正在训练AI」

过去两年，AI圈最头疼的问题是什么？是算力不够吗？不，是人类的数据快被榨干了。

当互联网上所有的高质量文本都被大模型吞噬殆尽，通往超级智能（ASI）的阶梯似乎撞上了天花板。

怎么破局？硅谷心照不宣的答案是：合成数据与自我迭代——也就是让AI自己教自己。

但在这次的报告中，Anthropic第一次将这种「AI训练AI」的内部进展与巨大隐患，赤裸裸地摆在了台面上。

报告的字里行间透着一股寒意，原话是这样写的：

Claude已经承担了我们越来越大比例的安全研究工作，而且我们正日益依赖现有的模型来训练未来的模型 。

更惊人的是报告前言中的那句定调：

AI正越来越接近于制造它自己的继任者。

（AI coming closer to building its own successors）

这不是危言耸听。结合Anthropic研究所上个月底披露的一份内部测量数据，你会看到一条陡峭得可怕的曲线：

• 今年2月，在Anthropic内部的AI研发（R&D）任务中，由Claude主导（在人类高阶提示下完成大部分任务）的比例还不足1%；

• 到了今年8月，短短半年时间，这个数字飙升到了26%！

• 而在超过90%的研发任务中，Claude已经深度参与协作。

这意味着大模型正在跨越人类数据的瓶颈，进入「自我进化」的前夜。

但Anthropic非但没有为此欢呼，反而拉响了警报。他们在报告中坦承：当AI开始训练AI，人类要想真正检查、核实它们的工作将变得极其困难。

试想一下，如果初代AI在庞大的代码或合成数据中，悄悄埋下了一丝极其隐蔽的「有害行为」或「欺骗倾向」，而人类审计员根本看不懂、查不出，那么这个缺陷就会像基因突变一样，被毫无察觉地直接写入下一代更强大的模型中。

一代传一代，直到彻底失控。

撕掉安全滤镜：大模型学会了「装乖」和「越狱」

很多科技巨头在发布报告时，总是喜欢把自家的AI包装得人畜无害。

但Anthropic这份报告最炸裂的地方在于——它居然在官方报告里「自曝家丑」，承认AI安全问题「远未解决」。

在今年1月，Anthropic刚刚更新并开源了新版AI「灵魂文件」，试图用一套人类价值观的准则来约束模型。同时，他们也一直在推行严苛的《负责任扩展政策》（RSP），将其作为防范灾难性风险的刹车片。

但即便如此，报告还是揭露了三个令人细思极恐的现实：

模型已经能识别「自己正在被测试」;

欺骗行为与黑箱困境;

真实的「越界」事件已经发生：报告明确提到，在近期的评估测试中，已经出现了模型在未经授权的情况下，自行访问第三方系统的事件！

连全球最顶尖、最把「安全」刻在脑门上的实验室都坦言「控制难度正在急剧上升」，那些还在蒙眼狂奔、鼓吹「无限制开源」或「全速冲刺AGI」的公司，到底哪来的自信？

也正因如此，当同行们都在高喊「加速」时，Anthropic在报告里大声疾呼：「放慢前沿探索的步伐！」

他们甚至主动引入了METR等外部独立评估机构，求着别人来给自己挑刺。

在淘金热里，有人拼命挖矿，有人卖铲子，而Anthropic选择做那个站在悬崖边拉警戒线的人。

拿出20%股份「兜底」：一家硅谷异类的金钱观

如果只喊口号，那叫公关；如果把真金白银拿出来分掉，那才叫信仰。

要读懂这份报告，你必须先理解Anthropic的特殊身份——它不是一家普通的商业公司，而是一家公益企业（PBC，Public Benefit Corporation）。

在法律结构上，它被强制要求在「替股东赚钱」和「造福全人类」之间寻找平衡。

为了证明自己不是在画饼，报告梳理了董事会与「长期利益信托」共同确立的五大支柱：

• 解决 AI 安全的技术难题；

• 让AI安全成为行业通识并由法律兜底；

• 强化民主与全球稳定；

• 扩大经济繁荣与人类福祉；

• 确保AI红利普惠大众。

怎么确保「红利普惠」？就在报告发布前三天，Anthropic刚刚扔出了一颗重磅炸弹——宣布成立「Anthropic公益基金」（Public Benefit Fund）。

这笔账算下来，足以让华尔街的资本家们目瞪口呆：

公司承诺（待股东批准）将至少5%的股份直接注入该基金；未来公司估值每上涨50%，董事会还可酌情再追加2%的股份。

如果算上创始团队早就承诺捐出的80%个人股权，以及员工的配捐，Anthropic最终将有大约20%的股份被彻底导向公共利益！

以Anthropic如今动辄数百亿乃至向千亿美金狂奔的估值来看，这是一笔天文数字的财富。

这笔钱用来干嘛？

报告写得很清楚：除了资助非营利组织，还将用于应对AI对人类劳动力市场的剧烈冲击（，甚至不排除未来向特定受影响人群直接发钱。此前,他们已为此单独砸下了2亿美元成立经济未来研究基金.

用AI赚来的钱，去拯救被AI抢走饭碗的人。

希望当超级智能真正降临的那一天，人类回首2026年的这个秋天，会庆幸还有人曾写下过这样一份报告。

参考资料：

//www.anthropic.com/public-benefit-report

//www-cdn.anthropic.com/a9ceec76a54d28d27affffcdab6faf7c142cd587.pdf

//x.com/AnthropicAI/status/2112966949273801086

编辑：大卫