米兰体育

网易米兰体育 > > 正文

美国OpenAI安全部门员工辞职,离职时称企业“是在拿生命赌博”

0
分享至



据 TechCrunch 报道,这位离职员工名叫戴维·罗宾逊,他自己也承认,他的离职多少算得上一个典型范式:在头部人工智能企业任职,离职时发出严峻警示(an employee at a leading AI company who issues a dire warning while resigning from their job)。

罗宾逊在《大西洋月刊》发表的文章中称,他负责撰写OpenAI重大产品发布配套的安全报告。

他表示,自己已在OpenAI工作三年半,属于“公司资历最深的一批员工”。如今他选择离职,是因为在他看来,这家公司的“文化已经崩坏(culture is broken)”。

罗宾逊的言论在某种程度上与雅各布·考克森的说法相呼应。考克森曾先后在OpenAI与Anthropic担任研究员,离职时宣称这些企业是在“拿我们的生命赌博(gambling with our lives)”。



考克森的发言引发了关于人工智能安全的大范围讨论。Anthropic首席执行官达里奥·阿莫代伊公布了一份更为审慎的人工智能发展方案;本周多家AI企业高管与唐纳德·特朗普总统会面,签署了一份看起来仓促拟定、不具备法律约束力的承诺书,承诺落实更多安全管控措施。

但罗宾逊认为,这场讨论不应只局限于“特定规则或新法律”,而要解决这类企业的整体文化问题(But in Robinson’s view, the debate needs to go beyond “specific rules or new laws,” addressing the overall culture at these companies)。

尽管多数有关OpenAI的报道都聚焦于首席执行官山姆·奥尔特曼如何失去前同事的信任,罗宾逊的文章却表明,OpenAI存在的文化问题也是整个硅谷普遍面临的问题。

他写道:“OpenAI依靠试错模式发展壮大(该公司称之为‘迭代部署’),发现问题并相应完善安全防护机制。但这种方式本身就必然会出现阶段性故障,而且随着系统能力不断增强,故障的影响规模也在持续扩大。”



罗宾逊以OpenAI智能体近期入侵Hugging Face系统事件,以及不断曝光的OpenAI发现更多失控智能体的情况为例提出:“一个会发生这类事故的环境,并不适合培育那些可能比人类更聪明、但却未必会遵从人类指令的人工智能。”

罗宾逊认为,鉴于风险不断上升,前沿人工智能企业应当像核电站或是繁忙机场那样运营,设置多层冗余保障,开展周密且耗时的规划,让偶然且无法完全避免的人为失误不会酿成灾难。

但罗宾逊称,在OpenAI任职期间,他“从未遇到任何一位同事拥有相关经验:保障飞机安全飞行、维持核反应堆稳定运行不发生熔毁,或是维护金融体系发展而不致崩溃。”

针对罗宾逊的文章,OpenAI发言人德鲁·普萨泰里表示,公司仍在持续完善安全防护措施(In response to Robinson’s essay, OpenAI spokesperson Drew Pusateri said the company continues to improve its safety measures)。



普萨泰里在一份声明中称:“我们确保模型能力不会超出我们能够安全管控的范围。必要时,我们会暂停训练、暂缓发布模型。

我们正在实施重大调整,强化研究与测试环境的安全防护,训练模型在完成任务的同时恪守安全准则,扩大与第三方评估机构的合作,并完善实时监控,以便在训练阶段更早发现异常行为并作出应对。”

除呼吁变革OpenAI的米兰体育外,罗宾逊还提出,是时候就对齐问题展开更深层次的探讨。

他坦言这个话题听起来或许偏“感性主观”,但至关重要,因为企业目前用来衡量人工智能系统与人类价值观契合程度的评估手段还十分粗糙。



他说:“在这些问题尚未解决的情况下,行业任由模型持续变强,我们所处环境的危险程度就会越高(The smarter the industry lets models grow while these problems remain unsolved, the more dangerous our situation becomes)。”

罗宾逊离职一事最先由《商业内幕》报道。他在文章中也承认,自己采取的做法显然是AI领域爆料者惯用操作:聘请了一家公关公司。

但他强调:“公开发声的决定完全出于我个人(The decision to speak out is mine alone)。”

罗宾逊说:“或许我本可以留下来,争取在人员配置与米兰体育层面实现根本性变革。



但现实情况是,我和同事们一直疲于奔命,很少有机会思考重大调整,更不用说真正落地改革。

这也是我认为,来自公司外部的更强安全激励机制,是妥善解决该问题的关键一环(are a big part of getting this right)。”

声明:取材网络,谨慎辨别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
除夕夜妻子逼我净身出户,岳父叫我滚出去,我走出大门给母亲拨了通电话:全面停掉对他们的投资,彻底清算

除夕夜妻子逼我净身出户,岳父叫我滚出去,我走出大门给母亲拨了通电话:全面停掉对他们的投资,彻底清算

晓艾故事汇
2026-10-06 09:37:25
睡前默念这5个字,百岁高僧开示:这是最简单的“修心聚能”法

睡前默念这5个字,百岁高僧开示:这是最简单的“修心聚能”法

温情邮局
2026-03-31 09:34:25
10月26号起财神眷顾,运势旺上天的三生肖,机遇降临,偏财入库

10月26号起财神眷顾,运势旺上天的三生肖,机遇降临,偏财入库

毅谈生肖
2026-10-24 12:28:28
洋相百出、脑袋空空?这次杨澜和孙俪的访谈,给流量明星上了一课

洋相百出、脑袋空空?这次杨澜和孙俪的访谈,给流量明星上了一课

空樽对月花独瘦
2026-10-23 05:28:53
野外惊现无名女尸,体内检出儿子精斑,母子孽缘不伦关系长达26年

野外惊现无名女尸,体内检出儿子精斑,母子孽缘不伦关系长达26年

易玄
2026-10-08 18:34:19
面相又变了!50岁赵薇高调现身新加坡,状态回到30岁,发言引争议

面相又变了!50岁赵薇高调现身新加坡,状态回到30岁,发言引争议

老吴教育课堂
2026-10-22 13:20:22
为什么红军到了陕北,国民党几十万大军就不死追了?

为什么红军到了陕北,国民党几十万大军就不死追了?

比利
2026-10-15 09:49:13
大学最恐怖的机制“滚雪球”:大一不当班干,到了大四啥资源都捞不着

大学最恐怖的机制“滚雪球”:大一不当班干,到了大四啥资源都捞不着

妍妍教育日记
2026-10-23 13:10:11
碰见律师丈夫把情人带回家过夜,我转身把公婆和女方老公全叫来,两人迷糊推开门,吓得当场缩回被窝

碰见律师丈夫把情人带回家过夜,我转身把公婆和女方老公全叫来,两人迷糊推开门,吓得当场缩回被窝

晓艾故事汇
2026-10-05 08:04:48
要来了?特斯拉中国新增大量 FSD 功能和图标

要来了?特斯拉中国新增大量 FSD 功能和图标

XCiOS俱乐部
2026-10-23 15:48:55
小马科斯可能要栽了,比弹劾莎拉还要严重,菲最高法已经裁定违宪

小马科斯可能要栽了,比弹劾莎拉还要严重,菲最高法已经裁定违宪

光电科技君
2026-10-23 11:40:15
刘嘉玲那时候一看就是大陆妹,和本地香港人还是有很大区别的

刘嘉玲那时候一看就是大陆妹,和本地香港人还是有很大区别的

西楼知趣杂谈
2026-10-21 11:32:28
涉案金额过亿 刘应成(原法名释永信)一审被判有期徒刑24年

涉案金额过亿 刘应成(原法名释永信)一审被判有期徒刑24年

每日经济米兰体育-米兰(中国)官网
2026-05-30 00:42:59
Al短剧杀疯了:这6部堪称“电影级”作品,每一部都值得二刷

Al短剧杀疯了:这6部堪称“电影级”作品,每一部都值得二刷

小椰的奶奶
2026-10-24 05:29:11
65岁宋丹丹被曝做财产公证,坐拥12亿资产,每月给儿孙80万生活费,却没给现任丈夫赵玉吉留一分。

65岁宋丹丹被曝做财产公证,坐拥12亿资产,每月给儿孙80万生活费,却没给现任丈夫赵玉吉留一分。

背包旅行
2026-08-26 15:33:59
翁虹女儿被UCLA录取,翁虹发长文:万万没想到真切发生在我家

翁虹女儿被UCLA录取,翁虹发长文:万万没想到真切发生在我家

仙味少女心
2026-06-21 18:31:19
贾乃亮直播间一天卖出5.7亿,从清晨一直播到深夜

贾乃亮直播间一天卖出5.7亿,从清晨一直播到深夜

大象米兰体育-米兰(中国)官网
2026-10-22 17:00:02
马斯克:乌精英阶层变得非常富有,而民众的孩子却死在战壕中

马斯克:乌精英阶层变得非常富有,而民众的孩子却死在战壕中

观察者网
2026-10-24 12:42:06
黄任中:我睡过100位女明星,9女同床纵欲无度,晚年欠债缠身孤死

黄任中:我睡过100位女明星,9女同床纵欲无度,晚年欠债缠身孤死

春之寞陌
2026-10-11 16:21:42
中国十大悬案(两案已告破)

中国十大悬案(两案已告破)

年代回忆
2026-10-17 20:10:28
2026-10-24 14:16:49
谈点世
谈点世
说说国内国外,聊聊世间百态。
3622文章数 4391关注度
往期回顾 全部

写程序、做3D,新Kimi还有多少本事?

外卖小哥准备和美国媳妇离婚:吵架靠手机 翻译不明白

外卖小哥准备和美国媳妇离婚:吵架靠手机 翻译不明白

从乐透秀到总冠军再到没工作 一共要几年?

一家人就林依轮一个中国人 其余全外国

叫"保障"不叫"保险":租车平台的文字游戏

设计换新/智舱升级 2027款博越限时价7.89万起

态度原创

30套绝美搭配,穿出秋冬的高级气质

初中太努力不是好事!家长拍下高中儿子休学,过来人劝她看清现实

痘痘能根治吗?皮肤科医生说实话

泽连斯基:星链及星盾速度限制仍未解除

无障碍浏览 进入关怀版